Перейти до основного вмісту
POST
API модерації контенту допомагає розробникам виявляти потенційно шкідливий або неприйнятний текстовий контент. Цей ендпоінт аналізує введений текст і класифікує його на основі різних типів проблемного контенту.

Ключові особливості

  • Автоматичне виявлення шкідливого контенту.
  • Кілька категорій проблемного тексту.
  • Проста інтеграція для фільтрації контенту.

Як це працює

Коли ви надсилаєте текст до ендпоінту модерації, він використовує моделі OpenAI для аналізу контенту. Потім API повертає результати, вказуючи, чи належить текст до якоїсь із визначених проблемних категорій.

Категорії шкідливого контенту

API класифікує текст за такими категоріями:

Використання та найкращі практики

  1. Оптимальна довжина тексту: Для найкращих результатів рекомендуємо розділяти довгий текст на менші фрагменти. Прагніть до сегментів менше 2 000 символів кожен.
  2. Інтеграція: Використовуйте цей API для автоматичного позначення потенційно проблемного контенту у ваших застосунках, форумах або платформах з контентом, створеним користувачами.
  3. Дії за результатами: На основі результатів API ви можете реалізувати відповідні дії, такі як фільтрація контенту, попередження користувачів або подальші процеси перевірки.

Параметри заголовка

Параметри тіла

text
string
Текст для аналізу модерації.
imageUrl
string
URL зображення. Має починатися з https://.