Skip to main content
POST
La API de moderación de contenido está diseñada para ayudar a los desarrolladores a identificar contenido de texto potencialmente dañino o inapropiado. Este endpoint analiza la entrada de texto y la clasifica según distintos tipos de contenido problemático.

Características principales

  • Detección automática de contenido dañino.
  • Múltiples categorías de texto problemático.
  • Fácil integración para el filtrado de contenido.

Cómo funciona

Cuando envías texto al endpoint de moderación, se usan modelos de OpenAI para analizar el contenido. A continuación, la API devuelve los resultados indicando si el texto entra en alguna de las categorías problemáticas definidas.

Categorías de contenido dañino

La API clasifica el texto en las siguientes categorías:

Uso y buenas prácticas

  1. Longitud óptima del texto: para obtener mejores resultados, recomendamos dividir textos largos en fragmentos más pequeños. Procura que cada segmento tenga menos de 2000 caracteres.
  2. Integración: usa esta API para marcar automáticamente contenido potencialmente problemático en tus aplicaciones, foros o plataformas con contenido generado por usuarios.
  3. Acciones sobre los resultados: en función del resultado de la API, puedes implementar acciones adecuadas como el filtrado de contenido, avisos a los usuarios o procesos adicionales de revisión.

Parámetros de cabecera

Parámetros del cuerpo

string
El texto que se analizará para su moderación.
string
La URL de la imagen. Debe empezar por https://.