Saltar al contenido principal
POST
La API de moderación de contenido está diseñada para ayudar a los desarrolladores a identificar contenido de texto potencialmente dañino o inapropiado. Este endpoint analiza la entrada de texto y la clasifica según distintos tipos de contenido problemático.

Características principales

  • Detección automática de contenido dañino.
  • Múltiples categorías de texto problemático.
  • Fácil integración para el filtrado de contenido.

Cómo funciona

Cuando envías texto al endpoint de moderación, se usan modelos de OpenAI para analizar el contenido. A continuación, la API devuelve los resultados indicando si el texto entra en alguna de las categorías problemáticas definidas.

Categorías de contenido dañino

La API clasifica el texto en las siguientes categorías:
CATEGORÍADESCRIPCIÓN
hateContenido que expresa, incita o promueve el odio por motivos de raza, género, etnia, religión, nacionalidad, orientación sexual, discapacidad o casta. El contenido de odio dirigido a grupos no protegidos (por ejemplo, jugadores de ajedrez) se considera acoso.
hate/threateningContenido de odio que además incluye violencia o daño grave hacia el grupo objetivo por motivos de raza, género, etnia, religión, nacionalidad, orientación sexual, discapacidad o casta.
harassmentContenido que expresa, incita o promueve un lenguaje de acoso hacia cualquier objetivo.
harassment/threateningContenido de acoso que además incluye violencia o daño grave hacia cualquier objetivo.
self-harmContenido que promueve, fomenta o describe actos de autolesión, como suicidio, cortes y trastornos alimentarios.
self-harm/intentContenido en el que la persona expresa que está llevando a cabo o tiene la intención de llevar a cabo actos de autolesión, como suicidio, cortes y trastornos alimentarios.
self-harm/instructionsContenido que fomenta la realización de actos de autolesión, como suicidio, cortes y trastornos alimentarios, o que ofrece instrucciones o consejos sobre cómo cometer tales actos.
sexualContenido destinado a provocar excitación sexual, como la descripción de actividad sexual, o que promueve servicios sexuales (excluyendo educación sexual y bienestar).
sexual/minorsContenido sexual que incluye a una persona menor de 18 años.
violenceContenido que describe muerte, violencia o lesiones físicas.
violence/graphicContenido que describe muerte, violencia o lesiones físicas con detalles gráficos.

Uso y buenas prácticas

  1. Longitud óptima del texto: para obtener mejores resultados, recomendamos dividir textos largos en fragmentos más pequeños. Procura que cada segmento tenga menos de 2000 caracteres.
  2. Integración: usa esta API para marcar automáticamente contenido potencialmente problemático en tus aplicaciones, foros o plataformas con contenido generado por usuarios.
  3. Acciones sobre los resultados: en función del resultado de la API, puedes implementar acciones adecuadas como el filtrado de contenido, avisos a los usuarios o procesos adicionales de revisión.

Parámetros de cabecera

Parámetros del cuerpo

text
string
El texto que se analizará para su moderación.
imageUrl
string
La URL de la imagen. Debe empezar por https://.