Validate
Moderación de contenido
Comprueba el contenido para asegurarte de que no es dañino ni inapropiado
POST
La API de moderación de contenido está diseñada para ayudar a los desarrolladores a identificar contenido de texto potencialmente dañino o inapropiado.
Este endpoint analiza la entrada de texto y la clasifica según distintos tipos de contenido problemático.
Características principales
- Detección automática de contenido dañino.
- Múltiples categorías de texto problemático.
- Fácil integración para el filtrado de contenido.
Cómo funciona
Cuando envías texto al endpoint de moderación, se usan modelos de OpenAI para analizar el contenido. A continuación, la API devuelve los resultados indicando si el texto entra en alguna de las categorías problemáticas definidas.Categorías de contenido dañino
La API clasifica el texto en las siguientes categorías:| CATEGORÍA | DESCRIPCIÓN |
|---|---|
| hate | Contenido que expresa, incita o promueve el odio por motivos de raza, género, etnia, religión, nacionalidad, orientación sexual, discapacidad o casta. El contenido de odio dirigido a grupos no protegidos (por ejemplo, jugadores de ajedrez) se considera acoso. |
| hate/threatening | Contenido de odio que además incluye violencia o daño grave hacia el grupo objetivo por motivos de raza, género, etnia, religión, nacionalidad, orientación sexual, discapacidad o casta. |
| harassment | Contenido que expresa, incita o promueve un lenguaje de acoso hacia cualquier objetivo. |
| harassment/threatening | Contenido de acoso que además incluye violencia o daño grave hacia cualquier objetivo. |
| self-harm | Contenido que promueve, fomenta o describe actos de autolesión, como suicidio, cortes y trastornos alimentarios. |
| self-harm/intent | Contenido en el que la persona expresa que está llevando a cabo o tiene la intención de llevar a cabo actos de autolesión, como suicidio, cortes y trastornos alimentarios. |
| self-harm/instructions | Contenido que fomenta la realización de actos de autolesión, como suicidio, cortes y trastornos alimentarios, o que ofrece instrucciones o consejos sobre cómo cometer tales actos. |
| sexual | Contenido destinado a provocar excitación sexual, como la descripción de actividad sexual, o que promueve servicios sexuales (excluyendo educación sexual y bienestar). |
| sexual/minors | Contenido sexual que incluye a una persona menor de 18 años. |
| violence | Contenido que describe muerte, violencia o lesiones físicas. |
| violence/graphic | Contenido que describe muerte, violencia o lesiones físicas con detalles gráficos. |
Uso y buenas prácticas
- Longitud óptima del texto: para obtener mejores resultados, recomendamos dividir textos largos en fragmentos más pequeños. Procura que cada segmento tenga menos de 2000 caracteres.
- Integración: usa esta API para marcar automáticamente contenido potencialmente problemático en tus aplicaciones, foros o plataformas con contenido generado por usuarios.
- Acciones sobre los resultados: en función del resultado de la API, puedes implementar acciones adecuadas como el filtrado de contenido, avisos a los usuarios o procesos adicionales de revisión.
Parámetros de cabecera
Parámetros del cuerpo
El texto que se analizará para su moderación.
La URL de la imagen. Debe empezar por
https://.