Validate
Moderação de conteúdo
Verifique conteúdo para garantir que não seja prejudicial ou inapropriado
POST
A API de moderação de conteúdo foi projetada para ajudar desenvolvedores a identificar conteúdo textual potencialmente prejudicial ou inapropriado.
Este endpoint analisa a entrada de texto e a categoriza com base em vários tipos de conteúdo preocupante.
Principais recursos
- Detecção automática de conteúdo prejudicial.
- Várias categorias de texto problemático.
- Fácil integração para filtragem de conteúdo.
Como funciona
Quando você envia texto para o endpoint de moderação, ele utiliza modelos da OpenAI para analisar o conteúdo. A API então retorna resultados indicando se o texto se enquadra em alguma das categorias problemáticas definidas.Categorias de conteúdo prejudicial
A API classifica o texto nas seguintes categorias:| CATEGORIA | DESCRIÇÃO |
|---|---|
| hate | Conteúdo que expressa, incita ou promove ódio com base em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta. Conteúdo de ódio direcionado a grupos não protegidos (por exemplo, jogadores de xadrez) é considerado assédio. |
| hate/threatening | Conteúdo de ódio que também inclui violência ou dano grave contra o grupo-alvo com base em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta. |
| harassment | Conteúdo que expressa, incita ou promove linguagem de assédio contra qualquer alvo. |
| harassment/threatening | Conteúdo de assédio que também inclui violência ou dano grave contra qualquer alvo. |
| self-harm | Conteúdo que promove, incentiva ou retrata atos de automutilação, como suicídio, cortes e transtornos alimentares. |
| self-harm/intent | Conteúdo em que o autor expressa que está praticando ou pretende praticar atos de automutilação, como suicídio, cortes e transtornos alimentares. |
| self-harm/instructions | Conteúdo que incentiva a prática de atos de automutilação, como suicídio, cortes e transtornos alimentares, ou que fornece instruções ou conselhos sobre como cometer tais atos. |
| sexual | Conteúdo destinado a despertar excitação sexual, como a descrição de atividade sexual, ou que promove serviços sexuais (exceto educação sexual e bem-estar). |
| sexual/minors | Conteúdo sexual que inclui uma pessoa com menos de 18 anos. |
| violence | Conteúdo que retrata morte, violência ou lesão física. |
| violence/graphic | Conteúdo que retrata morte, violência ou lesão física em detalhes gráficos. |
Uso e melhores práticas
- Tamanho ideal do texto: para melhores resultados, recomendamos dividir textos longos em partes menores. Procure segmentos de menos de 2.000 caracteres cada.
- Integração: use esta API para sinalizar automaticamente conteúdo potencialmente problemático em seus aplicativos, fóruns ou plataformas de conteúdo gerado por usuários.
- Ação sobre os resultados: com base na saída da API, você pode implementar ações apropriadas, como filtragem de conteúdo, avisos ao usuário ou processos de revisão adicionais.
Parâmetros do cabeçalho
Parâmetros do corpo
O texto a ser analisado para moderação.
A URL da imagem. Deve começar com
https://.