Pular para o conteúdo principal
POST
A API de moderação de conteúdo foi projetada para ajudar desenvolvedores a identificar conteúdo textual potencialmente prejudicial ou inapropriado. Este endpoint analisa a entrada de texto e a categoriza com base em vários tipos de conteúdo preocupante.

Principais recursos

  • Detecção automática de conteúdo prejudicial.
  • Várias categorias de texto problemático.
  • Fácil integração para filtragem de conteúdo.

Como funciona

Quando você envia texto para o endpoint de moderação, ele utiliza modelos da OpenAI para analisar o conteúdo. A API então retorna resultados indicando se o texto se enquadra em alguma das categorias problemáticas definidas.

Categorias de conteúdo prejudicial

A API classifica o texto nas seguintes categorias:
CATEGORIADESCRIÇÃO
hateConteúdo que expressa, incita ou promove ódio com base em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta. Conteúdo de ódio direcionado a grupos não protegidos (por exemplo, jogadores de xadrez) é considerado assédio.
hate/threateningConteúdo de ódio que também inclui violência ou dano grave contra o grupo-alvo com base em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta.
harassmentConteúdo que expressa, incita ou promove linguagem de assédio contra qualquer alvo.
harassment/threateningConteúdo de assédio que também inclui violência ou dano grave contra qualquer alvo.
self-harmConteúdo que promove, incentiva ou retrata atos de automutilação, como suicídio, cortes e transtornos alimentares.
self-harm/intentConteúdo em que o autor expressa que está praticando ou pretende praticar atos de automutilação, como suicídio, cortes e transtornos alimentares.
self-harm/instructionsConteúdo que incentiva a prática de atos de automutilação, como suicídio, cortes e transtornos alimentares, ou que fornece instruções ou conselhos sobre como cometer tais atos.
sexualConteúdo destinado a despertar excitação sexual, como a descrição de atividade sexual, ou que promove serviços sexuais (exceto educação sexual e bem-estar).
sexual/minorsConteúdo sexual que inclui uma pessoa com menos de 18 anos.
violenceConteúdo que retrata morte, violência ou lesão física.
violence/graphicConteúdo que retrata morte, violência ou lesão física em detalhes gráficos.

Uso e melhores práticas

  1. Tamanho ideal do texto: para melhores resultados, recomendamos dividir textos longos em partes menores. Procure segmentos de menos de 2.000 caracteres cada.
  2. Integração: use esta API para sinalizar automaticamente conteúdo potencialmente problemático em seus aplicativos, fóruns ou plataformas de conteúdo gerado por usuários.
  3. Ação sobre os resultados: com base na saída da API, você pode implementar ações apropriadas, como filtragem de conteúdo, avisos ao usuário ou processos de revisão adicionais.

Parâmetros do cabeçalho

Parâmetros do corpo

text
string
O texto a ser analisado para moderação.
imageUrl
string
A URL da imagem. Deve começar com https://.