Skip to main content
POST
A API de moderação de conteúdo foi projetada para ajudar desenvolvedores a identificar conteúdo textual potencialmente prejudicial ou inapropriado. Este endpoint analisa a entrada de texto e a categoriza com base em vários tipos de conteúdo preocupante.

Principais recursos

  • Detecção automática de conteúdo prejudicial.
  • Várias categorias de texto problemático.
  • Fácil integração para filtragem de conteúdo.

Como funciona

Quando você envia texto para o endpoint de moderação, ele utiliza modelos da OpenAI para analisar o conteúdo. A API então retorna resultados indicando se o texto se enquadra em alguma das categorias problemáticas definidas.

Categorias de conteúdo prejudicial

A API classifica o texto nas seguintes categorias:

Uso e melhores práticas

  1. Tamanho ideal do texto: para melhores resultados, recomendamos dividir textos longos em partes menores. Procure segmentos de menos de 2.000 caracteres cada.
  2. Integração: use esta API para sinalizar automaticamente conteúdo potencialmente problemático em seus aplicativos, fóruns ou plataformas de conteúdo gerado por usuários.
  3. Ação sobre os resultados: com base na saída da API, você pode implementar ações apropriadas, como filtragem de conteúdo, avisos ao usuário ou processos de revisão adicionais.

Parâmetros do cabeçalho

Parâmetros do corpo

string
O texto a ser analisado para moderação.
string
A URL da imagem. Deve começar com https://.