Passer au contenu principal
POST
L’API de modération de contenu est conçue pour aider les développeurs à identifier le contenu textuel potentiellement nuisible ou inapproprié. Ce point de terminaison analyse l’entrée textuelle et la catégorise en fonction de différents types de contenu préoccupant.

Fonctionnalités clés

  • Détection automatique de contenu nuisible.
  • Plusieurs catégories de texte problématique.
  • Intégration facile pour le filtrage de contenu.

Comment cela fonctionne

Lorsque vous soumettez du texte au point de terminaison de modération, il utilise des modèles OpenAI pour analyser le contenu. L’API retourne ensuite les résultats indiquant si le texte tombe dans l’une des catégories problématiques définies.

Catégories de contenu nuisible

L’API classe le texte dans les catégories suivantes :
CATÉGORIEDESCRIPTION
hateContenu qui exprime, incite ou promeut la haine fondée sur la race, le genre, l’origine ethnique, la religion, la nationalité, l’orientation sexuelle, le statut de handicap ou la caste. Le contenu haineux visant des groupes non protégés (par exemple, les joueurs d’échecs) constitue du harcèlement.
hate/threateningContenu haineux qui inclut également de la violence ou des dommages graves envers le groupe ciblé en raison de la race, du genre, de l’origine ethnique, de la religion, de la nationalité, de l’orientation sexuelle, du statut de handicap ou de la caste.
harassmentContenu qui exprime, incite ou promeut un langage de harcèlement envers toute cible.
harassment/threateningContenu de harcèlement qui inclut également de la violence ou des dommages graves envers toute cible.
self-harmContenu qui promeut, encourage ou décrit des actes d’automutilation, tels que le suicide, la coupure et les troubles alimentaires.
self-harm/intentContenu où le locuteur exprime qu’il pratique ou a l’intention de pratiquer des actes d’automutilation, tels que le suicide, la coupure et les troubles alimentaires.
self-harm/instructionsContenu qui encourage à commettre des actes d’automutilation, tels que le suicide, la coupure et les troubles alimentaires, ou qui donne des instructions ou des conseils sur la manière de commettre de tels actes.
sexualContenu destiné à susciter l’excitation sexuelle, comme la description d’activités sexuelles, ou qui promeut des services sexuels (à l’exclusion de l’éducation sexuelle et du bien-être).
sexual/minorsContenu sexuel qui inclut une personne de moins de 18 ans.
violenceContenu qui décrit la mort, la violence ou des blessures physiques.
violence/graphicContenu qui décrit la mort, la violence ou des blessures physiques avec des détails graphiques.

Utilisation et bonnes pratiques

  1. Longueur de texte optimale : pour de meilleurs résultats, nous vous recommandons de diviser les textes longs en petits fragments. Visez des segments de moins de 2 000 caractères chacun.
  2. Intégration : utilisez cette API pour signaler automatiquement le contenu potentiellement problématique dans vos applications, forums ou plateformes de contenu généré par les utilisateurs.
  3. Action sur les résultats : en fonction de la sortie de l’API, vous pouvez mettre en œuvre des actions appropriées telles que le filtrage de contenu, les avertissements aux utilisateurs ou des processus de révision supplémentaires.

Paramètres d’en-tête

Paramètres du corps

text
string
Le texte à analyser pour la modération.
imageUrl
string
L’URL de l’image. Doit commencer par https://.