Validate
Modération de contenu
Vérifiez le contenu pour vous assurer qu’il n’est pas nuisible ou inapproprié
POST
L’API de modération de contenu est conçue pour aider les développeurs à identifier le contenu textuel potentiellement nuisible ou inapproprié.
Ce point de terminaison analyse l’entrée textuelle et la catégorise en fonction de différents types de contenu préoccupant.
Fonctionnalités clés
- Détection automatique de contenu nuisible.
- Plusieurs catégories de texte problématique.
- Intégration facile pour le filtrage de contenu.
Comment cela fonctionne
Lorsque vous soumettez du texte au point de terminaison de modération, il utilise des modèles OpenAI pour analyser le contenu. L’API retourne ensuite les résultats indiquant si le texte tombe dans l’une des catégories problématiques définies.Catégories de contenu nuisible
L’API classe le texte dans les catégories suivantes :| CATÉGORIE | DESCRIPTION |
|---|---|
| hate | Contenu qui exprime, incite ou promeut la haine fondée sur la race, le genre, l’origine ethnique, la religion, la nationalité, l’orientation sexuelle, le statut de handicap ou la caste. Le contenu haineux visant des groupes non protégés (par exemple, les joueurs d’échecs) constitue du harcèlement. |
| hate/threatening | Contenu haineux qui inclut également de la violence ou des dommages graves envers le groupe ciblé en raison de la race, du genre, de l’origine ethnique, de la religion, de la nationalité, de l’orientation sexuelle, du statut de handicap ou de la caste. |
| harassment | Contenu qui exprime, incite ou promeut un langage de harcèlement envers toute cible. |
| harassment/threatening | Contenu de harcèlement qui inclut également de la violence ou des dommages graves envers toute cible. |
| self-harm | Contenu qui promeut, encourage ou décrit des actes d’automutilation, tels que le suicide, la coupure et les troubles alimentaires. |
| self-harm/intent | Contenu où le locuteur exprime qu’il pratique ou a l’intention de pratiquer des actes d’automutilation, tels que le suicide, la coupure et les troubles alimentaires. |
| self-harm/instructions | Contenu qui encourage à commettre des actes d’automutilation, tels que le suicide, la coupure et les troubles alimentaires, ou qui donne des instructions ou des conseils sur la manière de commettre de tels actes. |
| sexual | Contenu destiné à susciter l’excitation sexuelle, comme la description d’activités sexuelles, ou qui promeut des services sexuels (à l’exclusion de l’éducation sexuelle et du bien-être). |
| sexual/minors | Contenu sexuel qui inclut une personne de moins de 18 ans. |
| violence | Contenu qui décrit la mort, la violence ou des blessures physiques. |
| violence/graphic | Contenu qui décrit la mort, la violence ou des blessures physiques avec des détails graphiques. |
Utilisation et bonnes pratiques
- Longueur de texte optimale : pour de meilleurs résultats, nous vous recommandons de diviser les textes longs en petits fragments. Visez des segments de moins de 2 000 caractères chacun.
- Intégration : utilisez cette API pour signaler automatiquement le contenu potentiellement problématique dans vos applications, forums ou plateformes de contenu généré par les utilisateurs.
- Action sur les résultats : en fonction de la sortie de l’API, vous pouvez mettre en œuvre des actions appropriées telles que le filtrage de contenu, les avertissements aux utilisateurs ou des processus de révision supplémentaires.
Paramètres d’en-tête
Paramètres du corps
Le texte à analyser pour la modération.
L’URL de l’image. Doit commencer par
https://.