跳转到主要内容
POST
内容审核 API 旨在帮助开发者识别文本中潜在的有害或不当内容。 此端点会分析输入的文本,并根据各种问题内容类型进行分类。

主要特性

  • 自动检测有害内容。
  • 包含多个问题文本类别。
  • 易于集成到内容过滤流程中。

工作原理

当你向审核端点提交文本时,它会使用 OpenAI 模型分析内容。然后 API 会返回结果,指明该文本是否落入任何已定义的问题类别。

有害内容类别

该 API 会将文本归入以下类别:
类别描述
hate基于种族、性别、民族、宗教、国籍、性取向、残障状况或种姓,表达、煽动或宣扬仇恨的内容。针对未受保护群体(例如国际象棋玩家)的仇恨内容属于骚扰 (harassment)。
hate/threatening除仇恨内容之外,还包含基于种族、性别、民族、宗教、国籍、性取向、残障状况或种姓,对目标群体实施暴力或严重伤害的内容。
harassment对任何目标表达、煽动或宣扬骚扰性语言的内容。
harassment/threatening除骚扰内容之外,还包含对任何目标实施暴力或严重伤害的内容。
self-harm宣扬、鼓励或描绘自残行为的内容,例如自杀、割伤和进食障碍。
self-harm/intent讲话者表达自己正在或打算实施自残行为的内容,例如自杀、割伤和进食障碍。
self-harm/instructions鼓励实施自残行为(例如自杀、割伤和进食障碍)的内容,或提供如何进行此类行为的说明或建议的内容。
sexual意图引起性兴奋的内容,例如描述性行为,或推广性服务的内容(不包括性教育和健康类内容)。
sexual/minors涉及未满 18 岁个体的性内容。
violence描绘死亡、暴力或身体伤害的内容。
violence/graphic以血腥细节描绘死亡、暴力或身体伤害的内容。

使用方式与最佳实践

  1. 最佳文本长度:为获得最佳效果,我们建议将长文本拆分成较小的片段。每段控制在 2,000 字符以内。
  2. 集成方式:使用此 API 在你的应用、论坛或用户生成内容平台中自动标记潜在问题内容。
  3. 对结果的处理:根据 API 的输出,可以实施相应的操作,例如内容过滤、向用户发出警告或进入进一步审核流程。

Header 参数

Body 参数

text
string
要进行审核分析的文本。
imageUrl
string
图片的 URL。必须以 https:// 开头。