跳转到主要内容
POST
內容審核 API 旨在協助開發者辨識可能有害或不當的文字內容。 此端點會分析你輸入的文字,並依據多種類型的問題內容進行分類。

主要特色

  • 自動偵測有害內容。
  • 多種類別的問題文字。
  • 可輕鬆整合以進行內容過濾。

運作方式

當你將文字傳送至此審核端點時,它會透過 OpenAI 模型分析內容。API 接著會回傳結果,指出該文字是否屬於已定義的問題類別。

有害內容類別

此 API 會將文字分類為以下類別:
類別說明
hate基於種族、性別、族裔、宗教、國籍、性向、身心障礙狀態或種姓,表達、煽動或宣揚仇恨的內容。針對非受保護群體(例如西洋棋玩家)的仇恨內容屬於騷擾(harassment)。
hate/threatening仇恨內容且同時包含基於種族、性別、族裔、宗教、國籍、性向、身心障礙狀態或種姓對目標群體的暴力或嚴重傷害。
harassment對任何對象表達、煽動或宣揚騷擾語言的內容。
harassment/threatening騷擾內容且同時包含對任何對象的暴力或嚴重傷害。
self-harm宣揚、鼓勵或描繪自我傷害行為(例如自殺、自殘與飲食失調)的內容。
self-harm/intent敘述者表達自己正在進行或打算進行自我傷害行為(例如自殺、自殘與飲食失調)的內容。
self-harm/instructions鼓勵進行自我傷害行為(例如自殺、自殘與飲食失調)的內容,或提供如何進行此類行為的指示或建議。
sexual意圖引發性興奮的內容,例如描述性行為,或宣傳性服務(不含性教育與健康養護)。
sexual/minors包含未滿 18 歲個體的性內容。
violence描繪死亡、暴力或身體傷害的內容。
violence/graphic以圖像化細節描繪死亡、暴力或身體傷害的內容。

使用方式與最佳實務

  1. 最佳文字長度:為求最佳結果,我們建議將長文字切分為較小的區段。建議每段少於 2,000 字元。
  2. 整合方式:使用此 API 自動標記你的應用程式、論壇或使用者產生內容平台上可能有問題的內容。
  3. 依結果採取行動:根據 API 的輸出結果,你可以採取適當的行動,例如過濾內容、警示使用者,或進一步審查流程。

標頭參數

Body 參數

text
string
要進行審核分析的文字。
imageUrl
string
圖片的 URL。必須以 https:// 開頭。