メインコンテンツへスキップ
POST
コンテンツモデレーション API は、開発者が潜在的に有害または不適切なテキストコンテンツを特定するのを支援するために設計されています。 このエンドポイントはテキスト入力を分析し、さまざまな種類の懸念すべきコンテンツに基づいて分類します。

主な機能

  • 有害なコンテンツの自動検出。
  • 問題のあるテキストの複数のカテゴリ。
  • コンテンツフィルタリングのための容易な統合。

動作の仕組み

モデレーションエンドポイントにテキストを送信すると、OpenAI モデルを使用してコンテンツを分析します。次に API は、テキストが定義された問題のあるカテゴリのいずれかに該当するかを示す結果を返します。

有害コンテンツのカテゴリ

API は以下のカテゴリにテキストを分類します:

使用方法とベストプラクティス

  1. 最適なテキスト長: 最良の結果を得るには、長いテキストを小さなチャンクに分割することを推奨します。それぞれ 2,000 文字未満のセグメントを目指してください。
  2. 統合: この API を使用して、アプリケーション、フォーラム、ユーザー生成コンテンツプラットフォームにおける潜在的に問題のあるコンテンツを自動的にフラグ付けします。
  3. 結果に対するアクション: API の出力に基づいて、コンテンツフィルタリング、ユーザーへの警告、追加レビュープロセスなどの適切なアクションを実装できます。

ヘッダーパラメータ

ボディパラメータ

text
string
モデレーション用に分析するテキストです。
imageUrl
string
画像の URL です。https:// で始まる必要があります。