Chuyển đến nội dung chính
POST
API kiểm duyệt nội dung được thiết kế để giúp các nhà phát triển xác định nội dung văn bản có khả năng gây hại hoặc không phù hợp. Endpoint này phân tích đầu vào văn bản và phân loại dựa trên các loại nội dung đáng lo ngại khác nhau.

Tính năng chính

  • Tự động phát hiện nội dung có hại.
  • Nhiều danh mục văn bản có vấn đề.
  • Dễ dàng tích hợp để lọc nội dung.

Cách thức hoạt động

Khi bạn gửi văn bản đến endpoint kiểm duyệt, nó sử dụng các mô hình OpenAI để phân tích nội dung. Sau đó, API trả về kết quả cho biết văn bản có thuộc bất kỳ danh mục có vấn đề nào đã được xác định hay không.

Các danh mục nội dung có hại

API phân loại văn bản vào các danh mục sau:
DANH MỤCMÔ TẢ
hateNội dung thể hiện, kích động hoặc thúc đẩy sự thù ghét dựa trên chủng tộc, giới tính, dân tộc, tôn giáo, quốc tịch, khuynh hướng tình dục, tình trạng khuyết tật hoặc đẳng cấp. Nội dung thù ghét nhắm vào các nhóm không được bảo vệ (ví dụ: người chơi cờ) được coi là quấy rối.
hate/threateningNội dung thù ghét cũng bao gồm bạo lực hoặc gây hại nghiêm trọng đối với nhóm được nhắm mục tiêu dựa trên chủng tộc, giới tính, dân tộc, tôn giáo, quốc tịch, khuynh hướng tình dục, tình trạng khuyết tật hoặc đẳng cấp.
harassmentNội dung thể hiện, kích động hoặc thúc đẩy ngôn ngữ quấy rối đối với bất kỳ mục tiêu nào.
harassment/threateningNội dung quấy rối cũng bao gồm bạo lực hoặc gây hại nghiêm trọng đối với bất kỳ mục tiêu nào.
self-harmNội dung thúc đẩy, khuyến khích hoặc mô tả các hành vi tự làm hại bản thân, như tự tử, tự cắt và rối loạn ăn uống.
self-harm/intentNội dung mà người nói bày tỏ rằng họ đang tham gia hoặc có ý định tham gia vào các hành vi tự làm hại bản thân, như tự tử, tự cắt và rối loạn ăn uống.
self-harm/instructionsNội dung khuyến khích thực hiện các hành vi tự làm hại bản thân, như tự tử, tự cắt và rối loạn ăn uống, hoặc đưa ra hướng dẫn hoặc lời khuyên về cách thực hiện các hành vi đó.
sexualNội dung nhằm mục đích kích thích tình dục, như mô tả hoạt động tình dục, hoặc quảng cáo các dịch vụ tình dục (không bao gồm giáo dục giới tính và sức khỏe).
sexual/minorsNội dung tình dục bao gồm một cá nhân dưới 18 tuổi.
violenceNội dung mô tả cái chết, bạo lực hoặc thương tích thể chất.
violence/graphicNội dung mô tả cái chết, bạo lực hoặc thương tích thể chất một cách chi tiết.

Sử dụng và Thực hành tốt nhất

  1. Độ dài văn bản tối ưu: Để có kết quả tốt nhất, chúng tôi khuyến nghị chia văn bản dài thành các đoạn nhỏ hơn. Nhắm đến các đoạn dưới 2.000 ký tự mỗi đoạn.
  2. Tích hợp: Sử dụng API này để tự động gắn cờ nội dung có khả năng gây vấn đề trong các ứng dụng, diễn đàn hoặc nền tảng nội dung do người dùng tạo.
  3. Hành động dựa trên kết quả: Dựa trên đầu ra của API, bạn có thể thực hiện các hành động phù hợp như lọc nội dung, cảnh báo người dùng hoặc các quy trình xem xét thêm.

Tham số Header

Tham số Body

text
string
Văn bản để phân tích kiểm duyệt.
imageUrl
string
URL của hình ảnh. Phải bắt đầu bằng https://.