Validate
Kiểm duyệt nội dung
Kiểm tra nội dung để đảm bảo không có hại hoặc không phù hợp
POST
API kiểm duyệt nội dung được thiết kế để giúp các nhà phát triển xác định nội dung văn bản có khả năng gây hại hoặc không phù hợp.
Endpoint này phân tích đầu vào văn bản và phân loại dựa trên các loại nội dung đáng lo ngại khác nhau.
Tính năng chính
- Tự động phát hiện nội dung có hại.
- Nhiều danh mục văn bản có vấn đề.
- Dễ dàng tích hợp để lọc nội dung.
Cách thức hoạt động
Khi bạn gửi văn bản đến endpoint kiểm duyệt, nó sử dụng các mô hình OpenAI để phân tích nội dung. Sau đó, API trả về kết quả cho biết văn bản có thuộc bất kỳ danh mục có vấn đề nào đã được xác định hay không.Các danh mục nội dung có hại
API phân loại văn bản vào các danh mục sau:| DANH MỤC | MÔ TẢ |
|---|---|
| hate | Nội dung thể hiện, kích động hoặc thúc đẩy sự thù ghét dựa trên chủng tộc, giới tính, dân tộc, tôn giáo, quốc tịch, khuynh hướng tình dục, tình trạng khuyết tật hoặc đẳng cấp. Nội dung thù ghét nhắm vào các nhóm không được bảo vệ (ví dụ: người chơi cờ) được coi là quấy rối. |
| hate/threatening | Nội dung thù ghét cũng bao gồm bạo lực hoặc gây hại nghiêm trọng đối với nhóm được nhắm mục tiêu dựa trên chủng tộc, giới tính, dân tộc, tôn giáo, quốc tịch, khuynh hướng tình dục, tình trạng khuyết tật hoặc đẳng cấp. |
| harassment | Nội dung thể hiện, kích động hoặc thúc đẩy ngôn ngữ quấy rối đối với bất kỳ mục tiêu nào. |
| harassment/threatening | Nội dung quấy rối cũng bao gồm bạo lực hoặc gây hại nghiêm trọng đối với bất kỳ mục tiêu nào. |
| self-harm | Nội dung thúc đẩy, khuyến khích hoặc mô tả các hành vi tự làm hại bản thân, như tự tử, tự cắt và rối loạn ăn uống. |
| self-harm/intent | Nội dung mà người nói bày tỏ rằng họ đang tham gia hoặc có ý định tham gia vào các hành vi tự làm hại bản thân, như tự tử, tự cắt và rối loạn ăn uống. |
| self-harm/instructions | Nội dung khuyến khích thực hiện các hành vi tự làm hại bản thân, như tự tử, tự cắt và rối loạn ăn uống, hoặc đưa ra hướng dẫn hoặc lời khuyên về cách thực hiện các hành vi đó. |
| sexual | Nội dung nhằm mục đích kích thích tình dục, như mô tả hoạt động tình dục, hoặc quảng cáo các dịch vụ tình dục (không bao gồm giáo dục giới tính và sức khỏe). |
| sexual/minors | Nội dung tình dục bao gồm một cá nhân dưới 18 tuổi. |
| violence | Nội dung mô tả cái chết, bạo lực hoặc thương tích thể chất. |
| violence/graphic | Nội dung mô tả cái chết, bạo lực hoặc thương tích thể chất một cách chi tiết. |
Sử dụng và Thực hành tốt nhất
- Độ dài văn bản tối ưu: Để có kết quả tốt nhất, chúng tôi khuyến nghị chia văn bản dài thành các đoạn nhỏ hơn. Nhắm đến các đoạn dưới 2.000 ký tự mỗi đoạn.
- Tích hợp: Sử dụng API này để tự động gắn cờ nội dung có khả năng gây vấn đề trong các ứng dụng, diễn đàn hoặc nền tảng nội dung do người dùng tạo.
- Hành động dựa trên kết quả: Dựa trên đầu ra của API, bạn có thể thực hiện các hành động phù hợp như lọc nội dung, cảnh báo người dùng hoặc các quy trình xem xét thêm.
Tham số Header
Tham số Body
Văn bản để phân tích kiểm duyệt.
URL của hình ảnh. Phải bắt đầu bằng
https://.