मुख्य सामग्री पर जाएं
POST
कंटेंट मॉडरेशन API डेवलपर्स को संभावित रूप से हानिकारक या अनुचित टेक्स्ट कंटेंट की पहचान करने में मदद करने के लिए डिज़ाइन किया गया है। यह एंडपॉइंट टेक्स्ट इनपुट का विश्लेषण करता है और उसे विभिन्न प्रकार की चिंताजनक कंटेंट श्रेणियों में वर्गीकृत करता है।

मुख्य विशेषताएँ

  • हानिकारक कंटेंट का स्वचालित पता लगाना।
  • समस्याजनक टेक्स्ट की कई श्रेणियाँ।
  • कंटेंट फ़िल्टरिंग के लिए आसान एकीकरण।

यह कैसे काम करता है

जब आप मॉडरेशन एंडपॉइंट पर टेक्स्ट सबमिट करते हैं, तो यह कंटेंट का विश्लेषण करने के लिए OpenAI मॉडल का उपयोग करता है। फिर API परिणाम लौटाता है जो दर्शाता है कि क्या टेक्स्ट किसी परिभाषित समस्याजनक श्रेणी में आता है।

हानिकारक कंटेंट की श्रेणियाँ

API टेक्स्ट को निम्नलिखित श्रेणियों में वर्गीकृत करता है:

उपयोग और सर्वोत्तम अभ्यास

  1. इष्टतम टेक्स्ट लंबाई: सर्वोत्तम परिणामों के लिए, हम लंबे टेक्स्ट को छोटे टुकड़ों में विभाजित करने की अनुशंसा करते हैं। प्रत्येक खंड 2,000 वर्णों से कम रखने का लक्ष्य रखें।
  2. एकीकरण: अपने अनुप्रयोगों, फ़ोरम, या उपयोगकर्ता-जनित कंटेंट प्लेटफ़ॉर्म में संभावित रूप से समस्याजनक कंटेंट को स्वचालित रूप से चिह्नित करने के लिए इस API का उपयोग करें।
  3. परिणामों पर कार्रवाई: API के आउटपुट के आधार पर, आप कंटेंट फ़िल्टरिंग, उपयोगकर्ता चेतावनियाँ, या आगे की समीक्षा प्रक्रियाओं जैसी उपयुक्त क्रियाएँ लागू कर सकते हैं।

Header Parameters

Body Parameters

text
string
मॉडरेशन के लिए विश्लेषण करने योग्य टेक्स्ट।
imageUrl
string
छवि का URL। https:// से शुरू होना चाहिए।