एआई मॉडरेशन में सेटिंग्स भर गईं

एआई मॉडरेशन छह तैयार विषयों के साथ आया था — ठगी, फ़िशिंग, जुआ और उनके साथी। यह वह सब ढक देता है जो सबको खलता है, पर हर चैट की अपनी सूची होती है कि वहाँ क्या बेजा है, और वह किसी और की सूची से कम ही मिलती है। डेढ़ महीने में इस ब्लॉक ने वह सब पा लिया जिसकी कमी थी।

आम शब्दों में अपने नियम#

सबसे बड़ा जोड़। «नियम» टैब में अंतर्निर्मित विषयों के साथ अपने नियम भी जोड़े जा सकते हैं। नियम यह वर्णन है कि क्या पकड़ना है, बॉट को दिया गया आदेश नहीं: पकड़ी गई चीज़ का क्या करना है, यह दंड-शृंखला तय करती है, बाक़ी ब्लॉकों की तरह।

यह आम पाठ में लिखा जाता है, बिना किसी वाक्य-रचना के — न कोष्ठक, न जोड़, न विशेष चिह्न:

• गाली-गलौज या अपमान वाले संदेश;
• काम और कमाई के प्रस्ताव, «निजी में लिखिए» और नौकरी वाले चैनलों के लिंक समेत;
• मछली पकड़ने के सामान और चारे को छोड़कर किसी भी चीज़ की बिक्री के विज्ञापन;
• पैसे इकट्ठा करना, कार्ड की जानकारी और पैसे भेजने की गुज़ारिश;
• राजनीति, चुनाव और युद्ध की ख़बरों पर चर्चा;
• दूसरी चैट और चैनलों का विज्ञापन, किसी और समुदाय में आने का न्योता;
• व्यक्तिगत हमले: संदेशों की जगह सदस्यों की ही चर्चा।

अपवाद वहीं और उन्हीं शब्दों में लिखे जाते हैं: «अपने काम के बारे में बताना उल्लंघन नहीं है»। मॉडल आपकी शब्दावली को वैसे ही समझता है जैसे अंतर्निर्मित विषय को, और उसे हर नई शब्दावली में उसी तरह पकड़ता है।

एक अहम सीमा: मॉडल सिर्फ़ संदेश ही देखता है। उसे नहीं पता कि आपकी चैट किस बारे में है, लिखने वाला कौन है और आज कौन-सा दिन है; इसलिए «विषय से बाहर» जैसी शब्दावली उसके लिए खोखली है — ठोस रूप से गिनाइए कि क्या उल्लंघन माना जाए। एक नियम के लिए 500 अक्षर हैं, और यह भरपूर है।

क्रम, संवेदनशीलता और सिम्युलेटर#

आपके नियम अलग अनुरोध से जाँचे जाते हैं और तभी जब संदेश किसी भी अंतर्निर्मित ठगी-विषय में न गिरा हो — और ऊपर से नीचे, उसी क्रम में जिसमें आपने उन्हें रखा है। क्रम तीरों से बदलता है, इसलिए ज़्यादा ज़रूरी नियम को ऊपर उठाया जा सकता है।

हर नियम की अपनी संवेदनशीलता है: «सटीक» तभी प्रतिक्रिया देता है जब मॉडल आश्वस्त हो, «संवेदनशील» मध्यम भरोसे पर भी। गाली के लिए दूसरा ठीक है, «व्यक्तिगत हमले» के लिए पहला बेहतर।

असली स्पैम का इंतज़ार किए बिना शब्दावली जाँचने के लिए सिम्युलेटर है: आप संदेश का नमूना चिपकाते हैं और देखते हैं कि कौन-सा नियम चलता। इस दौरान दंड नहीं लगता, पर जाँच शेष राशि से सामान्य संदेश की तरह कटती है, और सिम्युलेटर में अंतर्निर्मित विषय शामिल नहीं होते — सिर्फ़ आपके नियम।

हर नियम और हर विषय का अपना दंड#

नियम का एक नाम होता है, और उसके बाद वह अपने बल पर जीता है: अपनी दंड-शृंखला, अपना उल्लंघन गिनतीकार, लॉग में अपनी पंक्ति। यही चीज़ अंतर्निर्मित विषयों को भी मिली: फ़िशिंग पर तुरंत प्रतिबंध लगाया जा सकता है, जुए के विज्ञापन पर चेतावनी से काम चल सकता है, और ये उल्लंघन एक ही गिनतीकार में नहीं जुड़ते।

मॉडरेशन लॉग में अब सामान्य «एआई मॉडरेशन चला» की जगह ठोस नियम या विषय का नाम दिखता है। जब तक दंड तय नहीं होते, नियम चलता ही नहीं — और डैशबोर्ड इसे साफ़ कह देता है, चुप नियम को चालू छोड़े बिना।

ख़र्च पर नियंत्रण#

यह ब्लॉक काम के हिसाब से पैसे लेता है, इसलिए ऐसी सेटिंग्स आईं जो तय करती हैं कि मॉडल बुलाना है या नहीं:

• संदेश की न्यूनतम लंबाई — «ठीक है» और «धन्यवाद» मॉडल तक जाते ही नहीं;
• जो पहले ही पकड़ा जा चुका, उसे न जाँचें — अगर संदेश वाक्यांश, लिंक, regex या लंबाई ने काट दिया, तो मॉडल मूल रूप से नहीं बुलाया जाता; एक अलग चेकबॉक्स फिर भी जाँच कराता है और दूसरा, स्वतंत्र दंड दे सकता है;
• एलबम — अलग से चालू होते हैं, क्योंकि दस तस्वीरों का एलबम दस जाँचें हैं, एक नहीं।

नियमों के साथ भी यही बात है: उतने ही रखिए जितने चाहिए। हर नियम हर संदेश की जाँच में शामिल होता है और संसाधन महँगा करता है। इसीलिए एक चैट पर बीस नियम की सीमा है, और डैशबोर्ड लागत बढ़ने की चेतावनी देता है, चुपचाप ज़्यादा नहीं काटता।

दोहराव के लिए आप दो बार नहीं चुकाते#

एक ही संदेश स्पैम भेजने वाले दर्जनों प्रतियों में फैलाते हैं। हर प्रति के पैसे देना बेमानी है, इसलिए एक जैसे पाठ की जाँच एक बार जितनी ही पड़ती है: दोहराव को तैयार जवाब मिल जाता है और वह मॉडल तक पहुँचता ही नहीं। शेष राशि के इतिहास में ऐसी जाँचें अलग से चिह्नित रहती हैं, इसलिए बचत दिखती है।

अपने आप भरना#

रात में ख़त्म हुई शेष राशि का मतलब है सुबह तक एआई मॉडरेशन के बिना चैट। अब एक सीमा और रक़म तय की जा सकती है — जैसे ही बचत निचली सीमा के पास आती है, शेष राशि ख़ुद भर जाती है। कम शेष राशि की सूचना वैसे भी आती है।