AI-moderatsiya sozlamalarga toʻldi

AI-moderatsiya oltita tayyor mavzu bilan chiqdi — skam, fishing, gembling va shu kabilar. Bu hammaga xalaqit beradiganni yopadi, lekin har bir chatda oʻrinsiz narsalarning oʻz roʻyxati bor, va u boshqanikiga kamdan-kam mos keladi. Bir yarim oyda blok oʻzida yetishmaganning hammasini yigʻdi.

Oddiy soʻz bilan yozilgan oʻz qoidalaringiz#

Asosiy qoʻshimcha. «Qoidalar» boʻlimida ichki mavzularga oʻzingiznikini qoʻshish mumkin. Qoida — bu nimani ushlash kerakligining tavsifi, botga berilgan buyruq emas: topilgan narsa bilan nima qilishni jazo zanjiri hal qiladi, qolgan bloklardagi kabi.

Oddiy matn bilan yoziladi, sintaksissiz — na qavslar, na bogʻlamalar, na ekranlash:

• haqoratli soʻz yoki kamsitish bor xabarlar;
• ish va daromad takliflari, jumladan «shaxsiyga yozing» va vakansiya kanallariga havolalar;
• baliq ovlash anjomlari va yemidan boshqa har qanday narsani sotish eʼlonlari;
• pul yigʻish, karta rekvizitlari va biror narsaga pul tashlash iltimoslari;
• siyosat, saylov va urush yangiliklarini muhokama qilish;
• begona chat va kanallarning reklamasi, boshqa jamoaga oʻtishga taklif;
• shaxsiyatga oʻtish va xabarlarini emas, ishtirokchilarning oʻzini muhokama qilish.

Istisnolar shu yerda va shunday soʻzlar bilan yoziladi: «oʻz ishi haqida gapirish — buzilish emas». Model ifodani ichki mavzuni tushungandek tushunadi va uni istalgan qayta ifodalashda shunday ushlaydi.

Bitta muhim cheklov: model faqat xabarning oʻzini koʻradi. U chatingiz nima haqidaligini, muallif kimligini va bugun qaysi kun ekanini bilmaydi, shuning uchun «chat mavzusiga mos emas» yoki «oftop» kabi ifodalar u uchun boʻsh — nimani buzilish deb hisoblashingizni aniq sanab yozing. Qoidaga 500 belgi ajratiladi, bu zaxirasi bilan yetadi.

Tartib, sezgirlik va simulyator#

Oʻz qoidalaringiz alohida soʻrov bilan tekshiriladi va faqat xabar ichki skam mavzularidan birortasiga tushmagan boʻlsa, — hamda yuqoridan pastga, siz joylashtirgan tartibda. Tartib strelkalar bilan oʻzgaradi, shuning uchun muhimroq qoidani yuqoriga koʻtarish mumkin.

Har bir qoidaning oʻz sezgirligi bor: «Aniq» faqat model ishonchli boʻlgandagina javob beradi, «Sezgir» — oʻrtacha ishonchda ham. Haqoratga ikkinchisi, «shaxsiyatga oʻtishga» — koʻproq birinchisi mos keladi.

Ifodani tirik spamni kutmasdan tekshirishga simulyator yordam beradi: xabar namunasini qoʻyasiz va qaysi qoida ishlashini koʻrasiz. Sanksiyalar bunda qoʻllanmaydi, lekin tekshiruv balansdan oddiy xabardek yechiladi, ichki mavzular esa simulyatorda qatnashmaydi — faqat sizning qoidalaringiz.

Har bir qoida va mavzuning oʻz jazosi#

Qoidaning nomi bor, keyin u oʻz-oʻzicha yashaydi: oʻz jazo zanjiri, oʻz buzilish hisoblagichi, jurnaldagi oʻz satri. Xuddi shu narsani ichki mavzular ham oldi: fishing uchun darhol ban berish mumkin, gembling reklamasi uchun esa ogohlantirish bilan cheklanish mumkin, va bu buzilishlar bitta hisoblagichga qoʻshilmaydi.

Moderatsiya jurnalida endi umumiy «AI-moderatsiya ishladi» emas, aniq qoida yoki mavzu nomi koʻrinadi. Sanksiyalar berilmaguncha qoida ishlamaydi — va kabinet bu haqda toʻgʻridan-toʻgʻri ogohlantiradi, jim qoidani yoqilgan holda qoldirmaydi.

Sarfni nazorat qilish#

Blok ish fakti boʻyicha pullik, shuning uchun modelni chaqirish kerakmi yoki yoʻqmi degan savolni hal qiladigan sozlamalar paydo boʻldi:

• xabarning eng kam uzunligi — «boʻldi» va «rahmat» modelga umuman bormaydi;
• allaqachon ushlanganni tekshirmaslik — xabarni iboralar, havolalar, regex yoki uzunlik kesib tashlagan boʻlsa, model sukut boʻyicha chaqirilmaydi; alohida belgi baribir tekshirishga majbur qiladi va ikkinchi, mustaqil sanksiya bera oladi;
• albomlar — alohida yoqiladi, chunki oʻnta fotodan iborat albom — bu oʻnta tekshiruv, bitta emas.

Qoidalarni ham aynan qancha kerak boʻlsa shuncha ushlagan maʼqul: har biri har bir xabarni tekshirishda qatnashadi va qayta ishlashni qimmatlashtiradi. Shuning uchun bitta chatga yigirmatadan koʻp qoida boʻlmaydi, kabinet esa narx oʻsishi haqida ogohlantiradi, jim koʻproq yechib olmaydi.

Takrorlar uchun ikki marta toʻlamaysiz#

Bitta xabarni spamerlar oʻnlab nusxada tarqatadi. Har bir nusxa uchun toʻlash maʼnosiz, shuning uchun bir xil matnni tekshirish bir martadek turadi: takror tayyor javob oladi va modelga yetib bormaydi. Balans tarixida bunday tekshiruvlar alohida belgilangan, shuning uchun tejash koʻrinadi.

Avtotoʻldirish#

Tunda tugagan balans tonggacha AI-moderatsiyasiz chat degani. Endi chegara va summani belgilash mumkin — qoldiq quyi chegaraga yaqinlashganda balans oʻzi toʻladi. Past balans haqidagi bildirishnoma har holda keladi.