AI-модерация баптауларға толды

AI-модерация алты дайын тақырыппен шықты — скам, фишинг, гемблинг және сол сияқтылар. Бұл бәріне кедергі болатынды жабады, бірақ әр чатта орынсыз нәрселердің өз тізімі бар, әрі ол өзгенікімен сирек сәйкес келеді. Бір жарым айда блок өзінде жетпейтіннің бәрін жинады.

Кәдімгі сөзбен жазылған өз ережелеріңіз#

Басты толықтыру. «Ережелер» қойындысында кірістірілген тақырыптарға өзіңіздікін қосуға болады. Ереже — бұл нені ұстау керектігінің сипаттамасы, ботқа берілген команда емес: табылғанмен не істеу керегін жаза тізбегі шешеді, қалған блоктардағыдай.

Кәдімгі мәтінмен жазылады, синтаксиссіз — жақша да, байланыс та, экрандау да жоқ:

• былапыт сөз немесе қорлау бар хабарламалар;
• жұмыс пен табыс ұсыныстары, оның ішінде «жекеге жазыңыз» және вакансия арналарына сілтемелер;
• балық аулау құралы мен жемнен басқа кез келген нәрсені сату туралы хабарландырулар;
• ақша жинау, карта деректемелері және бірдеңеге ақша аудару өтініштері;
• саясат, сайлау және соғыс жаңалықтарын талқылау;
• бөгде чаттар мен арналардың жарнамасы, басқа қауымдастыққа шақырулар;
• жеке басқа көшу және хабарламаларын емес, қатысушылардың өзін талқылау.

Ерекшеліктер сол жерде және сондай сөзбен жазылады: «өз жұмысы туралы әңгіме — бұзушылық емес». Модель тұжырымды кірістірілген тақырыпты түсінгендей түсінеді және оны кез келген қайта тұжырымдауда солай ұстайды.

Бір маңызды шектеу: модель тек хабарламаның өзін көреді. Ол сіздің чатыңыздың не туралы екенін, авторы кім екенін және бүгін қай күн екенін білмейді, сондықтан «чат тақырыбына сәйкес емес» немесе «офтоп» деген тұжырымдар ол үшін бос — нені бұзушылық санайтыныңызды нақты тізіп жазыңыз. Ережеге 500 таңба бөлінеді, бұл қорымен жетеді.

Реттілік, сезімталдық және симулятор#

Өз ережелеріңіз бөлек сұраныспен тексеріледі және тек хабарлама кірістірілген скам тақырыптарының ешқайсысына түспесе ғана, — әрі жоғарыдан төмен, сіз орналастырған ретпен. Реттілік көрсеткілермен өзгереді, сондықтан маңыздырақ ережені жоғары көтеруге болады.

Әр ереженің өз сезімталдығы бар: «Дәл» тек модель сенімді болғанда ғана әрекет етеді, «Сезімтал» — орташа сенімділікте де. Былапыт сөзге екіншісі, «жеке басқа көшуге» — бірінші сәйкес келеді.

Тұжырымды тірі спамды күтпей тексеруге симулятор көмектеседі: хабарлама мысалын қоясыз да, қай ереже іске қосылатынын көресіз. Санкциялар бұл кезде қолданылмайды, бірақ тексеру балансатан кәдімгі хабарламадай есептеледі, ал кірістірілген тақырыптар симуляторға қатыспайды — тек сіздің ережелеріңіз.

Әр ереже мен тақырыптың өз жазасы#

Ереженің аты бар, әрі қарай ол өз бетінше өмір сүреді: өз жаза тізбегі, өз бұзушылық санауышы, журналдағы өз жолы. Дәл сондай нәрсені кірістірілген тақырыптар да алды: фишинг үшін бірден бандауға болады, ал гемблинг жарнамасы үшін ескертумен шектелуге болады, әрі бұл бұзушылықтар бір санауышқа қосылмайды.

Модерация журналында енді жалпы «AI-модерация іске қосылды» емес, нақты ереженің немесе тақырыптың атауы көрінеді. Санкциялар берілмейінше ереже іске қосылмайды — және кабинет бұл туралы тікелей ескертеді, үнсіз ережені қосулы қалдырмайды.

Шығынды бақылау#

Блок жұмыс фактісі бойынша ақылы, сондықтан модельді шақыру керек пе, жоқ па дегенді шешетін баптаулар пайда болды:

• хабарламаның ең аз ұзындығы — «жарайды» мен «рақмет» модельге мүлде бармайды;
• ұсталып қойғанды тексермеу — хабарламаны тіркестер, сілтемелер, regex немесе ұзындық кесіп тастаса, модель әдепкіде шақырылмайды; бөлек құсбелгі бәрібір тексеруге мәжбүрлейді және екінші, тәуелсіз санкция бере алады;
• альбомдар — бөлек қосылады, өйткені он фотодан тұратын альбом — бұл он тексеру, бір емес.

Ережелерді де дәл қанша керек, сонша ұстаған жөн: әрқайсысы әр хабарламаны тексеруге қатысады және өңдеуді қымбаттатады. Сондықтан бір чатқа жиырмадан көп ереже болмайды, ал кабинет құн өсуі туралы ескертеді, үнсіз көбірек есептен шығармайды.

Қайталанулар үшін екі рет төлемейсіз#

Бір хабарламаны спамерлер ондаған көшірмемен таратады. Әр көшірме үшін төлеу мағынасыз, сондықтан бірдей мәтінді тексеру бір реттей тұрады: қайталану дайын жауап алады да, модельге жетпейді. Баланс тарихында мұндай тексерулер бөлек белгіленген, сондықтан үнем көрінеді.

Автотолтыру#

Түнде таусылған баланс таңға дейін AI-модерациясыз чат дегенді білдіреді. Енді шек пен соманы беруге болады — қалдық төменгі шекке жақындағанда баланс өзі толады. Төмен баланс туралы хабарлама кез келген жағдайда келеді.