Як пояснити боту своїми словами, що видаляти

Фразові правила вимагають перелічити слова. AI-модерація вміє інакше: ви описуєте, що вважати порушенням, звичайним текстом — і модель упізнає це в будь-яких формулюваннях, зокрема в тих, яких ви не передбачили.

Звучить так, ніби писати можна будь-що. На практиці одні формулювання працюють, а інші мовчать, і різниця передбачувана.

Де це налаштовується#

Розділ Модерація → картка AI-модерація → вкладка «Правила». Ваші правила працюють поверх вбудованих тем: теми ловлять скам, фішинг і рекламу гемблінгу, правила — те, що недоречне саме у вас.

Правило описує, що ловити#

Головне, що варто зрозуміти одразу: правило — це опис порушення, а не команда боту. Що робити зі знайденим, вирішує ланцюжок покарань, як і в решті блоків.

Тому не «видаляй повідомлення з рекламою», а просто «реклама сторонніх каналів і запрошення в інші спільноти».

Хороші формулювання виглядають так:

• повідомлення з нецензурною лексикою чи образами;
• пропозиції роботи й заробітку, зокрема «пишіть у приватні» та посилання на канали з вакансіями;
• оголошення про продаж будь-чого, крім рибальського спорядження й прикормки;
• збори грошей, реквізити карток і прохання скинути на щось;
• обговорення політики, виборів і воєнних новин;
• перехід на особистості й обговорення самих учасників, а не їхніх повідомлень.

Винятки пишуться там само й такими самими словами: «розповідь про власну роботу — не порушення».

Що модель знає про повідомлення#

Лише його текст. Не назву чату, не опис спільноти, не автора, не час доби, не те, що було написано раніше.

Звідси головна помилка новачка — формулювання на кшталт «офтоп», «не по темі чату», «флуд не в ту гілку». Для моделі це порожні слова: їй немає з чим порівнювати. Перелічуйте конкретно, що саме у вашому чаті вважається зайвим.

З тієї самої причини безглузді правила про людей і час: «повідомлення від нових учасників», «реклама на вихідних». Перше розв'язується рівнем довіри, друге не розв'язується ніяк.

На правило відводиться 500 символів — цього вистачає на опис із парою винятків.

Чутливість#

У кожного правила є вибір із двох режимів:

• Точний — реагувати лише тоді, коли модель упевнена;
• Чутливий — реагувати й за середньої впевненості.

Логіка проста: що вища ціна хибного спрацювання, то суворіший режим. Лайка розпізнається однозначно — можна ставити чутливий. «Перехід на особистості» суб'єктивний, тут краще точний, інакше бот почне вичищати звичайні суперечки.

Порядок правил#

Правила перевіряються згори вниз, і порядок змінюється стрілками. Важливіше й вужче правило варто піднімати вище: спрацює перше відповідне, і саме його назва опиниться в журналі.

Ще одна деталь: свої правила запускаються окремою перевіркою і лише якщо повідомлення не потрапило в жодну зі вбудованих скам-тем. Явний скам до ваших правил просто не доходить.

Перевіряйте в симуляторі#

Поряд із правилами є симулятор: вставляєте приклад повідомлення й бачите, яке правило спрацювало б і з якою впевненістю. Санкції при цьому не застосовуються.

Два застереження: перевірка списується з балансу як звичайне повідомлення, і в симуляторі беруть участь лише ваші правила — вбудовані теми в ньому не перевіряються.

Робочий порядок такий: написали правило, прогнали через симулятор п'ять-шість справжніх повідомлень зі свого чату — і порушення, і схожі безневинні, — виправили формулювання, і лише потім призначили санкції.

Скільки правил заводити#

Менше, ніж хочеться. Кожне правило бере участь у перевірці кожного повідомлення й робить обробку дорожчою; кабінет прямо попереджає про це, а стеля — 20 правил на чат.

Зазвичай вистачає трьох-п'яти: вони закривають те, що реально заважає, а решту добирають вбудовані теми.

Свої правила — верхній поверх захисту. Що має стояти під ним: як захистити Telegram-групу від спаму.