La modération par IA s'est dotée de réglages

La modération par IA est sortie avec six thèmes prêts : arnaques, phishing, jeux d'argent et consorts. Cela couvre ce qui gêne tout le monde, mais chaque chat a sa propre liste de ce qui n'a pas sa place, et elle recoupe rarement celle des autres. En un mois et demi, le bloc a gagné tout ce qui lui manquait.

Des règles à vous en langage ordinaire#

L'ajout principal. Dans l'onglet « Règles », vous pouvez ajouter les vôtres aux thèmes intégrés. Une règle est la description de ce qu'il faut attraper, pas une consigne au bot : ce qu'on fait de la trouvaille, c'est la chaîne de sanctions qui le décide, comme dans les autres blocs.

Elle s'écrit en texte ordinaire, sans syntaxe : ni parenthèses, ni connecteurs, ni échappement :

• messages contenant des grossièretés ou des insultes ;
• offres de travail et de revenus, y compris « écris-moi en privé » et les liens vers des chaînes d'emploi ;
• annonces de vente de quoi que ce soit, sauf le matériel de pêche et les appâts ;
• collectes d'argent, coordonnées bancaires et demandes de virement ;
• discussions sur la politique, les élections et l'actualité de la guerre ;
• publicité pour d'autres chats et chaînes, invitations vers une autre communauté ;
• attaques personnelles : parler des membres plutôt que de leurs messages.

Les exceptions s'écrivent au même endroit et dans les mêmes termes : « parler de son propre travail n'est pas une infraction ». Le modèle comprend votre formulation comme il comprend un thème intégré, et l'attrape pareillement sous toutes ses reformulations.

Une limite importante : le modèle ne voit que le message lui-même. Il ignore de quoi parle votre chat, qui écrit et quel jour on est ; des formulations comme « hors sujet » sont donc vides pour lui — énumérez concrètement ce qui compte comme infraction. Chaque règle dispose de 500 caractères, et c'est largement suffisant.

Ordre, sensibilité et simulateur#

Vos règles sont vérifiées dans une requête distincte et seulement si le message n'est tombé dans aucun des thèmes d'arnaque intégrés — et de haut en bas, dans l'ordre où vous les avez disposées. L'ordre se change avec des flèches, une règle plus importante peut donc remonter.

Chaque règle a sa sensibilité : « Précis » ne réagit que si le modèle est sûr, « Sensible » réagit aussi en confiance moyenne. Pour les grossièretés, la seconde convient ; pour les « attaques personnelles », plutôt la première.

Pour vérifier une formulation sans attendre le vrai spam, il y a le simulateur : vous collez un exemple de message et voyez quelle règle se serait déclenchée. Aucune sanction n'est appliquée, mais la vérification est débitée du solde comme un message ordinaire, et les thèmes intégrés ne participent pas au simulateur — seulement vos règles.

Une sanction propre à chaque règle et à chaque thème#

La règle a un nom et vit ensuite pour elle-même : sa chaîne de sanctions, son compteur d'infractions, sa ligne dans le journal. Les thèmes intégrés ont reçu la même chose : pour le phishing on peut bannir tout de suite, pour la publicité de jeux d'argent un avertissement suffit, et ces infractions ne s'additionnent pas dans un compteur unique.

Dans le journal de modération figure désormais, à la place d'un « la modération par IA s'est déclenchée » générique, le nom de la règle ou du thème précis. Tant que les sanctions ne sont pas définies, la règle ne se déclenche pas — et le tableau de bord le dit franchement au lieu de laisser une règle muette activée.

Maîtriser la dépense#

Le bloc se paie à l'usage, d'où des réglages qui décident s'il faut appeler le modèle :

• longueur minimale du message — les « ok » et les « merci » n'atteignent pas le modèle ;
• ne pas vérifier ce qui a déjà été attrapé — si le message a été coupé par les phrases, les liens, regex ou la longueur, le modèle n'est pas appelé par défaut ; une case à part force la vérification et peut produire une seconde sanction indépendante ;
• albums — s'activent séparément, car un album de dix photos, ce sont dix vérifications, pas une.

Pour les règles, même principe : seulement celles dont vous avez besoin. Chacune participe à la vérification de chaque message et renchérit le traitement. D'où un plafond de vingt règles par chat, et un avertissement du tableau de bord sur la hausse du coût plutôt qu'un débit silencieux.

Les répétitions ne sont pas payées deux fois#

Les spammeurs envoient le même message en dizaines d'exemplaires. Payer pour chaque copie n'a aucun sens, donc vérifier un texte identique coûte comme une seule fois : la répétition reçoit la réponse déjà prête et n'atteint pas le modèle. Dans l'historique du solde, ces vérifications sont marquées à part, l'économie est donc visible.

Recharge automatique#

Un solde épuisé la nuit, c'est un chat sans modération par IA jusqu'au matin. Vous pouvez désormais fixer un seuil et un montant : quand le reste approche de la limite basse, le solde se recharge tout seul. L'alerte de solde faible arrive de toute façon.