Yapay zekâ moderasyonu ayarlarla doldu

Yapay zekâ moderasyonu altı hazır konuyla çıktı: dolandırıcılık, kimlik avı, kumar ve benzerleri. Bu, herkesi rahatsız edeni kapatıyor; ama her sohbetin yakışıksız bulduğu şeylerin kendi listesi var ve bu liste başkasınınkiyle nadiren örtüşüyor. Bir buçuk ayda blok, eksik olan her şeyi kazandı.

Sıradan sözcüklerle kendi kurallarınız#

Ana ekleme. «Kurallar» sekmesinde yerleşik konulara kendi kurallarınızı ekleyebiliyorsunuz. Kural, neyin yakalanacağının tarifi, bota verilen bir emir değil: bulunanla ne yapılacağına ceza zinciri karar veriyor, diğer bloklardaki gibi.

Sıradan metinle yazılıyor, sözdizimi yok — ne parantez, ne bağlaç, ne kaçış karakteri:

• küfür ya da hakaret içeren mesajlar;
• iş ve kazanç teklifleri, «özelden yaz» ve iş ilanı kanallarına bağlantılar dâhil;
• olta takımı ve yem dışında her şeyin satış ilanları;
• para toplamalar, kart bilgileri ve havale istekleri;
• siyaset, seçim ve savaş haberleri tartışmaları;
• yabancı sohbet ve kanalların reklamı, başka topluluğa çağrılar;
• kişiselleştirme: mesajları yerine üyelerin kendisini konuşmak.

İstisnalar aynı yerde ve aynı sözcüklerle yazılıyor: «kendi işinden söz etmek ihlal değildir». Model sizin ifadenizi yerleşik bir konuyu anladığı gibi anlıyor ve her yeniden ifadede aynı şekilde yakalıyor.

Önemli bir kısıt: model yalnızca mesajın kendisini görüyor. Sohbetinizin ne hakkında olduğunu, yazanın kim olduğunu ve bugünün hangi gün olduğunu bilmiyor; bu yüzden «konu dışı» gibi ifadeler onun için boş — neyin ihlal sayılacağını somut olarak sıralayın. Bir kural için 500 karakter var, bu fazlasıyla yetiyor.

Sıra, duyarlılık ve simülatör#

Kendi kurallarınız ayrı bir istekle ve yalnızca mesaj yerleşik dolandırıcılık konularının hiçbirine düşmediyse denetleniyor — hem de yukarıdan aşağıya, sizin dizdiğiniz sırayla. Sıra oklarla değişiyor, böylece daha önemli bir kuralı yukarı taşıyabiliyorsunuz.

Her kuralın kendi duyarlılığı var: «Kesin» yalnızca model emin olduğunda tepki veriyor, «Duyarlı» orta güvende de. Küfür için ikincisi uygun, «kişiselleştirme» için daha çok birincisi.

Bir ifadeyi gerçek spamı beklemeden denemek için simülatör var: örnek bir mesaj yapıştırıyorsunuz ve hangi kuralın devreye gireceğini görüyorsunuz. Bu sırada yaptırım uygulanmıyor, ama denetim bakiyeden sıradan bir mesaj gibi düşülüyor ve simülatöre yerleşik konular katılmıyor — yalnızca sizin kurallarınız.

Her kuralın ve konunun kendi cezası#

Kuralın bir adı var ve bundan sonra kendi başına yaşıyor: kendi ceza zinciri, kendi ihlal sayacı, günlükte kendi satırı. Aynısını yerleşik konular da aldı: kimlik avı için hemen yasaklanabiliyor, kumar reklamı için uyarıyla yetinilebiliyor ve bu ihlaller tek bir sayaçta toplanmıyor.

Moderasyon günlüğünde artık genel bir «yapay zekâ moderasyonu devreye girdi» yerine somut kuralın ya da konunun adı görünüyor. Yaptırımlar tanımlanmadığı sürece kural devreye girmiyor — ve panel bunu açıkça söylüyor, sessiz bir kuralı açık bırakmıyor.

Harcamanın denetimi#

Blok kullandıkça ücretli olduğundan, modelin çağrılıp çağrılmayacağına karar veren ayarlar geldi:

• mesajın en az uzunluğu — «tamam» ve «teşekkürler» modele hiç gitmiyor;
• zaten yakalanmış olanı denetlememek — mesajı ifadeler, bağlantılar, regex ya da uzunluk kesmişse model varsayılan olarak çağrılmıyor; ayrı bir kutucuk yine de denetletiyor ve ikinci, bağımsız bir yaptırım doğurabiliyor;
• albümler — ayrı açılıyor, çünkü on fotoğraflık bir albüm on denetim demek, bir değil.

Kurallarda da aynısı geçerli: yalnızca gerekenler. Her biri her mesajın denetimine katılıyor ve işlemeyi pahalılaştırıyor. Bu yüzden sohbet başına yirmi kural sınırı var ve panel maliyet artışı konusunda uyarıyor, sessizce fazla düşmüyor.

Tekrarlar için iki kez ödemiyorsunuz#

Spamcılar aynı mesajı onlarca kopyayla yayıyor. Her kopya için ödemenin anlamı yok, bu yüzden aynı metnin denetimi tek seferlik kadar tutuyor: tekrar hazır yanıtı alıyor ve modele ulaşmıyor. Bakiye geçmişinde bu denetimler ayrıca işaretleniyor, böylece tasarruf görünüyor.

Otomatik yükleme#

Gece biten bakiye, sabaha kadar yapay zekâ moderasyonu olmayan bir sohbet demek. Artık bir eşik ve bir tutar belirleyebiliyorsunuz — kalan alt sınıra yaklaştığında bakiye kendi kendine yükleniyor. Düşük bakiye bildirimi zaten geliyor.