نظارت هوش مصنوعی پر از تنظیمات شد

نظارت هوش مصنوعی با شش موضوع آماده به راه افتاد — کلاهبرداری، فیشینگ، قمار و همراهانشان. این آنچه را مزاحم همه است می‌پوشاند، اما هر گفت‌وگو فهرست ناروای خودش را دارد و به‌ندرت با فهرست دیگری یکی است. در یک ماه و نیم، این بلوک هرچه کم داشت به دست آورد.

قواعد خودتان با کلمه‌های معمولی#

مهم‌ترین افزوده. در زبانهٔ «قواعد» می‌توان به موضوع‌های درون‌ساخته قواعد خودتان را افزود. قاعده وصفی است از آنچه باید گرفته شود، نه فرمانی به ربات: اینکه با یافته چه کنیم را زنجیرهٔ تنبیه تعیین می‌کند، مانند بقیهٔ بلوک‌ها.

با متن معمولی نوشته می‌شود، بدون نحو — نه پرانتز، نه پیوند، نه گریز نویسه:

• پیام‌های دارای الفاظ رکیک یا توهین;
• پیشنهاد کار و درآمد، از جمله «در خصوصی بنویسید» و پیوند کانال‌های آگهی شغلی;
• آگهی فروش هر چیزی جز لوازم ماهیگیری و طعمه;
• جمع‌آوری پول، شمارهٔ کارت و درخواست واریز برای هر چیزی;
• بحث سیاست، انتخابات و اخبار نظامی;
• تبلیغ گفت‌وگوها و کانال‌های دیگر و دعوت به رفتن به جامعه‌ای دیگر;
• شخصی‌شدن بحث و پرداختن به خود اعضا به‌جای پیام‌هایشان.

استثناها همان‌جا و با همان کلمه‌ها نوشته می‌شوند: «سخن‌گفتن از کار خود، تخلف نیست». مدل این بیان را همان‌گونه می‌فهمد که موضوعی درون‌ساخته را، و به همان‌گونه با هر بازنویسی می‌گیردش.

یک محدودیت مهم: مدل تنها خود پیام را می‌بیند. نمی‌داند گفت‌وگوی شما دربارهٔ چیست، نویسنده کیست و امروز چه روزی است، پس بیان‌هایی مانند «خارج از موضوع گفت‌وگو» برایش تهی است — دقیق برشمرید چه چیزی تخلف به شمار می‌آید. برای هر قاعده ۵۰۰ نویسه در نظر گرفته شده و با فراغ بس است.

ترتیب، حساسیت و شبیه‌ساز#

قواعد خودتان با درخواستی جداگانه بررسی می‌شوند و تنها اگر پیام در هیچ‌یک از موضوع‌های کلاهبرداری درون‌ساخته نیفتاده باشد — و از بالا به پایین، به همان ترتیبی که چیده‌اید. ترتیب با پیکان‌ها عوض می‌شود، پس قاعدهٔ مهم‌تر را می‌توان بالاتر برد.

هر قاعده حساسیت خودش را دارد: «دقیق» تنها در اطمینان بالای مدل واکنش نشان می‌دهد و «حساس» در اطمینان متوسط هم. برای ناسزا دومی مناسب است و برای «شخصی‌شدن بحث» بیشتر اولی.

برای آزمودن بیان بدون انتظار هرزنامهٔ واقعی، شبیه‌ساز کمک می‌کند: نمونه‌ای از پیام را می‌چسبانید و می‌بینید کدام قاعده عمل می‌کرد. تنبیهی اعمال نمی‌شود، اما بررسی مانند پیامی معمولی از موجودی کسر می‌شود، و موضوع‌های درون‌ساخته در شبیه‌ساز شرکت نمی‌کنند — تنها قواعد شما.

تنبیه جداگانه برای هر قاعده و موضوع#

قاعده نام دارد و از آن پس زندگی خودش را می‌کند: زنجیرهٔ تنبیه خودش، شمارندهٔ تخلف خودش، سطر خودش در دفتر. موضوع‌های درون‌ساخته هم همین را گرفتند: برای فیشینگ می‌توان بی‌درنگ مسدود کرد و برای تبلیغ قمار به اخطار بسنده کرد، و این تخلف‌ها در یک شمارنده جمع نمی‌شوند.

در دفتر نظارت حالا نه «نظارت هوش مصنوعی عمل کرد» کلی، بلکه نام همان قاعده یا موضوع دیده می‌شود. تا تنبیه‌ها تعیین نشده باشند، قاعده عمل نمی‌کند — و پنل صریح هشدار می‌دهد، نه اینکه قاعده‌ای ساکت را روشن رها کند.

مهار خرج#

این بلوک بر پایهٔ کار واقعی پولی است، پس تنظیماتی پیدا شد که تصمیم می‌گیرند مدل فراخوانده شود یا نه:

• کمینهٔ طول پیام — «باشه» و «ممنون» اصلاً به مدل نمی‌روند;
• بررسی‌نکردن آنچه پیش‌تر گرفته شده — اگر پیام را عبارت‌ها، پیوندها، regex یا طول بریده باشند، مدل به‌صورت پیش‌فرض فراخوانده نمی‌شود؛ تیکی جداگانه بررسی را با این حال وادار می‌کند و می‌تواند تنبیه دومی مستقل صادر کند;
• آلبوم‌ها — جداگانه روشن می‌شوند، چون آلبومی از ده عکس ده بررسی است نه یکی.

بهتر است شمار قواعد را هم دقیقاً به‌اندازهٔ نیاز نگه دارید: هر قاعده در بررسی هر پیام شرکت می‌کند و پردازش را گران‌تر می‌کند. پس قواعد هر گفت‌وگو از بیست بیشتر نمی‌شود، و پنل از رشد هزینه هشدار می‌دهد، نه اینکه خاموش بیشتر کسر کند.

بابت تکرار دو بار نمی‌پردازید#

هرزنامه‌نویسان یک پیام را در ده‌ها نسخه می‌فرستند. پرداختن بابت هر نسخه بی‌معناست، پس بررسی متن یکسان به‌اندازهٔ یکی هزینه دارد: نسخهٔ تکراری پاسخ آماده می‌گیرد و به مدل نمی‌رسد. در تاریخچهٔ موجودی این بررسی‌ها جداگانه نشانه‌گذاری شده‌اند، پس صرفه‌جویی پیداست.

شارژ خودکار#

موجودی‌ای که شب تمام شود یعنی گفت‌وگویی بدون نظارت هوش مصنوعی تا صبح. حالا می‌توان آستانه و مبلغ تعیین کرد — و وقتی باقی‌مانده به مرز پایین نزدیک شود، موجودی خودبه‌خود شارژ می‌شود. اعلان موجودی کم در هر حال می‌آید.