مدل‌های تصمیم‌گیری هوش مصنوعی وارد میدان شدند؛ تحول در پالایش و نظارت بر محتوا

در حالی که تب و تاب استفاده از «مدل‌های تصمیم‌گیری» روزبه‌روز در دنیای هوش مصنوعی داغ‌تر می‌شود، شرکتی به نام Musubi ایده جذاب و تازه‌ای برای به کار گرفتن آن‌ها دارد: نظارت و پالایش محتوا. این استارتاپ به‌تازگی از یک مدل تصمیم‌گیری سبک برای نظارت بلادرنگ (Real-time) به نام PolicyLM-1.7B رونمایی کرده که وزن‌های آن به شکل کاملاً باز در اختیار عموم قرار گرفته است.

ایده اصلی این است که سیاست‌ها و قوانین محتوایی که با انگلیسی ساده و روزمره نوشته شده‌اند را تحویل مدل بدهید و آن را در کم‌تر از ۵۰ میلی‌ثانیه روی پیام‌های کاربران اعمال کنید. مدل Musubi طوری طراحی شده که از نظر هزینه و سرعت دست‌کمی از سیستم‌های کلاسیک طبقه‌بندی هوش مصنوعی (که ستون فقرات نظارت بر بیش‌تر شبکه‌های اجتماعی هستند) نداشته باشد؛ با این تفاوت بزرگ که به خاطر بهره‌مندی از انعطاف یک مدل زبانی مدرن، می‌تواند پیچیده‌ترین قوانین را بدون نیاز به آموزش اختصاصی اجرا کند. از این مهم‌تر، اگر روزی قوانین پلتفرم عوض شود، هیچ نیازی به آموزش مجدد مدل نیست و تیم‌های نظارتی انسانی می‌توانند هر چقدر که لازم است سیاست‌های خود را تغییر داده و سریعاً به‌روزرسانی کنند.

فیلیپ یانکوویچ (هم‌بنیان‌گذار و مدیر ارشد هوش مصنوعی Musubi) باور دارد که این رویکرد دست مدیران پلتفرم‌ها را برای برچسب‌گذاری فعالانه و پیش‌دستانه محتوا حسابی باز می‌گذارد.

یانکوویچ در این باره می‌گوید: «تیم‌های توسعه محصول همیشه می‌خواهند درک دقیق‌تری از اتفاقات درون پلتفرم خود داشته باشند؛ مخصوصاً حالا که حجم محتوا با سرعت سرسام‌آوری در حال رشد است. اینکه بتوانید تمام این حجم از داده را به شکلی کاملاً مقیاس‌پذیر و شخصی‌سازی‌شده برچسب‌گذاری کنید، واقعاً فوق‌العاده و نجات‌بخش است.»

مدل‌های تصمیم‌گیری از شهریور گذشته و با عرضه مدل Jev توسط شرکت TypeSafe AI به یکی از داغ‌ترین سوژه‌های محافل هوش مصنوعی تبدیل شدند؛ اتفاقی که خیلی زود پای غول‌هایی مثل OpenAI و آمازون را هم برای عرضه مدل‌های رقیب به این بازی باز کرد. مدل‌های تصمیم‌گیری به جای تولید متن‌های طولانی، احتمال وقوع یک نتیجه را اعلام می‌کنند. البته در مورد این مدل خاص، قضاوت به شکل دودویی (صفر و یکی) انجام می‌شود: محتوا یا در دسته‌بندی مشخص قرار دارد یا ندارد. با محدود کردن خروجی مدل به مجموعه‌ای از گزینه‌های از پیش تعیین‌شده، این مدل‌ها در عین حفظ تمام انعطاف و قدرت معماری ترنسفورمر، بسیار سریع‌تر و ارزان‌تر از مدل‌های زبانی بزرگ اجرا می‌شوند.

یکی از اولین کاربردهای این فناوری، مهار رفتارهای اشتباه و ناخواسته ایجنت‌های هوش مصنوعی بود؛ بنابراین کاملاً طبیعی است که همین فناوری پیشرفته را برای کنترل و مهار رفتارهای نامناسب کاربران انسانی هم به کار بگیریم.

نکته جالب اینجاست که به گفته یانکوویچ، علاقه او به مدل‌های تصمیم‌گیری حتی به قبل از ماجرای Jev برمی‌گردد؛ ریشه این ایده در واقع به پروژه‌ای در سال ۲۰۲۴ به نام GLiNER (مدل همه‌منظوره برای تشخیص موجودیت‌های نام‌دار) مربوط می‌شود که از تکنیک‌های بسیار مشابهی استفاده کرده بود.

با همه این‌ها، شرکت Musubi هیچ ابایی از این مقایسه‌ها ندارد. برعکس، آن‌ها خیلی هم مشتاقند تا از توجه تازه به مدل‌های تصمیم‌گیری برای جلب نظرها به سمت پالایش محتوا بهره ببرند. در بیانیه معرفی این محصول آمده است: «اگر مدل Jev توجه شما را به خود جلب کرده بود، PolicyLM-1.7B هم دقیقاً مدلی از همان جنس است که اختصاصاً برای نظارت بر محتوا آموزش دیده و خودتان می‌توانید به‌راحتی آن را اجرا کنید.»