مدل‌های تصمیم‌گیری مانند Jev پاسخ خود را توضیح نمی‌دهند؛ مسئولیتی تازه برای توسعه‌دهندگان در طراحی زمینه

مدل‌های تصمیم‌گیری این روزها توجه زیادی را در دنیای فناوری به خود جلب کرده‌اند؛ تا جایی که بحث درباره مدل Jev از شرکت TypeSafe AI، ابزار Clef از شرکت Cloudflare و رابط برنامه‌نویسی Decisions API از OpenAI در سراسر اینترنت داغ است. این مدل‌ها با صرف‌نظر کردن از تولید متن‌های طولانی و ارائه مستقیم خروجی‌های ساختاریافته در قالب JSON به‌همراه ضریب اطمینان، تأخیر زمانی پاسخ‌دهی را به‌شدت کاهش می‌دهند.

توسعه‌دهندگان نرم‌افزار علاقه فراوانی به این رفتار قطعی و ساختاریافته دارند، زیرا یکپارچه‌سازی داده‌های ساختارمند را با برنامه‌های مختلف بسیار ساده می‌کند. شما پرسشی مطرح می‌کنید و در ازای آن یک بسته JSON مشخص تحویل می‌گیرید که به‌راحتی با یک کتابخانه برنامه‌نویسی استخراج می‌شود؛ بدون اینکه نیازی به پردازش‌های پیچیده متنی یا درک قالب‌های درهم‌تنیده باشد.

انتخابی آگاهانه در طراحی مدل

در لایه‌های زیرین، تمامی مدل‌های زبانی بزرگ مدرن (LLM) از معماری انکودر و دیکودر ترنسفورمر پیروی می‌کنند. دستورها یا پرامپت‌های ورودی دریافت شده و به ابعادی کوچک‌تر تبدیل می‌شوند، سپس مرحله به مرحله گشوده شده تا در هر گام یک توکن تولید شود و در نهایت با پیوستن آن‌ها به یکدیگر، متن خروجی شکل بگیرد.

مدل‌هایی با میلیاردها پارامتر بر روی تریلیون‌ها سطر متنی آموزش می‌بینند و الگوهای زبانی پیچیده‌ای را فرا می‌گیرند تا متن تولیدی، شیوه تفکر و گفت‌وگوهای انسانی را شبیه‌سازی کند. خروجی متنی پرجزئیات معمولاً شامل زنجیره استدلالی است که مدل برای رسیدن به نتیجه طی کرده است. این ویژگی آن‌چنان کاربردی است که شاخه‌ای مجزا به نام مدل‌های استدلالی شکل گرفته که تمام تمرکز خود را بر ایجاد ردپای شفاف استدلال برای پشتیبانی از تصمیم‌ها گذاشته‌اند.

اما در مدل‌های تصمیم‌گیری، رویکرد آگاهانه‌ای در پیش گرفته می‌شود تا ردپای طولانی استدلال حذف شده و مستقیماً به اصل پاسخ پرداخته شود. این شیوه که به تفکر سیستم ۱ شهرت دارد، در سناریوهای مشخصی بسیار مفید است، زیرا علاوه بر تحویل سریع‌تر پاسخ، مصرف توکن‌ها را به میزان چشمگیری کاهش می‌دهد. با این حال، استفاده از این روش معمولاً بدهی فنی در سیستم‌ها ایجاد می‌کند و در عمل ما را از قابلیت بنیادینی که مدل‌های زبانی را قدرتمند ساخته است محروم می‌سازد.

برای بررسی بهتر این موضوع، می‌توان مثالی را در نظر گرفت. اگر پرسش «آیا امروز باران خواهد بارید؟» از طریق رابط پلتفرم OpenRouter از مدل‌های مختلف پرسیده شود، یک مدل زبانی سنتی پیش از پیش‌بینی، ابتدا استدلال می‌کند تا متوجه شود به چه اطلاعاتی نیاز دارد و چه محدودیت‌هایی در پیش‌بینی آب‌وهوا وجود دارد.

حال اگر همین پرسش از یک مدل تصمیم‌گیری مانند Jev پرسیده شود، پاسخی را در قالب ساختار داده‌ای به نام «noul» (برگرفته از نام دانیل برنولی، ریاضی‌دان و فیزیک‌دان نامدار سوئیسی) بازمی‌گرداند.

ساختار noul فقط یک مقدار واحد شامل درست (true) یا غلط (false) را در خود نگه می‌دارد. بنابراین مدل بدون هیچ‌گونه توضیحی، پاسخی ساده و کلی مانند درست یا غلط ارائه می‌دهد. چنین پاسخی به‌ویژه هنگامی که مدل برای پاسخ‌گویی به پرسش‌های حساس و حیاتی به کار گرفته می‌شود، می‌تواند کاملاً گمراه‌کننده باشد.

در تصویر زیر نمونه‌ای از این شیوه پاسخ‌دهی را مشاهده می‌کنید:

این موضوع به معنای ناکارآمدی یا نادرست بودن مدل‌های تصمیم‌گیری نیست؛ بلکه نشان می‌دهد این مدل‌ها بر خلاف مدل‌های زبانی سنتی، قابلیت توضیح‌پذیری ندارند. این مسئله مسئولیتی حیاتی را بر دوش توسعه‌دهندگان نرم‌افزار و مهندسان هوش مصنوعی می‌گذارد: اگر قرار نیست مدل برای شما استدلال کند، شما باید استدلال‌های لازم را از پیش برای آن انجام دهید. اینجاست که مهارت «طراحی زمینه» (Context Design) به مهم‌ترین توانمندی یک توسعه‌دهنده هوش مصنوعی تبدیل می‌شود.

در طراحی زمینه، هدف اصلی شما این است که تمامی اطلاعات مرتبط را در قالب بستر یا وضعیت ورودی به مدل عرضه کنید تا بتواند تصمیمی آگاهانه بگیرد. در سامانه‌ها و ایجنت‌های مبتنی بر مدل‌های زبانی سنتی، حتی اگر سؤالی مبهم بپرسید، مدل معمولاً سؤالات شفاف‌ساز مطرح می‌کند یا فرض‌های در نظر گرفته‌شده را با جزئیات کامل توضیح می‌دهد.

اما در مدل‌های تصمیم‌گیری چنین سازوکاری وجود ندارد. این مدل‌ها صرفاً زمینه‌ای را که به آن‌ها داده‌اید دریافت کرده، آن را با داده‌های آموزشی خود تطبیق می‌دهند و یک خروجی ساختاریافته، که غالباً یک مقدار منفرد است، ارائه می‌کنند. توسعه‌دهنده می‌تواند از این مقدار و درصد احتمال آن برای اجرای عملیات مورد نظر در برنامه استفاده کند؛ با این حال، به‌دلیل نبود ردپا یا لاگ‌های استدلال، شفافیت کاملی درباره دلیل اتخاذ آن تصمیم از سوی مدل وجود ندارد.

مدل‌های تصمیم‌گیری در سناریوهای معینی کارایی فوق‌العاده‌ای دارند؛ برای نمونه، در رویکرد «مدل زبانی به‌عنوان داور» (LLM-as-a-judge)، زمانی که پاسخ‌های یک چت‌بات با پاسخ‌های مرجع و استاندارد مقایسه می‌شوند. کاربرد برجسته دیگر، غربالگری و دسته‌بندی تیکت‌های پشتیبانی است. تیکت‌های پشتیبانی معمولاً شامل متن‌های طولانی هستند که باید به‌درستی درک شوند تا بتوان آن‌ها را به دسته‌بندی‌ها یا تیم‌های مناسب ارجاع داد.

گذشت زمان نشان خواهد داد چه کاربردهای کلیدی دیگری برای این مدل‌ها شکل خواهد گرفت؛ اما یک نکته مسلم است: مدل‌های تصمیم‌گیری ارتقای فناورانه چشمگیری در مسیر تکامل مدل‌های زبانی بزرگ به‌شمار می‌روند.