زلزله مدل Jev در بازار هوش مصنوعی؛ پایان دوران چتباتهای پرخرج و پرحرف؟

درست در روزهایی که هوش مصنوعی سرگرم زیر و رو کردن دنیای فناوری است، خودش هم در انتظار پدیدهای بزرگتر نشسته تا مسیرش را عوض کند؛ نیروی مهارناپذیری که شاید دقیقاً در کالبد مدل جدید شرکت TypeSafe AI یعنی «Jev» متولد شده باشد.

در تازه‌ترین اپیزود از پادکست تخصصی فناوری «کتل» (The Kettle)، کارشناسان زوایای گوناگون این پدیده نوظهور را به بحث گذاشته‌اند؛ برنامه‌ای که در پلتفرم‌های مختلف پادکست از جمله اسپاتیفای، اپل پادکست و یوتیوب در دسترس مخاطبان قرار دارد.

مدل Jev اهل پرحرفی نیست، دلش نمی‌خواهد برایتان قصه تعریف کند و اساساً کار خاصی جز پاسخ دادن به سؤالات چندگزینه‌ای، رتبه‌بندی گزینه‌ها و جواب‌های بله/خیر با تعیین ضریب احتمال انجام نمی‌دهد؛ اما راستش را بخواهید، در خیلی از سناریوهای واقعی و کاربردهای سازمانی، کل چیزی که از یک هوش مصنوعی نیاز دارید دقیقاً همین است!

علاوه بر این، هزینه اجرای Jev به‌شدت پایین و سرعت پردازش آن خارق‌العاده است و تنها در عرض یک هفته پس از رونمایی، انبوهی از کاربردهای عملی و واقعی را به رخ کشیده است.

در این برنامه، برندون ویلیارولو، میزبان برنامه، به همراه تام کلیبرن (خبرنگار ارشد فناوری) و ژواب جکسون (تحلیلگر حوزه هوش مصنوعی) به گفتگو نشسته‌اند تا بررسی کنند که Jev چگونه چشم‌انداز فعلی هوش مصنوعی را تکان داده و چه خوابی برای آینده این صنعت دیده است.

در ادامه، متن این گفتگوی جذاب و خواندنی را مرور می‌کنیم:

برندون (۰۰:۰۱)

سلام به همه دوستان! من برندون ویلیارولو هستم با اپیزود جدید پادکست کتل. این هفته حسابی بوی انقلاب هوش مصنوعی به مشام می‌رسد و نه، اشتباه نکنید، به سال ۲۰۲۲ برنگشته‌ایم! ماجرا درباره مدل Jev از شرکت TypeSafe AI است که حسابی در دنیای فناوری گل کرده و قول داده که کارهای واقعی را با هزینه‌ای به‌مراتب کمتر از مدلهای زبانی بزرگ (LLM) انجام دهد. برای بررسی این پارادایم جدید، تام کلیبرن خبرنگار ارشد و ژواب جکسون نویسنده حوزه فناوری در کنارم هستند. از هر دوی شما خیلی ممنونم که به این گفتگو آمدید.

تام (۰۰:۳۳)

سلام، ممنون از دعوتت.

ژواب (۰۰:۳۴)

خیلی متشکرم.

برندون (۰۰:۳۵)

خب تام، تو اولین گزارش را هفته پیش درباره عرضه Jev نوشتی و از آن زمان تا الان محبوبیت این مدل مدام بیشتر و بیشتر شده و همه جا درباره‌اش حرف می‌زنند. برای همین فکر کردم بهترین سوژه برای برنامه این هفته است. برای کسانی که دقیقاً نمی‌دانند این سیستم چه کاری انجام می‌دهد و چه فرقی با یک مدل زبانی بزرگ دارد، توضیح می‌دهی داستان Jev چیست؟

تام (۰۰:۵۲)

بله، در واقع Jev مدلی است که به آن اصطلاحاً «مدل سیستم یک» (System One) می‌گویند و ساخته شرکتی به اسم TypeSafe AI است. به نظرم دلیل اصلی که این روزها این‌قدر سروصدا کرده، این است که چهره‌های فنی فوق‌العاده معتبر و باتجربه‌ای پشت آن ایستاده‌اند؛ مثلاً یکی از مهره‌های کلیدی پروژه قبلاً در OpenAI فعالیت داشته است. ایده اصلی مدل این است که برای تصمیم‌گیری‌های مبتنی بر امنیت نوع داده (Type Safe) بهینه‌سازی شده است. یعنی به جای اینکه با یک ساختار تماماً زبان طبیعی سر و کار داشته باشید و مجبور شوید ابهامات کلامی مختلف را حل و فصل کنید، این سیستم مستقیماً برای گرفتن تصمیم میان چند گزینه مشخص یا پاسخ‌های درست/غلط طراحی شده است. از لحاظ رویکرد یادگیری ماشین هم تفاوت دارد؛ این سیستم از «یادگیری تقویتی برای تصمیم‌گیری کالیبره‌شده» استفاده می‌کند، نه یادگیری تقویتی بر اساس بازخورد انسانی (RLHF) که برای مدلهای زبانی مولد به کار می‌رود.

تصور می‌کنم این موج هیجان به این دلیل شکل گرفته که مدتی بود پژوهش جدید و هیجان‌انگیزی در این ابعاد ندیده بودیم. البته افراد زیادی در این حوزه پژوهش می‌کنند و آزمایشگاه‌های چینی هم نوآوری‌های فوق‌العاده‌ای رقم می‌زنند، اما معمولاً به خاطر نبود چهره‌های شاخص آمریکایی آن‌قدرها بولد نمی‌شوند. برای رسانه‌های آمریکایی، این یک رویکرد کاملاً تازه بود که دقیقاً دست روی نیاز اساسی شرکت‌ها گذاشته است؛ یعنی نیاز به خروجی‌های قطعی و بدون خطا. شما نمی‌توانید یک مدل زبانی بزرگ چت‌محور را مثلاً روی سیستم صدور فاکتور و امور مالی بگذارید و انتظار داشته باشید با توهمات عجیب و غریب کار را خراب نکند! شما فقط یک پاسخ شفاف می‌خواهید: این فاکتور باید پرداخت شود یا نه؟

برندون (۰۲:۴۴)

دقیقاً. و به ماجرای توهم اشاره کردی؛ در مطلبت نوشتی که TypeSafe این مدل را به عنوان سامانه‌ای بدون توهم تبلیغ می‌کند. هرچند تو اشاره کردی که شاید این توصیف صددرصد منصفانه نباشد، اما اصل ماجرا این است که سیستم قرار نیست از خودش چرند بسازد و توهم بزند، درست است؟

تام (۰۳:۰۲)

درست است. البته هنوز هم می‌تواند خطا کند. اگر به آن سه گزینه بدهید، بین A یا B یا C یکی را برمی‌گرداند؛ منتها انتخابش قطعی و خشک نیست، بلکه درصد احتمال هر گزینه را به شما می‌دهد.

برندون (۰۳:۱۶)

کاملاً درسته.

تام (۰۳:۱۷)

بنابراین هنوز هم احتمال خطا وجود دارد. اما چون خروجی را به سه گزینه محدود کرده‌اید، مدل قرار نیست شروع به سر هم کردن داستان‌های عجیب و غریب یا پاسخ‌های بی‌ربط به سیاق کار کند.

برندون (۰۳:۳۰)

در واقع هیچ متن طولانی یا بازخورد تشریحی تولید نمی‌کند، درست است؟ فکر می‌کنم کلاً سه نوع درخواست یا کوئری بیشتر نمی‌شود به آن داد، درست می‌گویم؟

تام (۰۳:۴۰)

بله، کاملاً درست است. سه ساختار اصلی دارد: یکی Choice که همان سوالات چندگزینه‌ای است، دومی Scoring است که معیاری برای امتیازدهی و رتبه‌بندی به آن می‌دهید، و سومی Nool است که شبیه درست/غلط یا بله/خیر عمل می‌کند. مثلاً اگر سؤالی درباره یک صورتحساب یا مقصد یک ایمیل ورودی بپرسید، سیستم می‌گوید ۸۰ درصد احتمال دارد که ایمیل مربوط به بخش فنی باشد، ۱۰ درصد احتمال دارد برای فروش باشد و همین‌طور الی آخر. با این درصدها مسیر ایمیل را مشخص می‌کنید. اما دلیل اصلی جذابیتش برای شرکت‌ها، ارزان بودن وحشتناک آن در مقایسه با بقیه رقباست. اگر چنین تصمیمی را به کلود (Claude) بسپارید، کلی زمان صرف پردازش متن می‌کند و پاسخی می‌دهد که شاید سیستم بتواند استفاده کند، اما برایتان ۵۰ برابر گران‌تر تمام می‌شود!

برندون (۰۴:۴۰)

و تازه خیلی سریع‌تر هم هست، درست است؟ چون برخلاف مدلهای معمول که کلمه به کلمه و توکن به توکن پیش می‌روند، روش متفاوتی برای پردازش دارد و جواب را کلاً یکجا تحویل می‌دهد؟

تام (۰۴:۴۸)

دقیقاً همین‌طور است. همه چیز را به صورت کاملاً موازی پیش می‌برد. کوئری را می‌فرستید و تمام پاسخ‌ها همزمان و یکجا برمی‌گردند؛ برخلاف مدل‌های زبانی معمولی که توکن به توکن پیش‌بینی می‌کنند و چون عملیاتی سریالی و پشت‌سرهم است، کلی زمان می‌برد. بنابراین برای بهینه‌سازی کارهایی که به سرعت آنی نیاز دارند، گزینه‌ای معرکه است.

برندون (۰۵:۱۳)

طبق شنیده‌ها، ظاهراً بابت خروجی هم هیچ هزینه‌ای پرداخت نمی‌کنید، درست است؟ یعنی فقط پول توکن‌های ورودی را می‌دهید و خروجی کاملاً رایگان است؟

تام (۰۵:۲۱)

بله، برداشت من هم همین است. منطقی هم هست؛ مگر کلاً قرار است چند توکن تحویل بگیرید؟ کل خروجی فقط یک بله یا خیر یا چند عدد احتمال است!

برندون (۰۵:۳۰)

دقیقاً، یک درست/غلط و چند رقم رتبه‌بندی آماری. پس هم بی‌نهایت ارزان‌تر است و هم خیلی سریع‌تر. نکته جالب دیگری که دیدم این بود که همچنان می‌توانید با زبان طبیعی با آن صحبت کنید و کوئری بزنید؛ نیازی نیست برای خروجی کدنویسی پیچیده‌ای انجام دهید، درست است؟ فقط باید مثل مدلهای زبانی محدودیت‌ها را تعریف کنید، اما صورت سؤال کاملاً به زبان طبیعی است.

تام (۰۵:۵۶)

بله دقیقاً همین‌طور است.

برندون (۰۵:۵۷)

... و در پاسخ، مجموعه‌ای از احتمالات آماری تحویل می‌گیرید.

تام (۰۶:۰۰)

یک نمونه جالب که در مقاله‌ام به آن اشاره کردم و هم جنبه فان داشت و هم عملکرد سیستم را نشان می‌داد، راه‌اندازی این مدل برای اجرای بازی DOOM بود! اگر وضعیت بازیکن، مثل میزان سلامتی و موقعیت در نقشه را به مدل بدهید، آن‌قدر سریع تصمیم می‌گیرد و پاسخ می‌دهد که عملاً می‌تواند بازی را پیش ببرد! این موضوع نشان می‌دهد در کارهای واقعی چقدر می‌شود از این پتانسیل استفاده کرد. به نظر من در آینده نزدیک شاهد تلاش‌های موازی زیادی خواهیم بود تا نسخه‌های مشابهی با همین رویکرد بسازند؛ چون اگر در حال ساخت یک محصول با پردازش زبان طبیعی باشید، در خیلی از جاها واقعاً نیازی به هوش مصنوعی مولد ندارید و همان درخت‌های تصمیم‌گیری چندگزینه‌ای سنتی کاملاً کارتان را راه می‌اندازند.

برندون (۰۶:۵۲)

کاملاً درسته.

تام (۰۶:۵۲)

به نظرم خیلی از کسانی که سیستم‌های مبتنی بر زبان طبیعی را مهندسی کرده‌اند، تا حالا گزینه‌های بهینه‌سازی را جدی نگرفته بودند و به فکر کاهش هزینه‌ها نیفتاده بودند؛ در حالی که اضافه کردن مدلی مثل Jev دقیقاً همین کار را برایشان انجام می‌دهد.

برندون (۰۷:۰۰)

بله، شاید تکامل بعدی این باشد که این نوع ساختارها وارد دل خود مدلهای زبانی بزرگ شوند تا سرعت را بالا ببرند و هزینه‌ها را خرد کنند. اما درباره کاربردها، ژواب، تو هم این هفته گزارشی نوشتی درباره روش‌هایی که برنامه‌نویس‌ها دارند از این مدل استفاده می‌کنند؛ گویا سایتی راه افتاده که تمام کاربردهای جالب Jev را فهرست می‌کند. تو چه چیزهای جالبی در این جامعه دیده‌ای؟

ژواب (۰۷:۳۴)

بیشتر چیزهایی که فعلاً می‌بینیم، دموهایی هستند که می‌شد با کدهای معمولی هم پیاده‌شان کرد، اما دیدن اینکه خیل عظیمی از توسعه‌دهندگان دارند تلاش می‌کنند پتانسیل‌های آن را کشف کنند بسیار هیجان‌انگیز است. Jev نمی‌تواند پاسخی به شما بدهد که از قبل ندانید؛ اگر چهار گزینه به آن بدهید، عمراً گزینه پنجمی از خودش بسازد! بنابراین خودتان باید نقشه راه را از قبل چیده باشید. کاربرد اصلی این مدل برای سناریوهایی است که شاید کاملاً قطعی نباشند، اما نهایتاً به یک سری خروجی مشخص منتهی می‌شوند. برای همین بود که دموهای بازی‌های ویدیویی مثل DOOM یا تتریس حسابی گل کرد؛ گزینه‌های شما در بازی محدود است اما هدف کلی مشخص است: «باید تا آخر مرحله زنده بمانم و بیشترین امتیاز را بگیرم».

برندون (۰۸:۳۸)

کاملاً درسته.

ژواب (۰۸:۳۹)

پس بهترین بازدهی را روی پروژه‌هایی دارد که خروجی قابل پیش‌بینی دارند و فقط می‌خواهید سریع به مقصد برسید. مدلهای زبانی هم می‌توانند این کار را بکنند، اما کلی فسفر می‌سوزانند و معطل می‌کنند تا جمله بسازند و با کاربر وارد تعامل شوند.

برندون (۰۹:۰۲)

و همان‌طور که گفتی، ممکن است یک‌هو وسط کار گزینه پنجم من‌درآوردی تحویل بدهند! جوابی که شاید اصلاً به درد سناریو نخورد، چون مدل‌های زبانی هرچقدر هم پیشرفته شوند، هنوز هر از گاهی این دسته‌گل‌ها را به آب می‌دهند.

ژواب (۰۹:۱۵)

دقیقاً. بنابراین کاربردهای زیادی در دسته‌بندی داده‌ها و مسیریابی وظایف شکل گرفته است. اخیراً خواندم که فردی از Jev به عنوان چک امنیتی و گاردریل برای ایجنتها استفاده کرده است؛ مثلاً از بین تمام دستورات یونیکس که یک ایجنت ممکن است اجرا کند، جلوی پاک کردن دایرکتوری یا حذف فایل‌های حیاتی را بگیرد. این مدل در ساختن چنین گاردریل‌هایی بی‌نظیر عمل می‌کند و چون برق‌آساست، اصلاً سرعت سیستم را پایین نمی‌آورد. برخلاف مدلهای زبانی، کار با Jev نیازمند تفکر ساختاریافته و منضبط از سوی برنامه‌نویس است. باید سؤالات مشخص و دقیق و در قالب بله/خیر مطرح کنید، نه سؤالات باز و تشریحی. یکی از جالب‌ترین استارتاپ‌ها هم مدلی پیاده کرده که عکس یک لباس را می‌گیرد و می‌گوید مثلاً این کفش با آن شلوار ست می‌شود یا نه و درصد احتمال هماهنگی را تخمین می‌زند؛ یعنی خیلی سریع‌تر، ارزان‌تر و کاملاً بدون خطر توهم نسبت به یک مدل زبانی معمولی.

برندون (۱۱:۰۶)

فوق‌العاده است! فکر می‌کنی بشود از چنین سازوکاری به عنوان یک سیستم محافظ و گاردریل همگانی برای خود مدلهای زبانی بزرگ استفاده کرد تا امنیتشان بالا برود؟

ژواب (۱۱:۳۰)

صددرصد. من همیشه یاد حرف بیل گیتس درباره مرورگر نت‌اسکیپ می‌افتم که می‌گفت «نت‌اسکیپ یک برنامه نیست، بلکه یک ویژگی است». حالا هم مدلهای زبانی بزرگ احتمالاً چنین دسته‌بندی‌کننده‌ای را به عنوان یک ویژگی داخلی اضافه خواهند کرد؛ مثلاً می‌پرسند پاسخ تحلیلی باز می‌خواهی یا یک نتیجه قطعی و سریع؟ الآن هم مدلهای بزرگ می‌توانند این کار را بکنند اما توکن‌های زیادی می‌سوزانند و زمان‌بر هستند.

تام (۱۲:۱۱)

بله، البته هنوز معلوم نیست Jev به تنهایی بتواند مثل یک سندباکس کامل عمل کند؛ چون مدلهای زبانی آن‌قدر دانش گسترده‌ای دارند که اگر همه راه‌های نفوذ را پیش‌بینی نکرده باشید، ممکن است از یک پورت دیگر دور بزنند. اما ترکیب آن با سازوکارهایی مثل میکرو وی‌ام (MicroVM) می‌تواند یک لایه امنیتی قوی و مستحکم بسازد.

برندون (۱۲:۵۷)

یکی از سؤالاتی که خیلی‌ها در اینترنت پرسیده‌اند این است که «آیا واقعاً با پدیده جدیدی روبه‌رو هستیم؟» طبقه‌بندهای بدون نیاز به داده آموزشی (Zero-shot NLI)، مدل‌های امبدینگ و کراس‌انکودرها سال‌هاست که وجود دارند. چه چیزی Jev را متمایز می‌کند؟

ژواب (۱۳:۳۸)

ایده کلی قدیمی است، اما مزیت اصلی TypeSafe این است که ظاهراً مدلش را روی یک مدل زبانی بزرگ بنا کرده است. البته هنوز سؤال است که این مدل پایه چقدر باهوش است. شما سؤال را می‌فرستید و در کسری از ثانیه جواب تک‌ضرب می‌گیرید بدون اینکه مدل درگیر کلنجار رفتن با کلمات شود. رمز اصلی سرعت و ارزان بودنش همین است، هرچند تمام فوت و فن کار در معماری بک‌اند مخفی مانده است.

تام (۱۴:۴۰)

مثل همیشه در دنیای نرم‌افزار، همه چیز به قدرت فنی برنمی‌گردد، بلکه بازاریابی درست تعیین‌کننده است. آن‌ها یک رابط کاربری و API بسیار سرراست و شفاف ارائه دادند و همین استفاده آسان باعث استقبال سریع شده است. وقتی ۵ دلار اعتبار رایگان می‌دهند که با این سیستم ارزان می‌توانید صدها هزار کار با آن انجام دهید، طبیعتاً همه وسوسه می‌شوند امتحانش کنند.

برندون (۱۵:۴۴)

روی ردیت هم بحث داغی دیدم که یکی می‌گفت این یک دسته‌بندی‌کننده همه‌منظوره است و دیگری مخالفت می‌کرد. با توجه به اینکه مدلی فوق‌العاده ارزان است، آیا می‌توانیم نتیجه بگیریم که روی سخت‌افزارهای بسیار سبک‌تر و با هزینه‌های نگهداری کمتر از یک مدل زبانی معمولی اجرا می‌شود؟

ژواب (۱۶:۳۷)

دیوگو آلمیدا، یکی از خالقان Jev، چندی پیش در صحبتی اشاره کرد که تا امروز تمام مدلهای زبانی بزرگ طوری فاین‌تیون شده‌اند که کاربر را راضی نگه دارند و علت اصلی توهم هم همین خوش‌خدمتی به انسان است! اما فناوری آن‌ها یک مدل زبانی بهینه‌شده صرفاً برای دسته‌بندی است. پردازش زمان اجرای آن به دلیل تولید نکردن متن خروجی بسیار سبک است و به همین دلیل هزینه‌ای هم برای توکن‌های خروجی دریافت نمی‌شود.

تام (۱۷:۵۱)

از زاویه اقتصاد توکن، این موضوع نشان می‌دهد که ساختار نرم‌افزار چطور دارد پوست می‌اندازد. شرکت‌هایی مثل اوپنای‌آی و آنتروپیک در رویای این بودند که همه برای گران‌ترین مدل‌هایشان پول‌های کلان بدهند؛ اما واقعیت این است که حالا همه دنبال راه‌هایی می‌گردند تا مدل‌های گران را فقط در موارد کاملاً حیاتی صدا بزنند و کارهای روزمره را به ابزارهایی مثل Jev یا سیستم‌های محلی بسپارند تا هزینه‌ها را تا قطره آخر فشرده کنند.

برندون (۱۸:۵۸)

دقیقاً؛ Jev می‌تواند مثل یک پلیس راهنمایی و رانندگی عمل کند و تصمیم بگیرد که درخواست واردشده باید به کدام مدل یا ایجنت هدایت شود تا در هزینه‌ها صرفه‌جویی شود. مطمئناً به زودی جامعه متن‌باز و دیگر شرکت‌ها هم دست به کار می‌شوند تا مدل‌های مشابه و رایگانی از آن را روی هاگینگ‌فیس عرضه کنند.

ژواب (۱۹:۴۶)

دقیقاً. حتی متا هم پروژه‌های متمرکزی را برای انجام کارهای مشخص جلو برده است. قرار نیست همیشه برای کارهای روتین مغز گران‌قیمت مدل‌های زبانی را به آتش بکشیم، بلکه باید بار محاسباتی را سریعاً تخلیه کنیم.

برندون (۲۰:۳۴)

این نشان می‌دهد بازار چقدر تشنه سرویس‌های هوش مصنوعی به‌صرفه است که جیب شرکت‌ها را خالی نکنند. آغاز این مسیر را شاید بتوان «انقلاب Jev» نامید!

ژواب (۲۱:۰۸)

نکته خوب دیگرش این است که هوای برنامه‌نویس‌ها را هم دارد! برخلاف پلتفرم‌هایی که ادعا می‌کنند همه‌چیز را اتوماتیک می‌کنند، برای پیاده‌سازی درست Jev هنوز به کار فنی و تفکر دقیق مهندسان نیاز است.

برندون (۲۱:۲۴)

شاید پادزهری برای آشفتگی‌های پدیده vibe coding هم باشد تا توسعه‌دهندگان بدون تکیه کورکورانه بر مدلهایی مثل کلود، کنترل بهتری روی کیفیت کدهایشان داشته باشند. در هفته‌ها و ماه‌های آینده با دقت سرنوشت این مدل تازه و دگرگونی‌های آن را دنبال خواهیم کرد.

ژواب (۲۱:۵۸)

ها ها ها، دقیقاً!

برندون (۲۱:۵۹)

هر اتفاقی بیفتد و این انقلاب به هر سمتی که برود، ما اینجا در پادکست کتل درباره آن صحبت خواهیم کرد و خوشحال می‌شویم شما هم همراه ما باشید.