بزرگ‌تر همیشه بهتر نیست؛ چرا ترمز قطار پرهیاهوی هوش مصنوعی در حال کشیده شدن است؟

این روز‌ها در دشت‌های همیشه آفتابیِ آینده هوش مصنوعی، بادهای سرد و گزنده‌ای شروع به وزیدن کرده است. خوشبختانه — البته اگر بتوان این قید نامناسب را به کار برد — بقیه دنیا سرشان به قدری گرم نگرانی و دلشوره‌های ریز و درشت دیگر است که چندان متوجه این هوای سرد نشده‌اند. واقعیت این است که شورش ایجنت‌های هوش مصنوعی و خروج خرابکارانه آن‌ها از آزمایشگاه‌ها اصلاً تصویر قشنگی ندارد؛ همان‌طور که عقب افتادن عرضه عمومی سهام (IPO) شرکت OpenAI و به تعویق افتادن معرفی مدل‌های جدیدش هم حسابی توی ذوق می‌زند.

این ماجراها در حال حاضر تمام پهنای باند رسانه‌های خبری را می‌بلعند. اما وقتی همه این‌ها را در پازلی بزرگ‌تر کنار هم می‌گذاریم — پازلی پر از وعده‌های عمل‌نشده، دردهای کهنه‌ای که هیچ درمانی برایشان پیدا نشده و نسبت عجیب ریسک به پاداش با بزرگ‌تر شدن مدل‌ها — تازه کم‌کم دستمان می‌آید که چه بحرانی در کمین صنعت هوش مصنوعی نشسته است.

بحران‌های واقعی همیشه از بحران اعتماد جرقه می‌خورند؛ زمانی که فرضیه‌ها و خیالبافی‌های خوش‌بینانه دیگر زیر بار واقعیت دوام نمی‌آورند و ساختار پیش‌بینی‌ها فرو می‌ریزد.

تا به امروز فرض بر این بود که مدل‌ها مدام قدرتمندتر و زیرساخت‌ها غول‌پیکرتر می‌شوند و همین موضوع، هزینه‌های سرمایه‌ای (Capex) نجومی و سرسام‌آور را کاملاً توجیه — یا بهتر بگوییم، اجتناب‌ناپذیر — می‌کند. سرمایه‌گذاری میلیاردی روی زیرساخت‌ها در بازاری که دسترسی به منابع حیاتی سخت است، قمار بزرگی به حساب می‌آید. اما چالش اساسی‌تر، این تصور غلط است که هوش مصنوعی قوی‌تر لزوماً و همیشه «بهتر» است. بله، در خیلی از مواقع شاید این‌طور باشد، اما اصلاً کافی نیست.

وقتی می‌بینیم پیشرفته‌ترین مدل‌ها را باید به خاطر دروغگویی و فریبکاری مهارنشدنی در قفس نگه داشت و منتشر نکرد، قضیه کاملاً فرق می‌کند. اصل ماجرا اینجاست که در بطن فضای احتمالات مدل‌های زبانی بزرگ، همه‌چیز نسبی است و هیچ «حقیقت مطلق و پایه‌ای» وجود ندارد. هنوز هیچ‌کس نتوانسته پدیده توهم (Hallucination) را درمان کند، و حالا با پدیده شگفت‌انگیزی روبه‌رو هستیم: ماشینی که مفهوم حقیقت را درک نمی‌کند، اما بلد است با مهارت تمام دروغ بگوید! اگر مدل‌های قوی‌تر در این کار دست‌نیافتنی‌تر و ماهرتر باشند، باید دور آن فرضیه خوش‌خیالانه اول خط قرمز کشید.

فرضیه بزرگ دیگر این بود که معماری‌های مبتنی بر ایجنت‌ها، حتی با همین سطح فعلی از قابلیت اطمینان، آماده‌اند تا وارد دنیای واقعی شوند و عصای دست ما باشند. آن‌هایی که مثل یک قمارباز غرق در برد، تمام احتیاط را کنار گذاشته‌اند، به همان اندازه‌ای غافلگیر خواهند شد که منتقدان سرسخت این ماجرا انتظارش را می‌کشیدند؛ چرا که کوبیدن روی پدال ترمز حتمی است.

در حال حاضر بارزترین شاهدی که نشان می‌دهد ایجنت‌های هوش مصنوعی می‌توانند چشمه‌ای خروشان از پیامدهای پیش‌بینی‌نشده و خطرناک باشند، ایجنت جدید شرکت متا به نام Muse است. این ابزار برای کاربرانی ساده‌دل و کم‌اطلاع طراحی شده و ستاره درخشان سناریوهایش هم طبق معمول «خرید آنلاین» است؛ همان سناریوی تکراری و معروفی که همیشه می‌گفتند پنج سال دیگر از راه می‌رسد و هنوز هم پنج سال با آن فاصله داریم!

خب، بالاخره داریم درباره متا صحبت می‌کنیم؛ پس طبیعی است که تا جای ممکن تمام اطلاعات شما، فعالیت‌های آنلاین و کسانی را که با آن‌ها گپ می‌زنید ببلعد. به زودی قرار است پت‌های دیجیتالی فوق‌العاده بانمک و تاماگوچی‌طور هم بسازند که بتوانید دور گردنتان بیندازید تا موقعیت‌تان به عنوان یک پایگاه شنود اختصاصی برای متا حسابی ارتقا پیدا کند! و از آنجا که نام متا رویش است، خیالتان راحت باشد که دقیقاً همان وسواس و دقتی را در امنیت و طراحی دارد که از این غول فناوری انتظار دارید!

به همین دلیل است که همین حالا مچ این سیستم هنگام فرستادن آدرس فیزیکی افراد برای افراد کاملاً غریبه گرفته شده است! جالب‌تر اینکه وقتی جانی، پژوهشگر حاضر در شبکه neuromatch.social، زیرساخت این سیستم را زیر ذره‌بین برد — جایی که هر نمونه از آن به شکل دائمی روی ماشین مجازی لینوکس (Linux VM) خودش اجرا می‌شود — با دنیایی از عجایب روبه‌رو شد: شیرین‌کاری‌ها و ترفندهای نرم‌افزاری که هاردکد شده‌اند، ردپاهایی از تلاش برای آموزش دیدن با داده‌های مدل Claude، و بد‌تر از همه اینکه می‌توانید کدهای دلخواه خودتان را روی این ماشین‌های مجازی در اعماق سرور‌های متا اجرا کنید؛ چیزی که به تعبیر جانی، یک بهشت آماده برای راه‌اندازی شبکه‌های خرابکار بات‌نت است!

این معجون شاهکار و پراشکال حالا دارد به دست کاربران عادی متا می‌رسد؛ کسانی که تعریف دقیق جامعه هدف آسیب‌پذیر در برابر فناوری‌های نامطمئن هستند. از طرف دیگر، متا سرسختانه با هرگونه قانون‌گذاری سفت و سخت درباره ایمنی هوش مصنوعی مخالفت می‌کند. فقط باید منتظر ماند و دید چه تیترهای جنجالی دیگری قرار است رقم بخورد.

به هر حال، فایده‌هایی که برای این ایجنت‌ها در کنفرانس‌های پر زرق و برق به نمایش گذاشته می‌شود، یا مثل رزرو یک میز در رستوران به شدت پیش‌پاافتاده و دم‌دستی است، یا در صورت خرابکاری و خطا آن‌قدر فاجعه‌بار خواهد بود — مثل برنامه‌ریزی یک سفر خانوادگی که نقش بر آب شود — که ایجنت‌های مصرف‌کننده عملاً یک طرح شکست‌خورده به نظر می‌رسند. در این میان، متا فقط دارد با تصمیماتش نفت بیشتری روی این آتش می‌ریزد.

البته آتش‌های دیگری هم در این بازار شعله‌ورند که از همان روز‌های اول همه از وجودشان خبر داشتند. فروپاشی مدل‌ها (Model Collapse) به دلیل آموزش دیدن با داده‌های آلوده به خروجی‌های هوش مصنوعی؟ این معضل همچنان پابرجاست و مدل‌های به‌اصطلاح «بهتر» هم دردی از آن دوا نکرده‌اند. عادت هوش مصنوعی به بلعیدن و استفاده رایگان از دسترنج دیگران بدون پرداخت حتی یک سنت، که دارد زنجیره تأمین داده‌های آموزشی و بخش عظیمی از فرهنگ و کسب‌وکارها را خفه می‌کند؟ این بحران هم با قدرت به قوت خود باقی است.

تنها جایی که هوش مصنوعی واقعاً پیشرفت مستمر و ملموسی از خود نشان داده، حوزه‌های تخصصی است؛ مثل علوم پایه، مهندسی، ریاضیات و برنامه‌نویسی. اگر مدلی را با یادگیری تقویتی مناسب همراه کنید و مدیریتش را به دست انسان‌های کاربلد بسپارید، نتایج حیرت‌انگیزی رقم می‌زند. اما باز هم از نوآوری‌های ساختارشکن و جهش‌های بنیادین — که موتور محرک اصلی پیشرفت واقعی هستند — خبری نیست.

عبارت «بهتر از انسان عمل کردن» کاملاً نسبی و وابسته به زمینه است. کامپیوترها چندین دهه است که شطرنج را بهتر از انسان‌ها بازی می‌کنند، اما این باعث نشد «بازی شطرنج بهتری» خلق شود. اسب‌ها هم چهار هزار سال سریع‌تر از انسان‌ها دویده‌اند و خیلی هم به کارمان آمدند، اما دوران اوج بهره‌وری از اسب‌ها سال‌ها پیش به پایان رسیده است.

حالا سوال اصلی اینجاست: آیا به «نقطه اوج هوش مصنوعی» (Peak AI) رسیده‌ایم؟ نقطه‌ای که در آن هزینه‌های پیشرفت‌های بعدی با بازدهی اندک آن‌ها همخوانی ندارد؟ وقتی ChatGPT می‌تواند در چند ثانیه یک نامه اداری بی‌نقص بنویسد، ارتقای بعدی واقعاً چه ارزش افزوده‌ای برای کاربر عادی دارد؟ بخش زیادی از ابزار‌های هوش مصنوعی فعلی به‌شدت آزاردهنده شده‌اند؛ مشکلی که ربطی به خود مدل‌ها ندارد، بلکه به تجربه کاربری بد و زوری آن‌ها برای توجیه رشد سهام مربوط است. این روند نه‌تنها ناپایدار است، بلکه اعترافی پنهان به این واقعیت است که هوش مصنوعی هنوز نتوانسته مشکل اساسی کاربرد واقعی خود را حل کند.

اگر واقعاً به این نقطه اوج رسیده یا به آن نزدیک شده باشیم، آیا همین تلنگر حباب توهمات را می‌ترکاند؟ قطعاً یک بازتنظیم بزرگ در راه است؛ چرا که دیگر کسی روی صعود بی‌وقفه و تصاعدی این نمودار حساب باز نمی‌کند. هوش مصنوعی در همین سطح فعلی هم برای پیش بردن یک صنعت بزرگ بسیار مفید است، اما این کاربرد واقعی با آن رویاپردازی‌های توخالی و کارزارهای تبلیغاتی پر سر و صدا زمین تا آسمان فاصله دارد.

شاید اعتماد به شعار «هوش مصنوعی حداکثری» خدشه‌دار شده باشد، اما هنوز فضا برای بهبودهای منطقی وجود دارد. این کاهش سرعت و ترمز پیشرفتی که عقلا خواستارش هستند، شاید اگر از ذهنیت مغالطه‌آمیز مدیران متا و تفکرات امثال ایلان ماسک فاصله بگیریم، خودبه‌خود و به شکلی طبیعی رخ دهد. این شاید قماری باشد که ترجیح می‌دادیم واردش نشویم، اما شانس موفقیت شاید بیش‌تر از چیزی باشد که فکر می‌کردیم.