گل‌به‌خودی اوپنای‌آی در ماجرای هاگینگ‌فیس؛ چرا مدل‌های وزن‌باز چینی برنده این رقابت شدند؟

اوپنای‌آی رسماً اعتراف کرد ایجنت‌های مستقلی که زیرساخت هاگینگ‌فیس (Hugging Face) را هدف نفوذ قرار دادند، از مدل‌های این شرکت قدرت می‌گرفتند. اگر این رویداد تا این حد به یک فرصت تبلیغاتی بی‌نقص برای رقبای چینی تبدیل نمی‌شد، شاید می‌شد آن را یک شیرین‌کاری پیچیده بازاریابی تلقی کرد.

این اعتراف به خطای هوش مصنوعی از سوی اوپنای‌آی، کاملاً با روایت رقیب آمریکایی‌اش، یعنی آنتروپیک، درباره مدل‌های Mythos هم‌خوانی دارد؛ مدل‌هایی که آنتروپیک انتشار عمومی آن‌ها را بیش از حد خطرناک دانست و ادعا کرد فقط باید در اختیار شرکت‌ها و دولت‌های کاملاً مورد اعتماد قرار گیرند.

اوپنای‌آی در بیانیه خود اعلام کرده است: «این حادثه به‌روشنی نشان می‌دهد که مدل‌های پیشرفته می‌توانند حتی بدون دسترسی به سورس‌کد، مسیرهای حمله جدیدی را در سیستم‌های واقعی کشف کرده و از آن‌ها سوءاستفاده کنند. این ماجرا تأکید می‌کند که قابلیت‌های پیشرفته سایبری باید هم‌گام با ابزارهای دفاعی و حفاظ‌های امنیتی محکمتر توسعه پیدا کنند.»

اما آیا واقعاً این اتفاق جای شگفتی دارد؟ سال‌هاست که پتانسیل مدل‌های هوش مصنوعی برای سرکشی و آسیب رساندن به سیستم‌های رایانه‌ای برای همه روشن شده است. پژوهشگران دانشگاهی بارها درباره این خطر هشدار داده‌اند؛ حتی دانشمندانی که با خود اوپنای‌آی و آنتروپیک همکاری دارند. علاوه بر این، هر برنامه‌نویسی که از مدل‌های هوش مصنوعی برای توسعه نرم‌افزار استفاده کرده باشد، احتمالاً متوجه شده است که این سیستم‌ها برای اجرای یک دستور، راه‌حل‌های پیش‌بینی‌نشده و گاه نامطلوبی خلق می‌کنند. اخیراً نیز مؤسسه امنیت هوش مصنوعی بریتانیا یافته‌هایی منتشر کرد که نشان می‌داد تمام مدل‌های پیشرو در موقعیت‌های مختلف دست به فریبکاری می‌زنند.

اعتراف اوپنای‌آی به اینکه مدل‌هایش صرفاً برای حل یک مسئله در بنچمارک ارزیابی، توانسته‌اند با فرار از جعبه شنی (سندباکس) به اینترنت دسترسی پیدا کنند و یک آسیب‌پذیری روز-صفر را برای نفوذ بیابند، از نظر ابعاد و شهرت سیستم‌های هدف احتمالاً بی‌سابقه است. با این حال، چنین رفتاری نسخه ارتقایافته همان سناریویی است که در پرامپت‌های مدل‌هایی مانند کلود (Claude) یا Codex دیده می‌شود؛ جایی که مدل در برابر یک دستور غیرمجاز، فوراً راهکارهای جایگزین را برای دور زدن محدودیت امتحان می‌کند.

در حقیقت، قبلاً بارها در این زمینه هشدار داده شده بود.

نفوذ به زیرساخت هاگینگ‌فیس، تعجب‌برانگیزتر از حبس کردن یک خرس در سوپرمارکت و روبه‌رو شدن با فاجعه در صبح روز بعد نیست! مدل‌های هوش مصنوعی گرچه با عنوان «هوشمند» معرفی می‌شوند، اما وقتی در قالب ایجنت‌ها و در یک چرخه تکرارشونده برای دستیابی به هدفی خاص ابزارها را به کار می‌گیرند، عملکردی معادل یک حمله جستجوی فراگیر (Brute Force) از خود نشان می‌دهند؛ به این معنا که ایجنت آن‌قدر راه‌های مختلف را می‌آزماید تا بالاخره یکی جواب دهد یا سیستمی دچار اختلال شود.

بخش شگفت‌انگیز ماجرا زمانی رخ داد که هاگینگ‌فیس تلاش کرد برای دفاع از خود و بررسی حادثه، مدل‌های پیشرو آمریکایی را به خدمت بگیرد؛ اما این تلاش کاملاً شکست خورد.

همین یک نکته کافی است تا نگاه‌ها با تعجب و تأمل همراه شود.

این فروشگاه بزرگ مدل‌های هوش مصنوعی در پست وبلاگی اخیر خود توضیح داد: «وقتی تحلیل لاگ‌ها را آغاز کردیم، ابتدا به سراغ مدل‌های پیشرو ارائه‌شده پشت APIهای تجاری رفتیم؛ اما این روش نتیجه نداد. این تحلیل نیازمند ارسال حجم عظیمی از دستورات واقعی حمله، پی‌لودهای اکسپلویت و شواهد سرورهای فرماندهی و کنترل (C2) بود و تمامی این درخواست‌ها توسط حفاظ‌های ایمنی ارائه‌دهندگان مسدود شد؛ چراکه این حفاظ‌ها قادر به تفکیک تیم پاسخ به حادثه از یک هکر واقعی نیستند.»

هاگینگ‌فیس که به دلیل امتناع مکرر این مدل‌ها—مشکلی که ماه‌هاست صدای اعتراض توسعه‌دهندگان را درآورده است—به بن‌بست رسیده بود، ناچار شد برای انجام تحلیل‌های فارنزیک خود به مدل وزن‌باز GLM 5.2 روی بیاورد؛ مدلی که توسط شرکت چینی Z.ai توسعه یافته است. هاگینگ‌فیس این مدل را مستقیماً روی زیرساخت اختصاصی خودش اجرا کرد تا هیچ‌گونه داده حساسی به سرورهای ابری ارائه‌دهندگان مدل ارسال نشود.

جالب اینجاست که طبق گزارش‌ها، مدیران اوپنای‌آی و آنتروپیک در همان دوران به دولت آمریکا درباره تهدید ناشی از قدرت‌گیری مدل‌های چینی نظیر Kimi K3 و GLM 5.2 هشدار می‌دادند و گفته می‌شود واشنگتن نیز سرگرم بررسی راهکارهایی برای محدود کردن رقابت از سوی چین بوده است.

اما این راهکار به نتیجه نخواهد رسید. این تصوری ساده‌لوحانه است که گمان کنیم دولت آمریکا و چند سازمان منتخب—با هر تعریفی که از شایستگی داشته باشند—بتوانند انحصاری جهانی بر هوش مصنوعی فوق‌پیشرفته تحمیل کنند. سخت‌افزار لازم برای اجرای مدل‌های وزن‌باز، که کم‌وبیش با بهترین مدل‌های روز دنیا رقابت می‌کنند، با صرف هزینه در بازار آزاد قابل تهیه است. از سوی دیگر، کاربران و توسعه‌دهندگان در شرایطی که گزینه‌های منعطف‌تر، همراهی‌کننده‌تر و مقرون‌به‌صرفه‌تری در دسترس دارند، هرگز حاضر نخواهند شد مدام با خطاهای امتناع و قفل‌های ایمنی مدل‌های بسته دست‌وپنجه نرم کنند.

بهترین مسیر برای دولت‌ها، صنایع و عموم جامعه، حرکت به سمت خدمات هوش مصنوعی باز و در دسترس همگان است. البته برای تحقق پایدار این هدف، قانون‌گذاران در سراسر جهان باید هرچه سریع‌تر قواعد پایه‌ای مشترکی برای مدیریت تأثیر هوش مصنوعی بر فرصت‌های شغلی تدوین کنند و سازوکاری عادلانه برای جبران زحمات کسانی که محتوایشان سوخت یادگیری ماشین را تأمین می‌کند، بیابند.

به نظر می‌رسد برخی از چهره‌های برجسته صنعت نیز به این واقعیت پی برده‌اند. دیوید ساکس، سرمایه‌گذار حوزه فناوری و مشاور کاخ سفید، به‌تازگی از سیلیکون‌ولی خواست تا حول محور توسعه باز گرد هم آیند.

او در پیامی در شبکه‌های اجتماعی نوشت: «آزمایشگاه‌های پیشرو مدل‌های بسته که در حال حاضر بازار درآمدی مدل‌های هوش مصنوعی را به‌صورت دوقطبی در قبضه خود دارند، از دولت می‌خواهند رقبای متن‌باز آن‌ها را از میان بردارد. آن‌ها تمام کارت‌های خود را رو کرده‌اند و اکنون زمان آن فرارسیده است که باقی اهالی سیلیکون‌ولی—یعنی اکثریت قاطعی که هنوز به رقابت آزاد باور دارند—نیز موضع خود را با صدای بلند اعلام کنند.»

واقعیت این است که شرکت‌های هوش مصنوعی آمریکا خودشان را در گوشه‌ای از زمین بازی حبس کرده‌اند؛ آن‌ها تقاضایی عظیم برای محصولی ایجاد کرده‌اند که کاربران در شرایط حساس نمی‌توانند به آن تکیه کنند. علاوه بر این، زمانی که قدرتمندترین مدل‌هایشان را عرضه می‌کنند، با زنجیر کردن دست‌وپای مدل و تحمیل شرایط سخت‌گیرانه، بیش از آنکه به فکر مشتریان باشند، به دنبال جبران بدهی‌های سنگین سرمایه‌گذاری‌های خود هستند.

اوپنای‌آی اعلام کرده که هاگینگ‌فیس را به «برنامه دسترسی مورد اعتماد» خود دعوت کرده است تا بتواند از قوی‌ترین مدل‌های این شرکت استفاده کند.

اما در این میان، شرکت‌های هوش مصنوعی چین کل جهان را به استفاده از مدل‌های خود فراخوانده‌اند.