فرار ایجنتهای هوش مصنوعی کار دست اوپنایآی داد؛ دادستان فلوریدا: جلوی ساخت مدلهای جدید را بگیرید!

دادستان کل ایالت فلوریدا به دنبال گرفتن یک حکم قضایی فوری است تا جلوی اوپنایآی (OpenAI) را برای توسعه مدلهای زبانی بزرگتر و پیشرفتهتر بگیرد؛ اقدامی جنجالی که در پی افزایش حوادث امنیتی ناشی از فرار مدلهای هوش مصنوعی از محیطهای تست غیراستاندارد رقم خورده است.

فهرست وبسایتهایی که امسال هدف نفوذ یا دستکاری ایجنتهای هوش مصنوعی در محیطهای آزمایشی قرار گرفتهاند، طی روزهای اخیر حسابی طولانی شده و حالا پای سایتهای دولتی آمریکا هم به ماجرا باز شده است. ظاهراً این ایجنتها سعی کردهاند با زیرورو کردن وبسایتهای وزارت آموزش و بازرگانی آمریکا، اطلاعات مربوط به سرشماری را بیرون بکشند. علاوه بر این، گزارش رسانه Axios در تعطیلات آخر هفته نشان داد که اوپنایآی و رقیب سرسختش آنتروپیک (Anthropic) در حال بررسی احتمال وقوع دهها هزار حادثه امنیتی مشابه هستند.

این ماجراها باعث شده برخی شرکتهای هوش مصنوعی خودشان خواستار قانونگذاری دولت روی مدلهای مرزی (Frontier Models) شوند، هرچند عدهای دیگر معتقدند اصلاً نیازی به دخالت دولت نیست. جیمز اوتمایر، دادستان کل فلوریدا، در دادخواست قضایی خود استدلال کرده که این پرونده بهترین فرصت را برای دادگاه فراهم میکند تا ترمز این روند را بکشد.

در دادخواست فلوریدا با لحنی طعنهآمیز آمده است: «متهمان ادعا میکنند نمیتوانند از تاختوتاز در مسیری که شاید به نابودی تمدن بشری ختم شود دست بردارند، مگر اینکه دولت آنها را مجبور کند! آنها از دولت خواستهاند مثل اولیس دستهایشان را به دکل کشتی ببندد. حالا شاکی خبر خوبی برای متهمان دارد: دادستان کل فلوریدا به فریاد کمکخواهی شما پاسخ داده و با این دادخواست، مانع از آن میشود که با محصول بینهایت خطرناک و بیاحتیاطی خود به شهروندان فلوریدا آسیب بزنید.»

در پی جدیدترین حوادث سایبری که زیرساختهای دولتی را نشانه رفت، اوپنایآی توسعه «توانمندترین مدلهای خود» را فعلاً به حالت تعلیق درآورده است. در حال حاضر هنوز مشخص نیست این شرکت دقیقاً کار روی کدام مدلها را متوقف کرده و کدام پروژهها همچنان در حال توسعه هستند تا حفرههای امنیتی برطرف شوند. نمایندگان اوپنایآی هم به درخواستها برای شفافسازی پاسخی ندادهاند.

جدیدترین پرده از سریال حوادث امنیتی هوش مصنوعی

شاید شنیدن اخبار مربوط به حوادث سایبری متعدد در زیرساختهای دولتی آمریکا شوکهکننده به نظر برسد، اما این اولین باری نیست که سرک کشیدن بدون اجازه مدلهای زبانی بزرگ در سراسر وب خبرساز میشود.

اولین هک پرسروصدای ناشی از مدلهای اوپنایآی در ماه ژوئیه فاش شد؛ یعنی زمانی که ایجنتهای هوش مصنوعی با سواستفاده از نقایص محیط آزمایشی، فرار کرده و استارتاپ معروف هاگینگ فیس (Hugging Face) را هدف گرفتند. این اتفاق در آن زمان بیسابقه بود؛ هرچند نگرانیها درباره امنیت داخلی شرکتهای هوش مصنوعی همیشه وجود داشت، اما این رخنه ثابت کرد که گاردریلها و تدابیر امنیتی اوپنایآی اصلاً بهاندازه کافی محکم نبودهاند.

وقتی اوپنایآی بررسی ماجرای هک هاگینگ فیس را شروع کرد، متوجه شد که ماجرا حتی به عقبتر برمیگردد و در ماه ژوئن هم نفوذی به سیستمهای دولتی استرالیا اتفاق افتاده بود! در آن حادثه، ایجنت هوش مصنوعی با نفوذ به سایت آماری بیمه استرالیا، به دنبال دادههای محرمانه دولتی درباره هزینههای دارویی رفته بود.

مؤسسه امنیت هوش مصنوعی بریتانیا نیز اعلام کرد شبیهسازیهای این مرکز نشان داده مدل GPT-6 Astra اوپنایآی بارها حملات خودسرانه و بدون مجوزی را علیه زنجیرههای تامین متفرقه انجام داده است.

البته اوپنایآی در این بحران تنها نیست؛ سایر شرکتهای پیشتاز هوش مصنوعی مثل آنتروپیک، متا و گوگل هم از رخدادهای امنیتی مشابه در سیستمهای خود خبر دادهاند.

به احتمال زیاد هنوز ابعاد کامل این حوادث سایبری چند ماه اخیر برملا نشده است. اوپنایآی و آنتروپیک در حال حاضر مشغول زیرورو کردن دهها هزار نقطه داده داخلی هستند و مدام با نفوذهای ناموفق یا موفقیتآمیز جدیدی از ماههای گذشته مواجه میشوند؛ موضوعی که نشان میدهد شاید بهزودی گزارشهای جنجالی بیشتری هم از راه برسد.

سم آلتمن، مدیرعامل اوپنایآی در پستی در شبکه اجتماعی ایکس نوشت: «سرعت ما آنطور که دوست داشتیم بالا نبوده، اما تلاش میکنیم بین میل به شفافیت و رسیدن به درکی دقیق از پتابایتها لاگ فعالیت ایجنتها تعادل برقرار کنیم و همزمان با سازمانهای آسیبپذیر در ارتباط باشیم. ما حوادث را بر اساس شدت اولویتبندی میکنیم و منابع بیشتری به این کار اختصاص دادهایم. ماجرای هاگینگ فیس هنوز هم شدیدترین حادثهای بوده که تا الان با آن روبهرو شدهایم.»

به دنبال گزارش اوپنایآی درباره نفوذ به سایتهای دولتی آمریکا، انویدیا از یک «پلتفرم باز امنیت ایجنت» رونمایی کرد که قرار است محیطهای سندباکس امنتری برای آموزش مدلهای هوش مصنوعی فراهم کند. انویدیا که سرمایهگذاریهای هنگفتی روی بزرگترین شرکتهای هوش مصنوعی انجام داده، منافع زیادی از داغ ماندن تنور این صنعت دارد.

نمایندگان آنتروپیک و انویدیا هنوز پاسخی به پیگیریها درباره این موضوع ندادهاند.

اوپنایآی این ماجرا را رخنه امنیتی نمیداند!

اگر هشدارهای آخرالزمانی و تیترهای نگرانکننده هر روزه درباره مدلهای هوش مصنوعی و ظهور هوش عمومی مصنوعی (AGI) شما را هم نگران کرده، کاملاً قابل درک است. خالقان این فناوری نوظهور مدام وعده میدهند که هوش مصنوعی جایتان را در محیط کار خواهد گرفت، روابطتان را تحت تاثیر قرار میدهد و شاید تا پایان همین دهه بشریت را منقرض کند!

اما واقعیت این است که یک مدل زبانی بزرگ (LLM) به هیچ وجه ادراک یا شعور ندارد. این مدلها صرفاً پرامپتها و متنها را دریافت میکنند، ارتباط میان میلیونها نقطه دادهای را که با آنها آموزش دیدهاند میسنجند و نتایجی را که از نظر متنی مرتبط به نظر میرسند سر هم میکنند. حتی اگر غولهای فناوری تمام نوشتههای اینترنت را ببلعند تا توانایی مدلهایشان را بالا ببرند، این مدلهای زبانی همچنان خطاپذیر و پر از نقص باقی میمانند.

وقتی خبر هکهای گسترده در شرکتهای دیگر یا سایتهای دولتی دستبهدست میشود، باید یادمان باشد که هوش مصنوعی در نهایت یک ماشین است. جالب اینجاست که وقتی روزنامه نیویورک تایمز درباره هکهای اخیر از نماینده اوپنایآی توضیح خواست، به آنها گفته شد که این اتفاق اصلاً یک «رخنه امنیتی» نبوده، بلکه فناوری این شرکت صرفاً «رفتاری غیرمنتظره و نگرانکننده از خود نشان داده است»!

با این حال، حتی در گزارش رسمی خود اوپنایآی هم اعتراف شده که سندباکس و محیط تستی آنها امنیت کافی نداشته و مدل توانسته از یک روزنه در محدودیتهای دسترسی به اینترنت سواستفاده کند؛ یعنی دقیقاً همان حفرههای امنیتی که قرار بود بعد از هک هاگینگ فیس مسدود شوند!

این حوادث بیش از آنکه نمادی از ظهور یک «ابرهوش مصنوعی» باشند، نشانه بیاحتیاطی و غفلت انسانها هستند. با اینکه اصطلاح «هوش مصنوعی سرکش» ترسناک و جذاب به نظر میرسد، اما این ماشینها دقیقاً برای پیدا کردن حفرهها و آزمایشهای فنی طراحی شده بودند. دلیل اصلی نفوذ این ایجنتها به وبسایتهای متفرقه خارج از محیط تست، این بوده که خود محیطهای آزمایشی از پایه و اساس ایراد داشتهاند.

جان استرند، مالک شرکت امنیت سایبری Black Hills Information Security، در این باره میگوید: «باید هرگونه تحقیق و توسعه روی امنیت هوش مصنوعی مدلهای پیشرفته فوراً و کاملاً متوقف شود، تا زمانی که این شرکتها رسماً اثبات کنند میتوانند محیطهای تست خود را ایمن نگه دارند. پای پاسخگویی در میان است؛ اگر قوانینی مثل قانون کلاهبرداری و سواستفاده رایانهای نقض شده باشد، باید تحقیقات قضایی انجام شود و در صورت وجود شواهد، اعلام جرم صورت گیرد. بالاخره یک نفر مسئول تامین امنیت این محیطها بوده و کاملاً واضح است که در کارش شکست خورده است.»