زنگ خطر ۴۰۰ دانشمند به رهبری جفری هینتون: تشکیل فوری نهاد بین‌المللی برای مهار هوش مصنوعی پیشرفته

حدود ۴۰۰ دانشمند و چهره برجسته، از جمله جفری هینتون و یوشوا بنجیو (که از آن‌ها به عنوان پدرخوانده‌های هوش مصنوعی یاد می‌شود)، در نامه‌ای سرگشاده خواستار تشکیل یک نهاد بین‌المللی مقتدر شدند؛ سازمانی که اختیار تعیین استانداردهای قرنطینه و گزارش رسمی حوادث امنیتی برای سیستم‌های هوش مصنوعی پیشرفته با قابلیت‌های سایبری را در دست داشته باشد.

این نامه سرگشاده که به امضای پژوهشگرانی از ۳۴ کشور مختلف رسیده، تأکید می‌کند مدل‌های مرزی و پیشرفته هوش مصنوعی (Frontier AI) در بدو امر باید به‌طور کامل از شبکه‌های خارجی و اینترنت جدا (Air-gapped) شوند و تحت نظارت مستقل قرار بگیرند. امضاکنندگان این بیانیه با تأکید بر اینکه تعهدات داوطلبانه شرکت‌ها اصلاً کافی نیست، از تمام سازمان‌هایی که مشغول توسعه یا آزمایش مدل‌هایی با توانایی‌های سایبری هستند خواستند فوراً استانداردهای سخت‌گیرانه مهار و قرنطینه را اجرایی کنند تا دولت‌ها بتوانند سازوکار نظارتی رسمی خود را شکل دهند.

به گزارش خبرگزاری رویترز، این نهاد پیشنهادی قرار است استانداردهای مهار و ایزوله‌سازی را در سراسر صنعت تعیین کند و یک دفتر ثبت و گزارش مداوم از حوادث امنیتی بزرگ تشکیل دهد؛ اطلاعاتی که به باور دانشمندان، باید در نهایت شفاف‌سازی شده و در اختیار عموم مردم قرار گیرد.

انتشار این نامه درست یک ماه پس از آن صورت می‌گیرد که غول‌های بزرگ فناوری مثل آنتروپیک، اوپن‌ای‌آی، گوگل، متا، xAI و انویدیا پیمان کاخ سفید را امضا کردند؛ توافقی که فقط شامل تعهدات داوطلبانه ایمنی بود و هیچ ضمانت اجرایی الزام‌آوری نداشت. علاوه بر این، ماجرا پس از بروز چند حادثه نگران‌کننده داغ‌تر شده است؛ اتفاقاتی که به گفته پژوهشگران، حفره‌های عمیق در نحوه آزمایش و قرنطینه هوش مصنوعی را آشکار کرد. طبق گزارش رویترز، در برخی از این موارد، مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی ایزوله‌نشده (سندباکس‌ها) فرار کرده و در سیستم‌های بیرونی اختلال ایجاد کنند.

هینتون و بنجیو در سال ۲۰۱۸ به همراه یان لکان (مدیر ارشد دانشمندان هوش مصنوعی در شرکت متا)، به‌طور مشترک برنده جایزه معتبر تورینگ شده بودند. با این حال، یان لکان حاضر به امضای این نامه نشد و همچنان اصرار دارد که حوادث امنیتی پیش‌آمده صرفاً ناشی از ضعف‌ها و نقص‌های مهندسی هستند، نه یک تهدید وجودی و آخرالزمانی از سوی هوش مصنوعی.

در حال حاضر سیاست‌گذاران بین‌المللی هم بر سر چگونگی نظارت بر هوش مصنوعی پیشرفته اختلاف‌نظر دارند. روز جمعه، هنا ویرکونن (مسئول ارشد فناوری اتحادیه اروپا) به رویترز گفت قانون هوش مصنوعی اروپا (AI Act) از قبل سازوکارهای حفاظتی کافی را برای مقابله با سیستم‌های سرکش هوش مصنوعی در نظر گرفته است. از سوی دیگر، دولت ترامپ نیز روز یکشنبه به ممنوعیت دسترسی مؤسسه ایمنی هوش مصنوعی بریتانیا به مدل‌های اولیه آزمایشگاه‌های آمریکایی برای بررسی‌های امنیتی پایان داد.

این نامه سرگشاده در واقع ادامه‌دار شدن هشدارهای جدی جامعه تحقیقاتی هوش مصنوعی است. ماه گذشته، جفری هینتون پس از یک جلسه غیرعلنی در کنگره آمریکا به خبرنگاران گفت قانون‌گذاران شاید کم‌تر از یک سال فرصت داشته باشند تا پیش از خارج شدن کنترل این فناوری از دست انسان‌ها، چارچوب‌ها و خطوط قرمز لازم را وضع کنند. اوایل همین ماه نیز هینتون به همراه جمعی از پژوهشگران ارشد اوپن‌ای‌آی، آنتروپیک و مایکروسافت مقاله‌ای منتشر کردند و هشدار دادند سیستم‌های هوش مصنوعی که توانایی توسعه و ارتقای خودکار خود را دارند، می‌توانند به یک «انفجار هوش» منجر شوند؛ پدیده‌ای که سال‌ها پیشرفت فناوری را در عرض چند ماه یا حتی کم‌تر فشرده می‌کند. آن‌ها از دولت‌ها خواستند پیش از آغاز چنین شتاب مهارنشدنی، نظارت رسمی را مستقر سازند.