هشدار جنجالی هم‌بنیان‌گذار مدرنا درباره ایجنت‌های هوش مصنوعی: «مدل‌های زبانی ابزارند، اما ایجنت‌ها اراده دارند!»

نوبار آفیان (Noubar Afeyan)، هم‌بنیان‌گذار غول داروسازی مدرنا (Moderna)، خواستار وضع قوانین سفت‌وسخت برای ایجنت‌های تجاری هوش مصنوعی شد و هشدار داد که دست‌روی‌دست گذاشتن تا رخ دادن یک فاجعه، تکرار دوباره اشتباهات تلخ و تاریخی صنعت داروسازی خواهد بود.

آفیان این اظهارات مهم را در جریان رویداد «مجمع اقتصاد نوین بلومبرگ» در دهلی‌نو مطرح کرد و فاجعه داروی تالیدومید در دهه‌های ۱۹۵۰ و ۱۹۶۰ میلادی — دارویی که مصرف آن توسط زنان باردار به نقص عضو شدید نوزادان منجر شد — را نمونه‌ای عبرت‌آموز دانست. او استدلال کرد هر شرکتی که به دنبال تجاری‌سازی و کسب درآمد از ایجنت‌های هوش مصنوعی است، وظیفه دارد پیش از عرضه آن‌ها به بازار، امنیت و بی‌خطر بودن کامل این سیستم‌ها را تضمین کند.

این کارآفرین ۶۴ ساله در بخشی از سخنان خود گفت: «باور دارم باید حسابی روی تنظیم مقررات برای ایجنت‌هایی تمرکز کنیم که دارند تجاری‌سازی می‌شوند و پایشان را از چارچوب تحقیقات داخلی شرکت‌ها فراتر می‌گذارند.»

آفیان تأکید کرد که تیغ تیز قانون‌گذاری باید شرکت‌های سازنده ایجنت‌های هوش مصنوعی را هدف بگیرد، نه لزوماً خود مدل‌های زبانی بزرگ را: «از نظر من، مدل‌های زبانی صرفاً یک توانمندی هستند؛ اما ایجنت‌ها هدفمندی، اراده و قصد عمل دارند.»

ایجنت‌های هوش مصنوعی که با ابتکار عمل خود و بدون نیاز به هدایت لحظه‌به‌لحظه انسان کار‌ها را پیش می‌برند، پتانسیل چشمگیری برای سرعت بخشیدن به کشف داروهای جدید و پیشبرد تحقیقات علمی دارند؛ اما در عین حال این خطر جدی هم وجود دارد که به تولید ترکیبات شیمیایی خطرناک یا خروجی‌های غیرقابل‌اعتماد منجر شوند.

موضع‌گیری آفیان او را در کنار چهره‌های سرشناس دنیای فناوری مانند سم آلتمن (مدیرعامل OpenAI) و داریو آمودی (مدیرعامل Anthropic) قرار می‌دهد؛ مدیرانی که با مستقل‌تر و باهوش‌تر شدن سیستم‌های هوش مصنوعی، خواستار حفاظت‌ها و تدابیر امنیتی قدرتمندتری شده‌اند. آلتمن و آمودی ماه گذشته نیز در نشستی در شورای امنیت سازمان ملل متحد حضور یافتند که محوریت آن خطرات سوءاستفاده از هوش مصنوعی و احتمال از دست رفتن کنترل مدل‌های پیشرفته بود.

این سخنان درست چند روز پس از آن مطرح شد که شرکت آنتروپیک (Anthropic) از مجموعه‌ای از رفتارهای ناخواسته و عجیب مدل‌های هوش مصنوعی کلود (Claude) روی سیستم‌های سازمان‌های خارجی پرده برداشت. از جمله این موارد، ارسال یک گزارش قتل ساختگی و جعلی به وب‌سایت پرونده‌های حل‌نشده اداره پلیس فیلادلفیا در جریان یک مانور آزمایشی بود! در مواردی دیگر، مدل کلود از یک رخنه امنیتی در سرور یک دانشگاه برای انجام محاسباتش سوءاستفاده کرده و مدلی منتشرنشده نیز پس از لود نشدن نسخه آزمایشی، فرم‌های واقعی دولتی آمریکا را تکمیل و ثبت کرده بود؛ اتفاقاتی که دامن‌گیر وب‌سایت‌های دولتی فدرال و ایالتی شدند.

پلیس فیلادلفیا اعلام کرده که آنتروپیک پس از باخبر شدن از این موضوع، با تأخیری ۹ روزه با این اداره تماس گرفته است. اداره پلیس با انتقاد شدید از این ماجرا اعلام کرد: «تأخیر دو ماهه در شناسایی و گزارش این حادثه به مقامات شهری به هیچ وجه پذیرفتنی نیست.»

کیران مازومدار شاو (Kiran Mazumdar Shaw)، کارآفرین هندی حوزه زیست‌فناوری نیز در این رویداد خواستار تدوین قوانینی برای نظارت بر کاربرد هوش مصنوعی در زیست‌شناسی سنتزی شد و تأکید کرد: «ما باید هم نگران سوءاستفاده‌های عمدی از هوش مصنوعی باشیم و هم پیامدهای ناخواسته و کنترل‌نشده آن.»