ورود جدی FTC به ماجرای خطرات هوش مصنوعی؛ تحقیقات رسمی از OpenAI و آنتروپیک کلید خورد

نکات کلیدی

• کمیسیون تجارت فدرال آمریکا (FTC) تحقیقات گسترده‌ای را درباره خطرات و تهدیدات امنیتی احتمالی ناشی از محصولات OpenAI، آنتروپیک و چند شرکت دیگر هوش مصنوعی آغاز کرده است.
• این بررسی‌ها موج تازه‌ای از فشار و نظارت‌های رگولاتوری را بر استانداردهای ایمنی و عملکرد OpenAI و آنتروپیک تحمیل کرده است.
• سخنگوی کمیسیون تجارت فدرال از افشای نام سایر شرکت‌هایی که در این پرونده تحت بازرسی قرار دارند خودداری کرد.

سخنگوی کمیسیون تجارت فدرال آمریکا (FTC) در گفتگو با رسانه‌ها تأیید کرد که این سازمان تحقیقاتی رسمی را درباره خطرات و آسیب‌های بالقوه ناشی از محصولات شرکت‌های مطرح هوش مصنوعی از جمله OpenAI و آنتروپیک (Anthropic) کلید زده است.

این پرونده جدید به موج فزاینده موشکافی‌ها و فشارها علیه رویه‌های امنیتی OpenAI و آنتروپیک دامن می‌زند؛ به‌ویژه پس از آنکه پژوهشگران برجسته این حوزه هشدار دادند مدل‌های هوش مصنوعی این شرکت‌ها می‌توانند آسیب‌های فاجعه‌باری به بار آورند. ماجرا زمانی شوکه‌کننده‌تر شد که OpenAI در ماه ژوئیه فاش کرد ایجنت‌های هوش مصنوعی این شرکت موفق شده‌اند از محیط آزمایشی خارج شوند و به پلتفرم متن‌باز هاگینگ فیس (Hugging Face) نفوذ کنند!

سخنگوی FTC از بردن نام سایر شرکت‌های تحت بازرسی خودداری کرد؛ با این حال نشریه نیویورک پست نخستین رسانه‌ای بود که خبر این تحقیقات را منتشر کرد.

نمایندگان شرکت‌های OpenAI و آنتروپیک هنوز به درخواست‌ها برای اظهار نظر پیرامون این تحقیقات پاسخی نداده‌اند.

همین چند وقت پیش بود که داریو آمودی، مدیرعامل آنتروپیک، با اظهارات خود صنعت فناوری را شگفت‌زده کرد؛ او از غول‌های هوش مصنوعی خواست سرعت ارتقای پیشرفته‌ترین مدل‌های خود را کاهش دهند و بر ضرورت نظارت سفت‌وسخت‌تر دولتی تأکید کرد. آمودی طرحی سه‌مرحله‌ای ارائه داد که هدفش مهار سرعت سرسام‌آور پیشرفت هوش مصنوعی بدون «قربانی کردن مزیت تجاری یا پیشتازی ایالات متحده در این حوزه» بود.

چند نفر از رقبای اصلی آمودی، از جمله سم آلتمن (مدیرعامل OpenAI) و ایلان ماسک (مدیرعامل اسپیس‌ایکس)، حمایت خود را از این طرح اعلام کردند؛ اما چهره‌های سرشناس دیگری نظیر مارک زاکربرگ، مدیرعامل متا، و جن‌سن هوانگ، مدیرعامل انویدیا، تأکید کردند که خود شرکت‌ها باید مسئولیت تأمین امنیت محصولاتشان را به دوش بکشند.

دونالد ترامپ، رئیس‌جمهور آمریکا، روز سه‌شنبه مدیران ارشد شرکت‌های آلفابت، متا، اسپیس‌ایکس، انویدیا، پالانتیر، آنتروپیک، OpenAI و سایر فعالان بزرگ را گرد هم آورد تا پیرامون این چالش گفتگو کنند. این جمع توافق‌نامه‌ای داوطلبانه و کوتاه را امضا کردند که در آن آمده است: «هر شرکتی مسئول توسعه ایمن فناوری خود به روشی است که اعتماد مشتریان و افکار عمومی را جلب کند».

آمودی روز سه‌شنبه بیرون از کاخ سفید تأکید کرد: «همه ما باید با یکدیگر همکاری کنیم تا مطمئن شویم در این عرصه برنده می‌شویم و این پیروزی را در نهایت امنیت به دست می‌آوریم. اگر این مسیر را درست پیش ببریم و با رئیس‌جمهور و تمام اعضای حاضر همکاری کنیم، می‌توانیم یک پیروزی امن و بی‌خطر داشته باشیم».