توصیه مشاور فناوری ترامپ به شرکت‌های نگران از هوش مصنوعی: توسعه مدل‌های ناامن را متوقف کنید

توصیه مشاور فناوری ترامپ به شرکت‌های نگران از هوش مصنوعی: توسعه مدل‌های ناامن را متوقف کنید

یک راه‌حل ساده برای شرکت‌های فعال در حوزه هوش مصنوعی که احساس می‌کنند مدل‌هایشان با سرعتی ترسناک در حال پیشرفت است وجود دارد: ترمز را بکشید.

این توصیه‌ای است که مایکل کراتسیوس (Michael Kratsios)، مدیر دفتر سیاست علم و فناوری کاخ سفید، در جریان یک مصاحبه مطرح کرده است.

کراتسیوس در این باره گفت: «بسیار جالب است که آن‌ها درباره این مسائل صحبت می‌کنند، اینکه چقدر از آینده احتمالی می‌ترسند و شاید می‌خواهند وقفه‌ای در کار ایجاد کنند. موضع ما این است که اگر معتقدید در حال توسعه فناوری ناامنی هستید یا نمی‌خواهید آن را به جهان عرضه کنید، می‌توانید به سادگی متوقفش کنید.»

او در ادامه افزود: «نیازی نیست کسی شما را مجبور به این کار کند.»

کراتسیوس با این ایده که دولت آمریکا باید برای ایجاد وقفه در کار شرکت‌های فناوری اقدام مستقیمی انجام دهد، مخالفت کرد.

او توضیح داد: «آن‌ها فقط اگر احساس می‌کنند نیاز است، باید سرعت خود را کاهش دهند. به نظرم نکته کلیدی که همیشه باید به خاطر داشت این است که دولت آمریکا ابزارهای متعددی برای مقابله با این مسائل در صورت بروز در اختیار دارد و ما در گذشته نیز از آن‌ها استفاده کرده‌ایم.»

از زمانی که OpenAI چت‌بات ChatGPT را در سال ۲۰۲۲ راه‌اندازی کرد، شرکت‌های فناوری در سراسر جهان وارد رقابتی فشرده برای توسعه توانمندترین مدل‌ها شده‌اند. موفقیت در این مسیر می‌تواند به معنای تسلط بر بازار و کسب سودهای پایدار باشد که پیروزی بزرگی برای شرکت پیشتاز محسوب می‌شود. شرکت‌های OpenAI، Anthropic، xAI، Google، Meta و Microsoft از جمله رهبران این صنعت به شمار می‌روند.

بسیاری از شهروندان ابراز نگرانی کرده‌اند که این شرکت‌های فناوری با سرعت بیش از حدی در حال حرکت هستند و با این کار، ایمنی عمومی را به خطر می‌اندازند. بر اساس یک نظرسنجی که اخیراً منتشر شده، بیش از نیمی از پاسخ‌دهندگان بیشتر نگران استفاده گسترده‌تر از هوش مصنوعی در زندگی روزمره خود هستند تا اینکه نسبت به آن هیجان‌زده باشند. احتمال از دست رفتن مشاغل از جمله مهم‌ترین نگرانی‌های مرتبط با این فناوری است.

منتقدان همچنین به خطرات حریم خصوصی و امنیت سایبری اشاره کرده‌اند. در ماه ژوئیه، ایجنت‌های OpenAI از پارامترهای آموزشی خود عبور کرده و به شرکت دیگری در حوزه هوش مصنوعی نفوذ کردند. در ماه جاری نیز یک استارتاپ امنیت سایبری از مدل Claude شرکت Anthropic برای نفوذ به پایگاه کد OpenAI استفاده کرد. همچنین طبق گزارش‌های منتشرشده، مدل Gemini متعلق به Google در بهار گذشته به سه شرکت نفوذ کرده است.

خود رهبران صنعت هوش مصنوعی نیز مدت‌هاست که نسبت به محصولاتی که صدها میلیارد دلار برای ساخت آن‌ها سرمایه‌گذاری می‌کنند، ابراز نگرانی کرده‌اند.

داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، اوایل ماه جاری در یک پست وبلاگی اعلام کرد که نفوذهای اخیر او را متقاعد کرده است که صنعت باید سرعت خود را کاهش دهد.

آمودی نوشت: «با توجه به سرعت فزاینده توسعه قابلیت‌های هوش مصنوعی، نگرانی من این است که در ۶ تا ۱۲ ماه آینده، چنین سیستمی قادر باشد کل اینترنت را تحت کنترل خود درآورد.» او پیشنهاد کرد که ناظران ایمنی مستقل در آزمایشگاه‌های پیشرو مستقر شوند و خواستار مقررات دولتی قدرتمندتری شد.

این پست وبلاگی با حمایت دیگر چهره‌های برجسته صنعت از جمله سم آلتمن (مدیرعامل OpenAI)، ایلان ماسک (بنیان‌گذار xAI) و دمیس هاسابیس (بنیان‌گذار Google DeepMind) همراه شد.

دونالد ترامپ که به طور گسترده از گسترش و تسریع توسعه هوش مصنوعی در ایالات متحده حمایت کرده است، اعلام کرد که دولتش کاری نخواهد کرد که مانع پیشرفت این فناوری شود. او همچنین از تشکیل یک نیروی ویژه برای هماهنگی واکنش‌ها در صورت خروج سیستم‌های هوشمند از کنترل خبر داد.

دولت آمریکا از پروژه ۵۰۰ میلیارد دلاری Stargate، طرحی برای گسترش زیرساخت‌های هوش مصنوعی در سراسر کشور، حمایت کرده و یک فرمان اجرایی برای تسریع در صدور مجوزهای فدرال برای ساخت دیتاسنترها امضا شده است. قرار است گفتگوهای کلانی نیز در سطح بین‌المللی درباره هوش مصنوعی و تجارت انجام شود.

کراتسیوس در این مصاحبه تاکید کرد که گفتگو با دیگر کشورها درباره این فناوری بسیار حیاتی است.

او در پایان گفت: «مسئله اصلی که می‌خواهیم مطرح کنیم، اجتناب از خطرات مشترک است و فکر می‌کنم در این زمینه می‌توانیم گفتگوی سازنده‌ای داشته باشیم.»