هشدار تند لینا خان به شرکت‌های هوش مصنوعی: دارید دقیقاً همان اشتباهات غول‌های فناوری را تکرار می‌کنید!

لینا خان برای شرکت‌های پیشروی هوش مصنوعی که ادعا می‌کنند خودشان می‌توانند بر این فناوری پرشتاب نظارت کنند، چند هشدار و توصیه بسیار جدی دارد.

رئیس پیشین کمیسیون تجارت فدرال آمریکا (FTC) در گفت‌وگو با برنامه «This Week» در شبکه ABC تأکید کرد که واگذاری مهار هوش مصنوعی به خود شرکت‌ها، کاری کاملاً عبث و قماری از پیش باخته است.

خان در این مصاحبه صراحتاً گفت: «ما به چشم دیده‌ایم که تلاش غول‌های فناوری (Big Tech) برای خودتنظیمی، یک شکست تمام‌عیار بوده است. باید خوب یادمان بیاید که یک دهه پیش چه بلایی سرمان آمد.»

اشاره او به روز‌های ابتدایی قدرت گرفتن شبکه‌های اجتماعی بود؛ دورانی که شرکت‌های بزرگ مدعی بودند خودشان همه چیز را مدیریت می‌کنند و نیازی به دخالت قانون‌گذاران نیست.

لینا خان در ادامه افزود: «ما شاهد آسیب‌های بی‌شماری بودیم که از سلطه بدون مهار و بی‌چون‌وچرای غول‌های فناوری ناشی شد؛ بنابراین حالا که با افق‌های نوینی از سیستم‌های پیشرفته هوش مصنوعی روبه‌رو هستیم، تکرار دوباره همان کتابچه و سناریوی قدیمی یک خطای نابخشودنی و عظیم خواهد بود.»

از اواخر سال ۲۰۲۲ که OpenAI چت‌بات انقلابی ChatGPT را معرفی کرد، بازیگران اصلی دره سیلیکون وارد یک ماراتن جنون‌آمیز جهانی برای توسعه مدل‌های اختصاصی خود شدند. شرکت‌هایی مثل مایکروسافت، گوگل و متا میلیاردها دلار در این حوزه سرمایه‌گذاری کردند تا سهم بیشتری از بازار آینده را به چنگ آورند. با این وجود، شتاب خیره‌کننده پیشرفت هوش مصنوعی پای سیاستمداران، پژوهشگران و حتی برخی از رهبران ارشد فناوری را برای کشیدن ترمز و تعیین خطوط قرمز به میان کشیده است.

ماه گذشته داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، از همتایان خود در این صنعت خواست سرعت توسعه سیستم‌های هوش مصنوعی مرزی (Frontier AI) را کنترل کنند. او در مقاله‌ای تفصیلی اعلام کرد که «مؤثرترین» روش، تصویب قوانینی هدفمند برای شرکت‌های پیشگام هوش مصنوعی در آمریکاست؛ موضعی که حمایت چهره‌های سرشناسی مثل سم آلتمن (مدیرعامل OpenAI) و ایلان ماسک (مدیرعامل xAI) را هم به دنبال داشت.

در طرف مقابل، دولت دونالد ترامپ ترجیح داده تا جای ممکن از تصویب قوانین سفت‌وسخت برای این حوزه خودداری کند. همین هفته گذشته ترامپ اعلام کرد که رهبران غول‌های فناوری توافق‌نامه‌ای غیرالزام‌آور در زمینه ایمنی هوش مصنوعی امضا کرده‌اند تا خودشان ضامن ایمنی محصولاتشان باشند.

با این حال، هرچند تصویب یک چارچوب نظارتی جامع همچنان بلاتکلیف مانده، اما لینا خان یادآوری می‌کند که همین حالا هم قوانین لازم برای برخورد با تخلفات شرکت‌های هوش مصنوعی وجود دارد و نیازی به ابداع چرخ از ابتدا نیست.

او با لحنی صریح خاطرنشان کرد: «فکر می‌کنم یکی از عجیب‌ترین بخش‌های ماجرا اینجاست که خود این مدیران علناً اعتراف می‌کنند سیستم‌هایی معیوب تحویل جامعه داده‌اند؛ ایجنت‌های هوش مصنوعی که بارها و بارها به سرور‌های شرکت‌های دیگر و حتی سامانه‌های دولتی نفوذ کرده و آنها را هک می‌کنند، اما مدیران طوری ژست ناتوانی می‌گیرند که انگار دستشان کاملاً بسته است و نمی‌توانند هیچ واکنش جدی نشان دهند!»

زنجیره‌ای از رخدادهای نگران‌کننده امنیتی، شرکت‌های پیشرو را زیر ذره‌بین برده است. در ماه ژوئیه، ایجنت‌های OpenAI توانستند به سرور‌های پلتفرم Hugging Face نفوذ کنند. در ماه سپتامبر نیز تیم تحقیقاتی یک استارتاپ هوش مصنوعی با کمک مدل Claude وارد پایگاه کد OpenAI شد. از طرف دیگر، روزنامه وال استریت ژورنال گزارش داد مدل Gemini گوگل در بهار گذشته سه شرکت را هدف نفوذ قرار داده است. اخیراً حتی آنتونی آلبانیزی، نخست‌وزیر استرالیا، فاش کرد که تابستان امسال یک ایجنت هوش مصنوعی ساخت OpenAI به یک وب‌سایت دولتی این کشور دستبرد زده است.

به‌دنبال این ماجرا، OpenAI در یک پست وبلاگی اذعان کرد که باید یافته‌های اولیه این حمله را زودتر با مقامات دولتی استرالیا به اشتراک می‌گذاشت و نهادهای ذی‌ربط را در جریان ماجرا قرار می‌داد.

لینا خان در بخش دیگری از این مصاحبه ایده معافیت شرکت‌ها از قوانین به بهانه استفاده از ابزار‌های نوظهور را «کاملاً خنده‌دار» خواند.

او در پایان تأکید کرد: «وقتی زنجیره‌ای از این ایجنت‌ها رفتارهای خطرناک و آسیب‌زا از خود بروز می‌دهند و شرکت‌ها همچنان بدون ایجاد حفاظ‌ها و سپرهای ایمنی لازم به مسیر خود ادامه می‌دهند، جای سوالات و تردیدهای بسیار جدی باقی می‌ماند.»