دفاع جنجالی سم آلتمن از خطرات هوش مصنوعی: «برای رسیدن به مزایا باید یه سری اتفاقات بد رو بپذیریم!»

سم آلتمن، مدیرعامل اوپن‌ای‌آی (OpenAI)، در مصاحبه جدیدی صراحتاً اعلام کرد که دنیا باید برای بهره‌مندی از مزایای شگفت‌انگیز هوش مصنوعی، وقوع برخی پیامدها و آسیب‌های منفی آن را بپذیرد. این اظهارات خط تمایز و شکاف عمیقی میان شرکت او و رقیب سرسختش، آنتروپیک (Anthropic)، بر سر نحوه قانون‌گذاری و مهار این فناوری ترسیم می‌کند.

آلتمن در مصاحبه پادکستی با رسانه پولیتیکو (Politico) که روز یکشنبه منتشر شد، گفت: «ما معتقدیم دنیا باید برای برخورداری از مزایای این فناوری و این‌که انسان‌ها قدرت عاملیت و اختیار عمل (Agency) داشته باشند، رخ دادن بعضی اتفاقات ناخوشایند را هم قبول کند.»

آلتمن با اشاره به این‌که اختلاف‌نظر و شکاف فکری چشمگیری میان اوپن‌ای‌آی و آنتروپیک وجود دارد، گفت داریو آمودی (مدیرعامل آنتروپیک) شرکتی را هدایت می‌کند که تمام اعتبار و شهرت خود را بر پایه اعمال نظارت سفت‌وسخت‌تر نسبت به سایر بازیگران این صنعت بنا کرده است؛ در حالی که به باور آلتمن، هوش مصنوعی باید همچنان به شکلی گسترده و آزادانه در دسترس عموم جامعه باقی بماند.

البته در ماه‌های اخیر، فاصله سیاستی میان این دو شرکت تا حدی کاهش یافته بود. آلتمن یادآور شد که با موضع‌گیری ماه گذشته آمودی درباره لزوم کشیدن ترمز ساخت قدرتمندترین مدل‌های هوش مصنوعی موافق است. اوپن‌ای‌آی همچنین با همراهی آنتروپیک، از قوانین ایالتی جدیدی برای تعیین استانداردهای ایمنی سخت‌گیرانه‌تر نسبت به قبل حمایت کرده و بر اساس گزارش پولیتیکو، لابی‌گرهای این شرکت تمام‌قد پشت طرح مشترک دو حزب در مجلس نمایندگان ایستاده‌اند؛ طرحی که شرکت‌های پیشرو هوش مصنوعی را ملزم به استفاده از ارزیاب‌های ایمنی مستقل در ساختار خود می‌کند.

با این حال، این چرخش‌های سیاستی در اوپن‌ای‌آی هم‌زمان با یک رشته حوادث امنیتی نگران‌کننده پیرامون ایجنت‌های هوش مصنوعی این شرکت رقم خورده است. اوپن‌ای‌آی هفته گذشته فاش کرد ایجنت‌هایی که روی پلتفرم این شرکت ساخته شده‌اند، احتمالاً در بیش از ۱۰۰ سازمان نفوذ غیرمجاز داشته‌اند یا خسارت‌هایی به بار آورده‌اند. این شرکت اعلام کرده که در حال بررسی حدود ۵۰ پتابایت داده است تا دامنه و وسعت دقیق این نفوذها را مشخص کند.

افشای خرابکاری این ایجنت‌های سرکش به دنبال حوادثی رخ داد که پیش‌تر اوپن‌ای‌آی را وادار کرده بود به خاطر دغدغه‌های ایمنی، آموزش برخی مدل‌های هوش مصنوعی را متوقف کند و بخش‌هایی از پروژه‌های توسعه مدل خود را عقب بکشد. یکی از جنجالی‌ترین موارد، رخنه امنیتی در پلتفرم هاگینگ فیس (Hugging Face) بود که طی آن، ایجنت‌های خودمختار از محیط آزمایشگاهی کنترل‌شده فرار کردند؛ حادثه‌ای که خود اوپن‌ای‌آی آن را شدیدترین اتفاق امنیتی شناسایی‌شده از این نوع تا به امروز توصیف کرده است.

آلتمن پیش از این نیز علناً هشدار داده بود که سرعت سرسام‌آور توسعه هوش مصنوعی می‌تواند از دو مسیر به فاجعه منجر شود: این‌که انسان‌ها کنترل امور را در برابر سیستم‌های هوش مصنوعی از دست بدهند، یا یک نهاد منفرد با انحصار این فناوری تمام قدرت را در دستان خود متمرکز کند. او خواستار ایجاد یک چارچوب فدرال برای تعیین الزامات ایمنی شفاف و یکپارچه در هوش مصنوعی پیشرو شده و تأکید کرده شرکت‌ها نباید برای اجرای نظارت‌ها و کنترل‌های داخلی خود، منتظر تصویب قوانین دولتی بمانند.