آیا صنعت هوش مصنوعی واقعاً برای کاهش سرعت توسعه آماده است؟

شاهد بحث‌های گسترده‌ای بر سر ایمنی هوش مصنوعی و احتمال کاهش سرعت توسعه آن هستیم. داریو آمودی، مدیرعامل Anthropic اخیراً طرحی را برای «کنترل سرعت در مرزهای فناوری» منتشر کرده است، در حالی که جنسن هوانگ، مدیرعامل NVIDIA علناً با ادعاهای مطرح‌شده هم‌صدا شده و معتقد است که نگرانی‌ها درباره هوش مصنوعی بی‌اساس بوده و نیازی به قانون‌گذاری نیست.

در بررسی‌های اخیر پیرامون این موضوع، کارشناسان به بحث درباره این مسئله پرداخته‌اند که آیا مدیرانی مانند آمودی و سم آلتمن، مدیرعامل OpenAI واقعاً در خواسته خود برای کاهش سرعت توسعه جدی هستند یا خیر.

با وجود اینکه حمایت بسیاری از رهبران صنعت از طرح آمودی تعجب‌برانگیز بود، برخی تحلیلگران معتقدند که این طرح از نظر جزئیات اجرایی ضعف دارد.

هنگامی که بحث در مورد کفایت قوانین فعلی و عملکرد بازار آزاد به عنوان مکانیزم‌های بازدارنده مطرح می‌شود، منتقدان بر این باورند که در حال حاضر تمایل چندانی از سوی نهادهای نظارتی برای اعمال قوانین کلی وجود ندارد، چه رسد به وضع مقررات تخصصی در این حوزه.

علاوه بر این، استدلال می‌شود که قدرت انتخاب مصرف‌کننده در این بازار نقش تعیین‌کننده‌ای ندارد؛ به این معنا که اگر یکی از این شرکت‌ها اقدام مخربی انجام دهد، لزوماً با ریزش کاربر یا پیامدهای مالی فوری روبه‌رو نخواهد شد.

در ادامه، خلاصه‌ای از دیدگاه‌های کارشناسان در این باره را می‌خوانیم.

آنتونی: شان، نظر تو چیست؟ آیا واقعاً قرار است «سرعت پیشرفت در مرزهای فناوری» را کنترل کنیم؟

شان: این عبارت بیشتر شبیه یک شعار تبلیغاتی است. شخصاً فکر نمی‌کنم که به سمت هیچ‌گونه کاهش سرعتی پیش برویم، زیرا ساختار این شرکت‌ها به گونه‌ای نیست که چنین رویکردی در آن‌ها عملی باشد.

شنیدن این حرف‌ها از زبان داریو در Anthropic، سم در OpenAI و حتی تا حدودی ایلان ماسک، تغییر موضعی ناگهانی به نظر می‌رسد. حتی با وجود طرح‌های مبهمی که داریو در پست وبلاگ خود ارائه داده و دیگر رهبران نیز درباره آن صحبت کرده‌اند، هنوز جزئیات مهمی هم در مورد دلایل احساس خطر این افراد و هم درباره منظور دقیق آن‌ها از کاهش سرعت، مشخص نیست.

آنتونی، تو این مسائل را با دقت دنبال کرده‌ای؛ آیا دیدگاه خوش‌بینانه‌تری نسبت به اهداف واقعی آن‌ها داری؟

آنتونی: من هم سوالاتی دارم. چیزی که بیش از همه توجه من را جلب کرد، هم‌سویی سریع بسیاری از فعالان صنعت با این ایده بود. حتی پیش از انتشار پست وبلاگ آمودی، نسخه‌های مشابهی از این طرح توسط دیگران مطرح می‌شد.

به نظر می‌رسد این پیشنهادها که از سوی جامعه ایمنی هوش مصنوعی ارائه شده‌اند، مدتی است که در جریان هستند و صرفاً ایده‌های شخصی آمودی نیستند. با این حال، اگرچه شکل‌گیری یک اجماع امیدوارکننده است، اما این موضوع که آیا چنین توافقاتی به گام‌های واقعی و اساسی برای کاهش سرعت منجر خواهد شد یا خیر، جای تردید دارد.

کریستن: پیش از هر چیز، اجماع می‌تواند اتفاق مثبتی باشد؛ اما از سوی دیگر می‌تواند نقطه آغاز شکل‌گیری یک کارتل انحصاری نیز تلقی شود. باید توجه داشت که ما در اینجا مشخصاً درباره آزمایشگاه‌های پیشرو در توسعه هوش مصنوعی صحبت می‌کنیم.

همان‌طور که اشاره شد، جزئیات هنوز مبهم است. اما ایده کلی این است که ارزیابان مستقل و شخص ثالث وارد شرکت‌هایی مانند Anthropic یا OpenAI شوند و بر رویه‌های ایمنی و حوادث مرتبط با هوش مصنوعی نظارت کنند؛ هرچند هنوز ابهامات زیادی در این زمینه وجود دارد.

پیشنهاد دیگر این است که شرکت‌های بزرگ هوش مصنوعی در کشورهای دموکراتیک بر سر استانداردها و محدودیت‌های ایمنی با یکدیگر هماهنگ شوند. اما باید در نظر گرفت که مخالفت‌های جدی نیز از سوی افراد خاصی مطرح شده است. بارزترین نمونه، جنسن هوانگ، مدیرعامل NVIDIA است که اظهارنظرهای تندی در این باره داشته است.

شان: به نظر من هوانگ درک می‌کند که تا حدودی به عنوان فردی بالغ و مسئولیت‌پذیر در این عرصه شناخته می‌شود. این پویایی جالبی است که تغییر کرده است. یک یا دو سال پیش، زمانی که شرکت‌های هوش مصنوعی در حال رشد انفجاری بودند، بسیاری مایکروسافت و ساتیا نادلا را در این جایگاه می‌دیدند. اما مایکروسافت به دلایل مختلف این جایگاه را از دست داده است.

هوانگ متوجه است که نه‌تنها باید رضایت حداکثری را جلب کند و سنجیده‌ترین اظهارات را داشته باشد، بلکه اکنون یکی از موثرترین رابط‌ها میان این صنعت و دولت محسوب می‌شود؛ تا جایی که روی صحنه یک کنفرانس مهم تماس تلفنی مستقیمی دریافت می‌کند تا به این حواشی واکنش نشان دهد.

کریستن: در مورد نقش او به عنوان رابط، هوانگ قطعاً در موقعیتی است که می‌تواند این کار را انجام دهد. اما از دیدگاه من، این رویکرد کمی فراتر از حد انتظار بود و به وضوح نشان داد که NVIDIA از پیشرفت سریع و بدون محدودیت هوش مصنوعی بیشترین نفع را می‌برد.

آنتونی: منافع دو طرف در این ماجرا هم‌سو است. اما نکته قابل تامل این است که وقتی از «کاهش سرعت» صحبت می‌شود، آلتمن و آمودی ترجیح می‌دهند بیشتر از واژه «کنترل سرعت» یا «گام برداشتن» استفاده کنند.

این پیشنهادهایی که پیش‌تر مطرح شد، در تئوری می‌توانند به کاهش سرعت منجر شوند، اما آن‌ها این موضوع را به صراحت بیان نمی‌کنند. پیام آن‌ها بیشتر این است که: «ما در حال اجرای تدابیر ایمنی اولیه هستیم و افراد مستقلی بر ما نظارت دارند.» اما هیچ‌یک از این موارد ذاتاً به این معنا نیست که روند توسعه باید کندتر از وضعیت فعلی باشد.

کریستن: سوالی مطرح می‌شود؛ آیا نمی‌توان استدلال کرد که در یک جامعه مبتنی بر بازار آزاد با قوانین موجود و محیط رقابتی، اگر شرکتی محصول ناامنی عرضه کند، دیگر قادر به ادامه فعالیت نخواهد بود؟ و اینکه نهادهای نظارتی فعلی می‌توانند با این شرکت‌ها برخورد کنند؟

شان: در یک محیط ایزوله یا بازاری که تحت تاثیر فشارهای خارجی متعدد نباشد، بله، چنین استدلالی منطقی است. اما نهادهای دولتی در حال حاضر تمایل چندانی به اعمال قوانین محدودکننده ندارند.

علاوه بر این، ما در وضعیت عجیبی قرار داریم که قدرت انتخاب مصرف‌کننده محرک اصلی این بازار نیست. به ویژه اکنون که این شرکت‌ها به سمت ارائه خدمات سازمانی حرکت کرده‌اند و بخش عمده درآمدشان از فروش سرویس به کسب‌وکارها تامین می‌شود. شرکت‌ها صرفاً به دلیل مخالفت اصولی با عملکرد OpenAI، سرویس‌هایی مانند کدهای برنامه‌نویسی را رها نمی‌کنند تا به سراغ رقبا بروند.

از سوی دیگر، این شرکت‌ها چنان با سرمایه‌های عظیم پشتیبانی می‌شوند که جذب هرگونه ضرر احتمالی برای آن‌ها آسان است. بنابراین، ایده فشار بازار آزاد روی کاغذ جذاب است، اما در عمل شاهد اجرای آن نیستیم.