مدیرعامل Anthropic خواستار کنترل سرعت توسعه هوش مصنوعی شد؛ اما آیا این کافی است؟

برخی رویدادهای اخیر در حوزه هوش مصنوعی، حتی برای کسانی که بحث‌های ایمنی این فناوری را از نزدیک دنبال نمی‌کنند، نگران‌کننده بوده است. اخیراً شرکت Anthropic اعلام کرد که کاربرانی را که قصد داشتند از مدل Claude برای تحقیقات سلاح‌های بیولوژیکی استفاده کنند، شناسایی و مسدود کرده است. در همین حال، OpenAI نیز از وقوع شش حادثه نگران‌کننده دیگر در مدل‌های خود خبر داد. چند هفته پیش از آن نیز، OpenAI گزارش مفصلی از حمله سایبری غیرمجاز ایجنت‌های هوش مصنوعی خود به پلتفرم Hugging Face منتشر کرده بود. این موارد، سناریوهای فرضی در کنفرانس‌های ایمنی هوش مصنوعی نبودند؛ بلکه اتفاقاتی واقعی بودند که در دو آزمایشگاه برتر و ثروتمند این صنعت، به فاصله چند هفته رخ دادند.

این اتفاقات باعث شد تا داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، مقاله‌ای با عنوان «ما باید سرعت مرزهای فناوری را کنترل کنیم» منتشر کند. او در این مقاله استدلال می‌کند که صنعت هوش مصنوعی باید سرعت بهبود قابلیت مدل‌های خود را کاهش دهد؛ نه اینکه آن را کاملاً متوقف کند، بلکه سرعت را به‌گونه‌ای تنظیم کند که اقدامات ایمنی بتوانند همگام با پیشرفت‌های فنی پیش بروند. آمودی در مقاله خود به ایجنت‌هایی در حادثه Hugging Face اشاره می‌کند که تلاش کردند سیستم‌های ارزیابی‌کننده خود را مختل کنند و حداقل در یک مورد، برای رسیدن به هدفی که ظاهراً خودشان انتخاب کرده بودند، خود را فدا کردند. چند روز پس از آن، Microsoft نیز یک آیین‌نامه رفتار جدید برای مدل‌های هوش مصنوعی خود (MAI) منتشر کرد. چهره‌های سرشناسی مانند سم آلتمن (Sam Altman)، ایلان ماسک (Elon Musk) و دمیس هاسابیس (Demis Hassabis) از Google DeepMind نیز تا حدودی با این رویکرد موافقت کردند. در مقابل، سخنگوی وزارت خارجه چین این اظهارات را هراس‌افکنی خواند و روزنامه دولتی گلوبال تایمز چین آن را یک «کتابچه راهنمای جنگ سرد» برای بخش هوش مصنوعی توصیف کرد.

با توجه به اهمیت روزافزون مسائل مربوط به ایجنت‌ها، بررسی دقیق این رویدادها ضروری است. ارزیابی‌ها نشان می‌دهد که واکنش فعلی صنعت هوش مصنوعی اگرچه بهتر از هیچ است، اما به هیچ وجه کافی نیست. آزمایشگاه‌های پیشرو در حال برخورد با یک مشکل ساختاری به عنوان یک چالش پیام‌رسانی و روابط عمومی هستند و افکار عمومی نیز دیگر این تضمین‌ها را باور نمی‌کند؛ و البته نباید هم باور کند.

ارزیابی دقیق سطح تهدیدات هوش مصنوعی

ابتدا باید به واقعیت‌های موجود پرداخت. در حال حاضر، بیشتر زیرساخت‌های حیاتی دارای محافظت‌های قدیمی و مستحکمی هستند. پرسش اصلی این است که آیا روند ساخت سیستم‌های جدیدی که به طور غیرضروری به شبکه‌های دیگر متصل می‌شوند، ادامه خواهد یافت یا خیر؛ زیرا آسیب‌پذیری اصلی از همین نقطه نشأت می‌گیرد. همچنین، تخصص و زیرساخت لازم برای ایجاد آسیب‌های جدی با استفاده از هوش مصنوعی پیشرفته، همچنان متمرکز و پرهزینه است. پیاده‌سازی یک قابلیت مخرب، هنوز به سادگی راه‌اندازی یک وب‌سایت نیست.

با این حال، نباید عبارت «هنوز نه» را با «به این زودی‌ها نه» اشتباه گرفت. توانمندی‌ها در ۱۲ ماه گذشته، هم در بخش نرم‌افزار و هم در رباتیک، با سرعت چشمگیری افزایش یافته است. به همین دلیل است که برنامه‌های سطح‌بندی دسترسی برای مدل‌های بسیار توانمندی مانند سری Mythos از Anthropic مشاهده می‌شود؛ مدل‌هایی که این شرکت دسترسی به آن‌ها را به جای انتشار عمومی، تنها به دولت‌ها و سازمان‌های تاییدشده محدود کرده است. موضوع اصلی، سرعت این تحولات است که در حال شتاب گرفتن است و نشانه‌ای از توقف در آن دیده نمی‌شود.

سناریوهای آخرالزمانی؛ یک انحراف ذهنی

به نظر می‌رسد تصویرسازی‌های آخرالزمانی، مانند تسخیر زیرساخت‌ها توسط هوش مصنوعی سرکش یا ذوب شدن راکتور هسته‌ای توسط یک سیستم خودمختار، اغراق‌آمیز هستند؛ اما این همان روایتی است که توجه بیشتری را جلب می‌کند. آنچه در این میان نادیده گرفته می‌شود، خطراتی خسته‌کننده‌تر اما بسیار نزدیک‌تر هستند: سرقت، هک اطلاعات هویتی و نقض‌های امنیت سایبری که نیازی به هوش جامع مصنوعی ندارند، بلکه تنها به یک مدل توانمند و یک مجرم باانگیزه نیاز دارند. مقاله آمودی به خوبی به این موضوع پرداخته و هشدار می‌دهد که یک گروه از ایجنت‌های هوش مصنوعی ناهماهنگ می‌توانند بات‌نت‌های پایداری را مستقر کنند که در عرض ۶ تا ۱۲ ماه صدها میلیارد دلار خسارت به بار آورند. این نوع جرایم، به دلیل قابلیت مقیاس‌پذیری، بسیار جدی‌تر از سناریوهای تخیلی هستند؛ آموزش دادن به یک مدل برای خالی کردن هزاران کیف پول دیجیتال، بسیار آسان‌تر از تکرار دستی این کار توسط یک انسان است.

به همین دلیل، گروه‌های هکری و شبکه‌های خلافکار مستقل، نگرانی‌های بیشتری را نسبت به دولت‌ها ایجاد می‌کنند. محدودیت‌ها و کنترل‌های صادراتی روی تراشه‌های پیشرفته هوش مصنوعی در حال حاضر پیشرفت برخی کشورها را کند کرده است. نهادهای اطلاعاتی باید بر توسعه دیتاسنترها، جریان نخبگان و زنجیره‌های تامین بازار خاکستری تراشه‌ها تمرکز کنند، زیرا ریسک‌های در سطح دولتی در این بخش‌ها نهفته است.

پیشنهادات خاص آمودی مبنی بر محدود کردن تقطیر (استفاده از مدل پیشرفته رقبا برای آموزش ارزان مدل خود) و تشدید کنترل‌های تراشه‌ها، با تردیدهایی همراه است. این پیشنهادات بیشتر از آنکه شبیه به سیاست‌های ایمنی باشند، به عنوان یک خندق رقابتی برای محافظت از جایگاه Anthropic در پوشش ایمنی به نظر می‌رسند. با این حال، مدل‌های متن‌باز نیز خطرات بلندمدت خود را دارند: حذف لایه‌های امنیتی از مدلی که به صورت محلی میزبانی می‌شود از نظر فنی دشوار نیست و یک مجرم با استفاده از یک مدل قفل‌شکسته می‌تواند آسیب‌هایی را به صورت خودکار ایجاد کند که هیچ فردی به تنهایی قادر به انجام آن در مقیاس وسیع نخواهد بود.

درخواست از دولت برای حل مشکل؛ یک بهانه‌جویی

هنگامی که آزمایشگاه‌های پیشرو خواستار مداخله دولتی می‌شوند، اگرچه نقش قانون‌گذاری را نمی‌توان نادیده گرفت، اما به نظر می‌رسد آن‌ها از این درخواست به عنوان یک پوشش استفاده می‌کنند. روند اقدامات دولتی ذاتاً کند است. تخصص و سرمایه اصلی در درون خود آزمایشگاه‌ها قرار دارد، نه در نهادهای دولتی. اگر Anthropic، OpenAI و Google DeepMind واقعاً می‌خواستند استانداردهای ایمنی مشترک سریع‌تر از روند قانون‌گذاری ایجاد شوند، می‌توانستند متدولوژی خود را منتشر کرده و سیستم‌های محافظتی را به صورت متن‌باز ارائه دهند. هیچ مانعی جز غریزه تجاری برای حفظ برتری رقابتی بر سر راه آن‌ها وجود ندارد.

این استدلال ضمنی که مشتریان حاضر نیستند برای ایمنی هزینه کنند نیز قابل پذیرش نیست. افکار عمومی خواهان هوش مصنوعی ایمن است. بر اساس یک نظرسنجی از بیش از ۶۳۰۰ نفر در ۱۹ کشور، اعتماد به هوش مصنوعی افزایش یافته است. اما همین نظرسنجی نشان می‌دهد که ۵۹ درصد از پاسخ‌دهندگان معتقدند شرکت‌ها در مورد استفاده خود از هوش مصنوعی اغراق می‌کنند و افکار عمومی، توسعه‌دهندگان و شرکت‌های هوش مصنوعی را بیش از دولت‌ها مسئول رسیدگی به این موضوع می‌دانند. به عبارت دیگر، کاربران مشکلی با تمایل به ایمنی ندارند، بلکه به شرکت‌های ارائه‌دهنده اعتماد ندارند و این شکاکیت منطقی است.

نکته امیدوارکننده این است که گزارش‌ها نشان می‌دهند Anthropic، OpenAI و Google از ماه جولای جلسات منظمی برای بررسی ایجاد یک نهاد مشترک استانداردسازی هوش مصنوعی داشته‌اند؛ نهادی که بیشتر شبیه به یک سازمان تنظیم مقررات درون‌صنعتی است تا یک نهاد دولتی. این تلاش مشترک نشان می‌دهد که آزمایشگاه‌ها می‌دانند خودتنظیم‌گری باید واقعی باشد تا از قوانینی که ممکن است برایشان محدودکننده‌تر باشد، جلوگیری کنند.

پنج اقدامی که آزمایشگاه‌های پیشرو باید انجام دهند

برای بهبود این وضعیت، پنج اقدام اساسی پیشنهاد می‌شود. اول، باید به طور جدی بررسی شود که چه کسانی می‌توانند به توانمندترین مدل‌ها دسترسی داشته باشند، نه اینکه صرفاً توانایی مدل‌ها چقدر است. رویکرد Anthropic در سطح‌بندی دسترسی با سری Mythos، یک الگوی کارآمد است که باید گسترش یابد. همان‌طور که افراد عادی نمی‌توانند سلاح‌های نظامی خریداری کنند، دسترسی نامحدود به مدل‌های پیشرفته نیز نباید برای هر کاربر تجاری فراهم باشد.

دوم، آزمایشگاه‌های بزرگ باید به خودتنظیم‌گری واقعی متعهد شوند و به صورت شفاف و با حضور شخص ثالث درباره آن گزارش دهند؛ ایده‌ای که Anthropic خود پیشنهاد داده و گامی مثبت در این مسیر است.

سوم، این صنعت باید مجموعه‌ای مشترک از سیستم‌های ایمنی را تامین مالی و ایجاد کند که به راحتی قابل دور زدن نباشند؛ و این کار ترجیحاً باید از طریق یک مدل حاکمیت متن‌باز انجام شود. آزمایشگاه‌ها سرمایه لازم برای این کار را در اختیار دارند.

چهارم، شرکت‌ها باید از درخواست از قانون‌گذاران برای نوشتن قوانین از صفر دست بردارند. آن‌ها باید پیش‌نویس قوانین را تهیه کرده، با نهادهای حاکمیتی همکاری کنند و انطباق‌پذیری را مستقیماً در محصولات خود بگنجانند.

پنجم، باید به سمت ایجاد یک نهاد بازرسی با اختیارات واقعی و مستقل حرکت کرد؛ نهادی مشابه آژانس بین‌المللی انرژی اتمی که بتواند نظارت مستمری بر دیتاسنترها و فرایندهای آموزشی مدل‌های پیشرفته داشته باشد.

وظیفه کاربران در میانه بحث‌های صنعت هوش مصنوعی

هیچ‌یک از این موارد، مسئولیت کاربران نهایی را سلب نمی‌کند. دیگر نمی‌توان نسبت به امنیت سایبری اظهار بی‌اطلاعی کرد. بنابراین، رعایت بهداشت امنیتی در دستگاه‌ها و حساب‌های کاربری بیش از پیش ضروری است. باید بررسی شود که اتوماسیون‌های شخصی تا چه حد نیاز به اتصال شبکه‌ای دارند. آگاهی از رویدادهای این حوزه و عدم اکتفا به ادعاهای تبلیغاتی شرکت‌ها بسیار مهم است. کاربران باید از ارائه‌دهندگان خدمات خود سوالات دقیقی درباره امنیت و برنامه‌های مقابله با حوادث بپرسند و در صورت لزوم، استفاده از راهکارهای محلی را در اولویت قرار دهند.

کنترل سرعت، تنها یک نقطه شروع است

اعتراف مدیرعامل Anthropic به واقعیت‌های ناگفته و ارائه پیشنهاد ارزیابی توسط شخص ثالث، شایسته تقدیر است. اما یک مقاله صرفاً یک سیاست اجرایی نیست و کنترل داوطلبانه سرعت توسط شرکت‌هایی که در حال رقابت برای کسب سرمایه و سهم بازار هستند، یک حفاظ امنیتی قوی محسوب نمی‌شود. این صنعت پول، تخصص و توجه افکار عمومی را در اختیار دارد و اکنون زمان آن رسیده که از این ابزارها برای اقداماتی پایدارتر و عملی‌تر استفاده کند.