پژوهشگران Anthropic هشدار می‌دهند؛ تضعیف قوانین ایمنی هوش مصنوعی آینده بشر را به خطر میاندازد

«جیکوب کاکسون» (Jacob Coxon) سه سال از عمر حرف‌های خود را صرف آموزش و هوشمندتر کردن مدل‌های هوش مصنوعی کرد؛ ابتدا در OpenAI و سپس در Anthropic. او در ۸ سپتامبر ۲۰۲۶ روی نیمکتی در پارک آلامو اسکوئر سانفرانسیسکو نشست و متن استعفای خود را در شبکه اجتماعی X منتشر کرد. او در پیام خود نوشت: «من امروز از Anthropic استعفا دادم. سه سال گذشته را در هر دو شرکت OpenAI و Anthropic به پژوهش روی پیش‌آموزش مدل‌ها گذراندم. هیچیک از این دو شرکت مسئولانه عمل نمی‌کنند. آنها با شتاب فراوان به سمت ابرهوش خودبهبودگر حرکت می‌کنند و با جان ما قمار راه انداخته‌اند.» او چند خط بعد با لحنی صریحتر اضافه کرد: «افرادی که هوش مصنوعی می‌سازند، عمیقاً باور دارند که این فناوری می‌تواند تا پایان همین دهه همه ما را به کام مرگ بکشاند و هیچ فعالیت بشری دیگری چنین سطح وحشتناکی از خطر را ایجاد نمی‌کند.»

تنها چند ساعت بعد، یکی از همکاران پیشین او نیز علناً با این دیدگاه موافقت کرد. «ایوان هوبینگر» (Evan Hubinger) که رهبری تیم علوم همسوسازی در Anthropic را بر عهده دارد، در پاسخی در شبکه اجتماعی X نوشت: «ما واقعاً از صمیم قلب باور داریم که هوش مصنوعی می‌تواند تمام انسان‌ها را از بین ببرد و نظر شخصی من این است که احتمال وقوع این فاجعه در یک دهه آینده بیش از ۱۰ درصد خواهد بود.»

مدیرعامل Anthropic نیز بارها سخنان مشابهی را تکرار کرده است. «داریو آمودی» (Dario Amodei) در سپتامبر ۲۰۲۵ در رویدادی اعلام کرد که احتمال وقوع آیندهای «بسیار بسیار فاجعهبار» برای هوش مصنوعی حدود ۲۵ درصد است، در حالی که شانس پیشرفت «بسیار عالی» آن را ۷۵ درصد میدانست. او هم‌چنین در مقال‌های مفصل پیرامون خطرات این فناوری تأکید کرد که «ما در سال ۲۰۲۶ بسیار بیشتر از سال ۲۰۲۳ به خطرات واقعی نزدیک شدهایم» و احساس می‌کند که «صدای تیکتاک ساعت و گذر پرشتاب زمان به گوش می‌رسد.»

شرکت Anthropic قاعدهای اساسی برای جلوگیری از ساخت مدل‌های مهارناپذیر تعریف کرده بود؛ بر اساس این قاعده، اگر مدلی بیش از حد خطرناک شود، شرکت باید توسعه آن را تا زمان دستیابی به راهکارهای ایمن متوقف کند. این قانون در واقع اصلیترین سنگر دفاعی میان هوش مصنوعی Anthropic و سودجویانی بود که قصد سوءاستفاده از آن را دارند و حافظ جان مردم خارج از سازمان به‌شمار میرفت. مدیران شرکت ادعا می‌کنند که پروتکل‌های حفاظتی آنها سرسختانهترین تدابیر موجود در میان شرکت‌های فناوری است و تاکنون توانسته جلوی افراد خرابکار را بگیرد؛ اما همین قانونی که قرار بود مانع ساخت مدل‌های خارج از کنترل شود، هم‌زمان با قدرتمندتر شدن مدل‌ها به‌مرور ضعیفتر شده است. این حفاظ‌های ایمنی تنها تا زمانی کارایی دارند که واقعاً به آنها پایبند باشیم.

فیلترهایی برای مهار سوءاستفادهکنندگان از ساخت سلاح

در ماه مه، پژوهشگری از یک مؤسسه نظامی برای نگارش پیش‌نویس پروپوزال تحقیقاتی خود به سراغ مدل Claude رفت. طرح توصیفشده بهگون‌های بود که ویروس «چیکونگونیا» (نوعی پاتوژن ناشی از نیش پشه که سبب تب شدید و دردهای مفصلی ناتوانکننده می‌شود) را به‌واسطه ایجاد جهش‌های پیاپی در حیوانات زنده، تقویت میکرد تا راحت‌تر شیوع پیدا کند و سیستم ایمنی را فریب دهد. شرکت Anthropic بلافاصله این درخواست را مسدود کرد و پرونده را به مراجع قانونی تحویل داد. این دانشمند تنها یکی از پنج نفری بود که Anthropic بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ شناسایی کرد؛ افرادی که از Claude برای پیشبرد پژوهش‌های قابل استفاده در سلاح‌های زیستی کمک میخواستند. در نمونه‌ای دیگر، فیلترهای امنیتی متوجه پژوهشگری شدند که هفته‌ها روی شیوع آنفولانزای پرندگان از طریق هوا در میان پستانداران کار میکرد؛ در نتیجه شرکت دسترسی او به قدرتمندترین مدل‌های خود را قطع کرد.

شرکت Anthropic این دست افراد را به کمک فیلترهایی موسوم به «کلاسیفایر» (طبقهبندهای هوشمند) به دام میاندازد. این فیلترها در واقع مدل‌های مجزایی هستند که هم‌زمان با چت کاربر، ورودی‌ها و پاسخ‌های Claude را تحلیل می‌کنند و درخواست‌های مرتبط با ساخت سلاح را مسدود می‌سازند. شرکت Anthropic این محافظت‌ها را در ماه مه ۲۰۲۵ و با رونمایی از مدل Claude Opus 4 فعال کرد.

اهمیت این فیلترها اکنون بسیار بیشتر شده است؛ زیرا مدل‌های زبانی پنهان در پشت آنها توانایی‌های شگفتانگیزی پیدا کرده‌اند. شرکت Anthropic قوی‌ترین مدل کنونی خود یعنی Claude Opus 5.5 را مدلی می‌داند که می‌تواند به فردی با مدرک کارشناسی علوم پایه کمک شایانی در تولید سلاح‌های شیمیایی یا بیولوژیکی شناختهشده ارائه کند. این شرکت در گزارش امنیتی ماه سپتامبر خود به صراحت اعلام کرد: «مدل‌های قدیمیتر فاصله بسیار زیادی با آستانه کمک معنادار به ساخت سلاح‌های زیستی داشتند، اما در مدل‌های نوین دیگر چنین اطمینانی وجود ندارد.» بنابراین توانایی فنی ساخت چنین تسلیحاتی اکنون در بطن Claude وجود دارد و تنها این فیلترها هستند که مانع دستیابی افراد خطرناک به اطلاعات مرگبار می‌شوند.

قاعدهای که قرار بود مانع ساخت مدل‌های خطرناک شود

تا پیش از سال جاری، خطمشی توسعه مسئولانه در Anthropic تضمین میکرد که در صورت ناتوانی در برقراری ایمنی کامل، آموزش و عرضه هر مدلی متوقف خواهد شد. با این حال در ۲۴ فوریه، این شرکت ادبیات تعهدات خود را تعدیل کرد و متعهد شد که تنها در شرایط بسیار محدود روند عرضه مدل را به تأخیر بیندازد. اجرای این تأخیر نیز به این بستگی دارد که Anthropic چقدر از رقبای خود جلوتر باشد و رقبای دیگر چه استانداردهای ایمنی را رعایت کنند.

دلیل Anthropic برای این تغییر رویکرد این است که توقف یکجانبه، عملاً میدان رقابت را به حریفانی با تدابیر ایمنی ضعیفتر واگذار می‌کند. این شرکت در توضیح موضع خود نوشت: «اگر ما متوقف شویم در حالی که دیگران با شتاب پیش می‌روند، توسعهدهندگانی که ضعیفترین محافظت‌ها را دارند پیشتاز میدان خواهند شد» و در نتیجه Anthropic دیگر توانی برای ادامه تحقیقات ایمنی خود نخواهد داشت. با این وجود، پژوهشگران اندیشکده GovAI از جمله «سوفی ویلیامز» و «یوناس فروند» این توجیه را نپذیرفتند و اعلام کردند: «نگرانی عمیق ما بابت کنار گذاشتن تعهد توقف توسعه است؛ زیرا این تصمیم احتمال انتشار مدل‌هایی با ریسک‌های غیرقابل قبول را به‌شدت افزایش می‌دهد.»

مرزهایی که قرار بود بالاترین سطح محافظت‌های امنیتی Anthropic را فعال کنند، همپای نزدیک شدن مدل‌ها به این آستانه‌ها تغییر مکان می‌دهند. در تاریخ ۱۰ فوریه، این شرکت اعلام کرد که مدل Claude Opus 4.6 هنوز از آستانه توانایی انجام تحقیقات مستقل هوش مصنوعی عبور نکرده است؛ اما خود شرکت نیز اعتراف کرد که رد کردن چنین موضوعی «بسیار دشوار» بوده و بر ارزیابی‌هایی ذهنیتر از حد انتظار استوار شده است. دو هفته بعد، شرکت Anthropic این آستانه را با معیاری واحد و سختگیرانهتر جایگزین کرد و از آن زمان تاکنون پروتکل‌های خود را دو بار بازبینی کرده است. معیار تازه می‌سنجد که هوش مصنوعی تا چه حد سرعت تحقیقات خود این شرکت را افزایش می‌دهد. در حال حاضر هوش مصنوعی به دانشمندان Anthropic کمک می‌کند تا سریع‌تر از توان فردی خود کار کنند و مدل‌ها تنها در صورتی از این آستانه عبور می‌کنند که سرعت تحقیقات را باز هم بالاتر ببرند. این شرکت اجرای دو راهکار ایمنی بسیار سختگیرانه را به کل صنعت هوش مصنوعی توصیه می‌کند، اما می‌گوید خودش «نمی‌تواند متعهد شود» که به‌تنهایی آنها را رعایت کند؛ اولی تدابیر امنیتی فوق‌العاده بالا برای جلوگیری از سرقت مدل توسط دولت‌ها است و دیگری الزامی می‌کند که حتی مدیرعامل نیز پیش از آموزش یک مدل پرخطر نیازمند دریافت مجوز رسمی باشد.

ارزیابان مستقلی که شرکت‌های هوش مصنوعی را رتبه‌بندی می‌کنند، شرکت Anthropic را ایمن‌ترین بازیگر این حوزه میدانند اما برنامه‌های آن را همچنان ناکافی می‌خوانند. در شاخص ایمنی هوش مصنوعی تابستان ۲۰۲۶ متعلق به مؤسسه Future of Life، این شرکت در میان ۹ شرکت بالاترین نمره یعنی +C را به دست آورد، اما در متن گزارش تأکید شد که حتی بهترین شرکت‌ها «فاصله زیادی با برآورده کردن انتظارات ایمنی استاندارد دارند». در زمینه حفظ کنترل بر سیستم‌های هوش مصنوعی بسیار پیشرفته، نمره Anthropic به +D تنزل یافت و ارزیابان خاطرنشان کردند که حتی رهبران این صنعت «هیچ استراتژی ایمنی مشخصی» برای این سطح ندارند. یکی از داوران نوشت: «عقبنشینی Anthropic از چارچوب ایمنی خود، ساختار ایمنی کل این صنعت را تضعیف کرده است.» نخستین پیشنهاد این هیئت ارزیابی این بود که Anthropic بار دیگر تعهد توقف آموزش و انتشار مدل‌های ناامن را بپذیرد. هم‌چنین «دیوید کروگر»، پژوهشگر دانشگاه مونترال، تأکید کرد: «نبود پیشرفت ملموس شرکت‌های هوش مصنوعی به سوی برنامه‌های ایمنی قابل اتکا، مایه شرمساری و رسوایی است.»

طرحی که به کاستن از شتاب کل صنعت هوش مصنوعی نیاز دارد

پاسخ داریو آمودی به این چالش‌ها در مقال‌های در ۱۲ سپتامبر، ضرورت کاهش شتاب هماهنگ کل این صنعت بود. او نوشت سامانه‌ای از هوش مصنوعی که برای خود اهداف مستقلی تعیین کند «می‌تواند در مدت ۶ تا ۱۲ ماه کل اینترنت را تسخیر کند». چند روز پیش از آن نیز شرکت Anthropic از تمام شرکت‌های این حوزه خواسته بود تا در قالب توافقی حقوقی و قابل راستیآزمایی توسط نهادهای ناظر، بر سر سرعت عرضه قدرتمندترین مدل‌های خود به تفاهم برسند.

با این حال تا اواسط سپتامبر، تمام شرکت‌های بزرگ هوش مصنوعی از جمله Anthropic همچنان با بالاترین سرعت به کار خود ادامه دادند. اگرچه آمودی بر ضرورت کاهش سرعت تأکید کرده بود، اما حاضر نشد آموزش مدل‌های جدید را متوقف کند یا سرعت آن را به‌تنهایی کاهش دهد. کاکسون می‌گوید پرسنل این شرکت‌ها در حالی به این رقابت سرسامآور ادامه می‌دهند که خود از عواقب آن وحشت دارند. او در گفتگویی عنوان کرد: «کارکنان این شرکت‌ها وقتی خواستار قانون‌گذاری می‌شوند کاملاً جدی هستند؛ زیرا خود را در دامی از یک مسابقه بیپایان گرفتار می‌بینند و از پیامدهای این رقابت هراسانند.»

به این ترتیب شرکت Anthropic تا حد زیادی بر عملکرد خودش نظارت می‌کند. مدیرعامل و مسئول ارشد ایمنی شرکت، تأیید نهایی گزارش‌های ارزیابی خطرات هر مدل را بر عهده دارند و بازبینی مستقل بیرونی تنها در دو حالت اتفاق می‌افتد: نخست زمانی که مدل بهقدری قدرتمند باشد که شرکت بخش عمدهای از گزارش عمومی را سانسور و حذف کند و دوم هنگامی که شورای مستقل «تراست انتفاع بلندمدت» درخواست بررسی بدهد. تا زمانی که رقبا به توقف مشترک تن ندهند، فیلترهای Anthropic پس از دریافت درخواست‌ها جلوی سوءاستفاده‌هایی شبیه به تحقیقات ویروس چیکونگونیا را خواهند گرفت؛ اما این پرسش که آیا ساخت یک مدل از پایه بیش از حد خطرناک است یا خیر، قضاوتی درونی برای خود شرکت باقی می‌ماند؛ قضاوتی بر اساس قوانینی که خود شرکت هر زمان بخواهد می‌تواند آنها را بازنویسی کند.