پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

تقابل بی‌سابقه دولت ترامپ و Anthropic بر سر مدل‌های پیشرفته هوش مصنوعی

انتشار:۳۱ شهریور ۱۴۰۵(۶ روز پیش)
۳۴ دقیقه زمان مطالعه
۰ دیدگاه

دولت ترامپ که با وعده آزادسازی توسعه هوش مصنوعی روی کار آمده بود، پس از معرفی مدل‌های جدید Anthropic مجبور شد رویکرد خود را تغییر دهد و برای کنترل این فناوری پیشرفته وارد عمل شود.

تقابل بی‌سابقه دولت ترامپ و Anthropic بر سر مدل‌های پیشرفته هوش مصنوعی

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • رونمایی از مدل‌های قدرتمند Mythos و Fable توسط Anthropic، دولت آمریکا را برای نخستین بار مجبور به اعمال محدودیت‌های بی‌سابقه بر توسعه هوش مصنوعی کرد.
  • مقامات کاخ سفید با ابراز نگرانی از قابلیت‌های سایبری این مدل‌ها، در اقدامی ضربتی دسترسی کاربران خارج از آمریکا به این سیستم‌ها را مسدود کردند.
  • این تقابل تاریخی نشان‌دهنده چالش‌های عمیق دولت‌ها در قانون‌گذاری هوش مصنوعی و وابستگی فزاینده زیرساخت‌ها به شرکت‌های فناوری است.

شامگاه ۶ آوریل، درخواستی غیرمعمول از واشنگتن به دست برخی از قدرتمندترین مدیران وال‌استریت رسید. اسکات بسنت (Scott Bessent)، وزیر خزانه‌داری آمریکا، می‌خواست آن‌ها را در اولین فرصت در صبح روز بعد ملاقات کند.

رؤسای Bank of America، Citigroup، Goldman Sachs، Morgan Stanley و Wells Fargo برای شرکت در نشست عادی «انجمن خدمات مالی» در واشنگتن حضور داشتند؛ اما در حالی که این بانکداران روز خود را به پایان می‌رساندند، شرایط به سرعت تغییر کرد.

وزیر خزانه‌داری متوجه شده بود که شرکت هوش مصنوعی Anthropic مدل جدیدی به نام Mythos توسعه داده است. قرار بود این مدل روز بعد به صورت محدود در دسترس کاربران تأییدشده در بخش‌های دولتی و خصوصی قرار گیرد. Anthropic اعلام کرده بود که این عرضه محدود، ایمن‌ترین راه برای انتشار توانمندترین مدل این شرکت تا به امروز است. وزرای خزانه‌داری معمولاً خود را درگیر عرضه محصولات سیلیکون‌ولی نمی‌کنند، اما قابلیت‌های فزاینده هوش مصنوعی تهدیدی منحصربه‌فرد برای اقتصاد آمریکا به شمار می‌رفت.

پیش‌تر Anthropic اطلاعاتی درباره این مدل پیشرفته به دولت ارائه کرده بود. این مدل قادر است با سرعتی برق‌آسا حفره‌های زیرساخت‌های دیجیتال را شناسایی کند؛ قابلیتی که در دستان افراد درست می‌تواند برای دفاع استفاده شود و در دستان افراد نادرست، ویرانی به بار آورد. در اواخر ماه مارس، Microsoft پس از دسترسی اولیه به Mythos، در خفا به مقامات دولت هشدار داده بود که این مدل یک جهش چشمگیر محسوب می‌شود. به گفته Microsoft، این فناوری می‌تواند حملات سایبری پیچیده علیه مؤسسات مالی، شبکه‌های انرژی و سایر زیرساخت‌های حیاتی را خودکار کند و به هکرهای کم‌تجربه اجازه دهد تا عملیاتی را انجام دهند که پیش از این تنها از عهده هکرهای نخبه برمی‌آمد.

کاخ سفید وارد وضعیت بحرانی شد. در اتاق وضعیت، وزرای کابینه با مشاور ارشد علمی دولت دیدار کردند تا قابلیت‌های Mythos را درک کنند و برای واکنش آژانس‌های متبوع خود چاره‌اندیشی کنند. پس از آن، جی‌دی ونس (JD Vance)، معاون رئیس‌جمهور، تماسی تلفنی با برخی از بانفوذترین مدیران فناوری کشور، از جمله داریو آمودی (Dario Amodei) مدیرعامل Anthropic و رقبای اصلی او برقرار کرد. ونس در این تماس تأکید کرد که دولت خواهان مشارکتی در زمینه هوش مصنوعی پیشرفته است که در کنار حمایت از نوآوری، نگرانی‌های امنیتی را نیز متوازن کند.

یکی از مقامات دولتیِ حاضر در این بحث‌ها درباره این تماس گفت: «ما می‌دانیم که موضوع داغ امروز Mythos است، اما همچنین می‌دانیم که این آخرین مورد نخواهد بود.»

این تعامل، چرخشی قابل‌توجه برای رئیس‌جمهوری بود که با تکیه بر توسعه مداوم بخش هوش مصنوعی آمریکا برای پیشبرد رشد اقتصادی کشور، به قدرت بازگشته بود. دونالد ترامپ برای مدیریت حوزه هوش مصنوعی، دیوید ساکس (David Sacks) را انتخاب کرده بود؛ فردی که از رویکرد عدم مداخلت دولت حمایت می‌کرد و هرگونه مقررات جدید را خطری ژئوپلیتیک در رقابت هوش مصنوعی با صنعت چین می‌دانست.

ظهور Mythos این مفروضات را به چالش کشید و دولت ترامپ را مجبور کرد تا مدل‌های هوش مصنوعی را نه‌تنها به عنوان دستاوردهای نوآورانه سیلیکون‌ولی، بلکه به چشم سلاح‌هایی پر از خطر ببیند که می‌توانند بخش‌های حیاتی اقتصاد آمریکا را هدف قرار دهند. همان‌طور که وزیر خزانه‌داری به صنعت مالی اطلاع داد، مدل‌هایی مانند Mythos می‌توانند مهارت کمیاب هک کردن را چنان در دسترس عموم قرار دهند که هر کسی قادر به استفاده از آن در مقیاسی عظیم باشد. بسنت در اوایل آن صبح دوشنبه در وزارت خزانه‌داری، بدترین سناریوی ممکن را ترسیم کرد: افراد عادی می‌توانند امنیت بانک‌ها، شبکه‌های برق، شبکه‌های مخابراتی و سیستم‌های دولتی را بشکنند؛ اهدافی که نفوذ به آن‌ها در گذشته نیازمند تیم‌هایی از هکرهای بسیار ماهر بود.

در هفته‌های پس از آن، دولت مجبور شد در یکی از شدیدترین نبردهای سیاسی دوران ریاست‌جمهوری ترامپ، با سؤالاتی به شدت نگران‌کننده دست‌وپنجه نرم کند. چه زمانی مدل‌های توسعه‌یافته توسط بخش خصوصی آن‌قدر خطر عمومی ایجاد می‌کنند که باید مهار شوند؟ چگونه می‌توان تعیین کرد که این سیستم‌ها برای استقرار به اندازه کافی ایمن هستند؟ و در ساختار دولتی که مدت‌ها قبل از اختراع کامپیوترها - چه رسد به هوش مصنوعی - شکل گرفته است، این قدرت تصمیم‌گیری باید در کجا قرار گیرد؟

شریک دور از انتظار بخش خصوصی در این مذاکرات، Anthropic بود؛ شرکتی که مدت‌ها خود را به عنوان جایگزینی مسئولیت‌پذیر در برابر رقابت سرسام‌آور سایر شرکت‌های سیلیکون‌ولی معرفی کرده بود. تا اوایل سال ۲۰۲۶، این شرکت با پنتاگون بر سر نحوه استفاده نظامی از مدل‌هایش درگیر شده بود. پس از آنکه آمودی در هفته‌های گذشته مقاله بلندی منتشر کرد و خواستار کند شدن روند نوآوری هوش مصنوعی در آمریکا شد، رقبای برتر از جمله OpenAI اعتراف کردند که برای رفع نگرانی‌های ایمنی باید اقدامات بیشتری انجام شود. با این حال، ترامپ از دخالت دادن دولت خود امتناع ورزید.

ترامپ در میان نگرانی‌های فزاینده درباره خطرات هوش مصنوعی برای بشریت نوشت: «تنها کنترل یا چارچوبی که هوش مصنوعی نیاز دارد، یک رئیس‌جمهور قوی و باهوش است و ایالات متحده این را به وفور دارد! دولت ترامپ جلوی اقدامات بد یا بالقوه بد افراد حوزه هوش مصنوعی را گرفته است، مانند داریو در Anthropic که اکنون وانمود می‌کند یک فرشته بی‌نقص است - و ما به این کار ادامه خواهیم داد!»

این دشمنی مستقیماً از زمان انتشار Mythos سرچشمه می‌گیرد، زمانی که ترامپ برای اولین بار مجبور شد با تمامیت هوش مصنوعی - که هم حلال مشکلات و هم خالق آن‌هاست - و شرکت‌های پیشگام آن به عنوان دارندگان اهرم‌های فشار علیه خودش، روبه‌رو شود. در یک دوره سرنوشت‌ساز ۸۵ روزه، دو مورد از قدرتمندترین نیروهای جامعه آمریکا با محدودیت‌های قدرت خود مواجه شدند. کاخ سفید و Anthropic راهی برای توافق بر سر اولین قوانین فدرال دوران ترامپ در زمینه توسعه هوش مصنوعی یافتند، اما با انتشار مدل بعدی، این قوانین خیلی زود منسوخ شدند.

لیز هوستون (Liz Huston)، سخنگوی کاخ سفید گفت: «ایالات متحده در نوآوری هوش مصنوعی پیشرو جهان است و پرزیدنت ترامپ این برتری را حفظ خواهد کرد. دولت ترامپ متعهد به شکوفایی نوآوری آمریکایی، حمایت از استقرار ایمن و موفقیت‌آمیز پیشرفته‌ترین مدل‌های هوش مصنوعی جهان و محافظت از امنیت ملی است.»

شرکت Anthropic از اظهار نظر مستقیم خودداری کرد، اما به مجموعه‌ای از پست‌های وبلاگی که درباره Mythos و اقدامات بعدی دولت برای محدود کردن آن منتشر کرده بود، ارجاع داد.

بررسی‌ها و گفتگوهای انجام‌شده با افراد دخیل در این مذاکرات نشان می‌دهد دولتی که شاهد شکل‌گیری قدرت پردازشی هولناکی توسط شرکت‌های خصوصی است، درمی‌یابد که هیچ فرآیند سیاست‌گذاری‌ای قادر نخواهد بود با سرعت تغییرات فناوری همگام شود.

سوزی وایلز (Susie Wiles)، رئیس کارکنان کاخ سفید، برای اولین بار در اواخر سال ۲۰۲۵ جلسات سطح بالایی را برای بررسی مسائل هوش مصنوعی و امنیت سایبری سازماندهی کرد. دولت با وعده تبدیل شدن به حامی‌ترین کاخ سفید تاریخ مدرن در زمینه فناوری روی کار آمده بود و گروه وایلز دیدگاه ترامپ درباره هوش مصنوعی را پذیرفتند. طبق این دیدگاه، شرکت‌های آمریکایی باید اجازه داشته باشند با بیشترین سرعت ممکن حرکت کنند. مقررات‌گذاری مخصوص اروپا بود و بروکراسی چیزی بود که باید از بین می‌رفت، نه اینکه ساخته شود.

شرکت Anthropic مدت‌ها بود که با معرفی خود به عنوان صدای احتیاط، از رقبایی مانند OpenAI، Google و xAI فاصله گرفته بود. این شرکت استدلال می‌کرد که سیستم‌های هوش مصنوعی توانمندتر، خطرات عمیقی به همراه دارند که نیازمند اقدامات پیشگیرانه است؛ درخواست‌هایی برای قانون‌گذاری که این شرکت را در مقابل جمهوری‌خواهان طرفدار بازار آزاد قرار می‌داد.

اولین تقابل بزرگ دولت با یک شرکت هوش مصنوعی در ژانویه رخ داد، زمانی که پیت هگست (Pete Hegseth)، وزیر دفاع، خواستار دسترسی نامحدود به مدل هوش مصنوعی Claude متعلق به Anthropic برای «تمام مقاصد قانونی» شد. پس از آنکه Anthropic تأکید کرد فناوری آن نباید برای سلاح‌های کاملاً خودمختار یا نظارت گسترده داخلی استفاده شود، هگست این شرکت را یک خطر امنیتی خواند. ترامپ به نهادهای فدرال دستور داد تا روابط خود را با این شرکت قطع کنند، که این امر به روابط Anthropic در سراسر دولت آسیب زد. این تجربه بذرهای سوءظنی را کاشت که در جلسه اضطراری آوریلِ وزیر خزانه‌داری با شرکت‌های برتر وال‌استریت، خود را نشان داد.

با وجود این پیشینه، یک هفته پس از عرضه Mythos، کاخ سفید از آمودی برای یک جلسه دعوت کرد. از دیدگاه این شرکت، این نشانگر عصر جدیدی بود: مدل جدید، نیاز به همکاری با دولت ترامپ را تجدید کرده بود، دولتی که برای تقویت دفاع خود به فناوری Anthropic تکیه می‌کرد. این شرکت متعهد شده بود که از طریق ابتکار عمل خود، دسترسی زودهنگام به مدل‌ها را برای تعداد محدودی از سازمان‌های دولتی و محلی فراهم کند تا مدافعان برای موج بعدی تهدیدات سایبری مبتنی بر هوش مصنوعی آماده شوند.

در داخل کاخ سفید، وایلز متوجه شد که سرعت جلسات دوره‌ای برای مقابله با تهدید قریب‌الوقوع Mythos کافی نیست. او به این نتیجه رسید که کاخ سفید به یک سیاست روشن درباره مدل‌های پیشرو نیاز دارد. هیچ نهادی در دولت فدرال مسئولیت این کار را بر عهده نداشت و روند مشخصی وجود نداشت. در یک نمونه بارز از این بی‌نظمی، یکی از مشاوران دولتی مستقیماً برای دسترسی به Mythos به Anthropic مراجعه کرد که این امر باعث نارضایتی برخی از مقامات کاخ سفید شد.

وایلز برای هماهنگی اولین تلاش بزرگ دولت ترامپ در زمینه قانون‌گذاری هوش مصنوعی، به چهره‌ای غیرمنتظره روی آورد. شان کارنکراس (Sean Cairncross)، که ریاست دفتر ملی سایبری کاخ سفید را بر عهده گرفته بود، یک فعال سیاسی و وکیل قانون انتخابات بود که وایلز در طول انتخابات ۲۰۲۴ به او کمک کرده بود تا در کمیته ملی جمهوری‌خواهان مستقر شود. حتی خود کارنکراس نیز شگفت‌زده شد که پاداش وفاداری‌اش شغلی در زمینه سیاست امنیت سایبری بود؛ حوزه‌ای که اطلاعات کمی در آن داشت.

هنگامی که دفتر امنیت سایبری در سال ۲۰۲۱ تأسیس شد، «هوش مصنوعی» هنوز دغدغه اصلی سیاست‌مداران نبود. حتی در آگوست ۲۰۲۵، خود هوش مصنوعی عامل اصلی نگرانی به شمار نمی‌رفت. مجرمان سایبری استفاده از ابزارهای جدید را آغاز کرده بودند، اما فناوری هنوز به نقطه‌ای نرسیده بود که بتواند حملات چندمرحله‌ای را به تنهایی برنامه‌ریزی و اجرا کند. تا بهار ۲۰۲۶، این وضعیت تغییر کرد و وایلز برای رهبری این پرونده فوری، کارنکراس را انتخاب کرد.

با ورود Mythos، کارنکراس کار بر روی یک فرمان اجرایی را آغاز کرد که نقش دولت فدرال در نظارت بر سیستم‌های هوش مصنوعی توانمندتر را مشخص می‌کرد. در حالی که کاخ سفید معتقد بود می‌تواند قوانین جدیدی وضع کند، کارنکراس متقاعد شده بود که شرکت‌های توسعه‌دهنده نیز باید از همان ابتدا در تدوین سیاست‌ها مشارکت داشته باشند.

کارنکراس برای ایجاد ساختاری در سیاست‌گذاری هوش مصنوعی، چهار کارگروه تشکیل داد. او عمدتاً بر منافع تجاری متمرکز بود؛ منافعی که بین زیرساخت‌های حیاتی و توسعه‌دهندگان پیشرو هوش مصنوعی به رهبری Google، Anthropic و OpenAI تقسیم شده بود.

کارنکراس همچنین تماس‌هایی با مدیران ارشد بخش‌های بانکداری، مخابرات و انرژی برقرار کرد. دفتر او به شرکت‌ها دستور داد تا یک نقطه تماس واحد برای همکاری مستقیم با دفتر وی تعیین کنند.

سخنگوی کاخ سفید گفت: «شان کارنکراس کار فوق‌العاده‌ای برای محافظت از مردم آمریکا و زیرساخت‌های حیاتی کشورمان انجام می‌دهد و در عین حال نوآوری را نیز ترویج می‌کند.»

جلسات اولیه اغلب مدیران را گیج می‌کرد. به گفته افراد مطلع، کارنکراس غالباً تنها چند دقیقه در این جلسات حضور می‌یافت و بحث را به کارمندان می‌سپرد، که این امر باعث ناامیدی برخی مدیران عامل می‌شد. پس از یکی از این تماس‌ها، جیمی دیمون (Jamie Dimon)، مدیرعامل JPMorgan Chase، نگرانی‌های خود را درباره کند بودن روند رسیدگی به خطرات به اشتراک گذاشت.

یکی از افراد نزدیک به دولت گفت: «وزارت خزانه‌داری واقعاً فشار می‌آورد که اقدامی انجام شود، اما برای شان کاملاً روشن نبود که چه کاری باید انجام دهد.»

با وجود تمایل کارنکراس به یافتن همکاران، سبک مدیریتی او باعث ناامیدی افراد داخل و خارج از کاخ سفید شد. دفتر او به شدت قصد داشت کنترل این روند کُند را حفظ کند.

تیم کارنکراس پرسشنامه‌ای ۳۱ موردی به نمایندگان صنعت ارائه کرد. این نشان می‌داد که کاخ سفید عملاً معماری دستورالعمل‌های ملی هوش مصنوعی را به شرکت‌ها برون‌سپاری کرده است و درخواست داده‌های دقیقی درباره نحوه هماهنگی وصله‌های نرم‌افزاری و شناسایی کدهای آسیب‌پذیر دارد.

یکی از مقامات کاخ سفید گفت: «این نشان‌دهنده تعهد دولت به اجازه دادن به صنعت برای رهبری است. بهترین سیاست زمانی تدوین می‌شود که ما از نزدیک با صنعت همکاری کنیم.»

این پاسخ‌ها چارچوبی ۹ صفحه‌ای را شکل دادند. این چارچوب پیشنهاد می‌کرد که توسعه‌دهندگان پیشرفته‌ترین سیستم‌های هوش مصنوعی موظف شوند مدل‌های خود را برای یک ارزیابی اجباری ۶۰ روزه پیش از انتشار به دولت ارائه دهند. سپس آژانس‌های اطلاعاتی عملاً چراغ سبز یا قرمز نشان می‌دادند.

شرکت‌های Google، Anthropic و OpenAI با این پیشنهاد مخالفت کردند. آن‌ها این چارچوب را در تنظیم توسعه مدل، زمان انتشار و صلاحیت مشتریان بسیار دست‌وپاگیر می‌دانستند.

در یک سند داخلی OpenAI آمده بود: «پنجره دسترسی اجباری ۶۰ روزه پیشنهادشده از نظر عملیاتی واقع‌بینانه نیست و به طور مادی در چرخه انتشار مدل‌های پیشرو اختلال ایجاد می‌کند.»

وایلز در پستی در شبکه‌های اجتماعی از دولت به عنوان حامی نوآوری دفاع کرد و گفت: «این دولت یک هدف دارد؛ اطمینان از اینکه بهترین و ایمن‌ترین فناوری به سرعت برای شکست دادن هرگونه تهدیدی مستقر شود. ما از تلاش آزمایشگاه‌های پیشرو قدردانی می‌کنیم.»

یکی از مقامات کاخ سفید با تأکید بر داوطلبانه بودن این روند گفت که سیاست دولت ترامپ از روز اول ثابت بوده است.

کارنکراس رویکرد خود را تغییر داد و احترام شرکت‌هایی را به دست آورد که او را عمل‌گرایی می‌دیدند که تلاش می‌کند جناح‌های مختلف کاخ سفید را برای رسیدن به یک چارچوب عملی متحد کند.

نسخه بازنگری‌شده در ۱۸ مه به سمت سیستمی رفت که در آن بررسی دولت کاملاً داوطلبانه بود. شرکت‌ها این را یک پیشرفت اساسی می‌دانستند. مقامات دولتی معتقد بودند که به خط پایان نزدیک شده‌اند.

مدیر ارتباطات سیاست‌گذاری OpenAI گفت: «این فرمان اجرایی گام اولیه سازنده‌ای به سوی یک چارچوب ملی برای ایمنی هوش مصنوعی پیشرو است.»

در ۲۰ مه، نمایندگان شرکت‌های بزرگ هوش مصنوعی نسخه‌های نهایی فرمان اجرایی را دریافت کردند. به آن‌ها اطلاع داده شد که ترامپ این فرمان را بعدازظهر روز بعد امضا خواهد کرد.

کاخ سفید تصمیم گرفت این سیاست را پیش از موعد به یک نفر دیگر نیز نشان دهد: دیوید ساکس. او همچنان دسترسی خود به رئیس‌جمهور و توانایی شکل دادن به تفکر او درباره هوش مصنوعی را حفظ کرده بود.

بسنت و کارنکراس روز ۲۱ مه را با این باور آغاز کردند که در کنار رئیس‌جمهور بزرگترین پیشرفت در زمینه تعیین دستورالعمل‌های هوش مصنوعی را جشن خواهند گرفت.

اما در همان صبح، ترامپ تماسی تلفنی از ساکس دریافت کرد. ساکس استدلال کرد که هر چیزی که توسعه مدل‌های آمریکایی را کند کند، در نهایت به نفع چین خواهد بود. ترامپ به طور ناگهانی مراسم امضا را لغو کرد و کاخ سفید را به وضعیت اوایل آوریل بازگرداند: متقاعد شده بود که باید خطرات هوش مصنوعی را برطرف کند، اما بدون هیچ اجماعی در مورد مسیر پیش رو.

به مدیران صنعت تنها گفته شد که کاخ سفید در حال تجدید نظر است و با آن‌ها تماس خواهد گرفت. وایلز بر صدور فرمان اجرایی اصرار داشت، اما مداخله ساکس واقعیت ناخوشایندی را به او یادآوری کرده بود.

بسنت برای درک بهتر تفکر بخش هوش مصنوعی به سانفرانسیسکو پرواز کرد. او و سم آلتمن (Sam Altman) دیدار کردند و به توافق رسیدند که پنجره کوتاهی برای نهایی کردن فرمان اجرایی وجود دارد.

در واشنگتن، مقامات ارشد تمرکز خود را بر کاهش زمان بررسی دولتی برای مدل‌های پیشرفته از ۹۰ روز به ۳۰ روز معطوف کردند.

افراد بدبین به قانون‌گذاری در صنعت، این را یک امتیاز معنادار می‌دانستند. این بدان معنا بود که دولت همچنان جایگاه رسمی در فرآیند توسعه مدل خواهد داشت.

کارکنان ارشد ترامپ جلسه دیگری با رئیس‌جمهور در غروب اول ژوئن ترتیب دادند و آن را به طور هدفمند از برنامه عمومی او خارج نگه داشتند تا لابی‌های لحظه آخری تکرار نشود. آن‌ها تعهد ترامپ را به دست آوردند.

ترامپ فرمان اجرایی را در ۲ ژوئن بدون هیچ سروصدایی امضا کرد. این فرمان یک پنجره ۶۰ روزه به دولت داد تا جزئیات را چکش‌کاری کند.

پس از هفته‌ها نبرد داخلی و مذاکرات طاقت‌فرسا، دولت ترامپ اولین چارچوب فدرال خود را برای تعامل با سازندگان پیشرفته‌ترین سیستم‌های هوش مصنوعی اعلام کرده بود.

دولت برای عرضه مدل Fable آماده بود، یا دست‌کم این‌طور فکر می‌کرد.

مدل جانشین Mythos بسیاری از قابلیت‌های آن را به ارث برده بود، اما Anthropic به دولت فدرال اطمینان داده بود که پیشرفته‌ترین قابلیت‌های سایبری و بیولوژیکی از دسترس کاربران خارج خواهد ماند. مدل Fable به عنوان نسخه تعدیل‌شده Mythos برای عموم عرضه شد.

شرکت Anthropic اطلاعیه‌های لازم را به دولت داد و وزارت خزانه‌داری این مدل را پیش از انتشار آن در ۹ ژوئن تأیید کرد.

دو روز بعد، محققان Amazon در حین تست فشار مدل Fable، یک آسیب‌پذیری یا اصطلاحاً Jailbreak کشف کردند که به کاربران اجازه می‌داد مدل را از چارچوب‌های ایمنی آن عبور دهند. اندی جسی (Andy Jassy)، مدیرعامل Amazon، این یافته‌ها را طی تماسی با مقامات کاخ سفید در میان گذاشت. بررسی‌های بعدی Anthropic نشان داد که این دور زدن ایمنی با مدل‌های بسیار ضعیف‌تر نیز قابل دستیابی است.

کاخ سفید به سرعت نتیجه گرفت که تنها گزینه، وادار کردن Anthropic به از دسترس خارج کردن مدل جدید است. وایلز صبح روز بعد همکارانش را گرد هم آورد تا گزینه‌های قانونی برای اجبار یک شرکت خصوصی به غیرفعال کردن یکی از قدرتمندترین سیستم‌های هوش مصنوعی جهان را بررسی کنند.

کاخ سفید ابتدا سعی کرد Anthropic را متقاعد کند، اما تماس با مدیرعامل شرکت چند ساعت به طول انجامید.

تنش‌ها در آن بعدازظهر به سرعت بالا گرفت. آمودی طی تماس‌هایی با مقامات دولتی دستورات صریحی دریافت کرد: Fable را از دسترس خارج کنید و برای رفع مشکل با ما همکاری کنید.

کارنکراس به آمودی گفت: «این نسخه‌ای برای عموم است که به راحتی قابل نفوذ است و نگرانی‌هایی برای سیستم‌های امنیت ملی ایجاد می‌کند که ما آماده پذیرش آن نیستیم. این مدل باید فوراً خاموش شود.»

در صنعتی که تحت سلطه علاقه‌مندان بی‌خیال فناوری بود، آمودی شهرت خود را به عنوان صدای احتیاط تثبیت کرده بود. اکنون نقش‌ها برعکس شده بود: کاخ سفید از Anthropic می‌خواست مدل خود را ایمن‌تر کند و آمودی هشدار می‌داد که این کار رویه بدی برای صنعت ایجاد خواهد کرد.

در تماسی با کارنکراس و بسنت، آمودی استدلال کرد که هیچ مدل پیشرویی در برابر نفوذ مصون نیست و آسیب‌پذیری‌های گزارش‌شده توسط Amazon مطابق انتظارات شرکت بوده است.

آمودی پرسید: «آیا کمک می‌کند کمی وارد جزئیات شوم؟ فکر می‌کنم باید خطرات را واقع‌بینانه ببینیم.»

بسنت در پاسخ گفت: «فکر نمی‌کنم نیازی باشد. ما و برخی از افراد صنعت به این نتیجه رسیده‌ایم که این مدل در حال حاضر نباید در دسترس عموم باشد.»

آمودی دوباره تلاش کرد و توضیح داد که چارچوب‌های ایمنی بی‌نقص وجود ندارند. بسنت متقاعد نشد و معتقد بود که بحث درباره تعاریف فنی، اصل موضوع را نادیده می‌گیرد.

بسنت به آمودی گفت: «اینکه می‌گویید هر کاری که انجام می‌دهد قابل پیش‌بینی بوده، کمکی به پرونده شما نمی‌کند.»

آمودی سعی کرد ابعاد مسئله را گسترش دهد و به دولت بفهماند که این رویکرد به کل صنعت آسیب می‌زند. او گفت: «فکر می‌کنم هر تصمیمی برای توقف Fable اساساً این رویه را ایجاد می‌کند که مدل‌های بالاتر از یک سطح توانایی خاص اصلاً نمی‌توانند به صورت تجاری عرضه شوند.»

کارنکراس سخنان او را قطع کرد و گفت: «نگرانی ما تهدیدی است که متوجه امنیت ملی می‌شود. برای محافظت از آمریکا، دسترسی به Fable باید قطع شود.»

کارنکراس در ادامه گفت: «داریو، چیزی که من از تو می‌خواهم این است: آیا دسترسی به Fable را می‌بندی یا نه؟»

آمودی گفت که نمی‌تواند Fable را تنها یک ساعت پس از شنیدن نگرانی‌های دولت خاموش کند.

کارنکراس پاسخ داد: «من جوابم را گرفتم.»

بسنت حتی صریح‌تر بود: «این تصمیم بدی است.»

مهلت کاخ سفید به پایان رسید، اما دولت به اهرم فشار دیگری دست یافت.

بعدازظهر آن روز، مشاوران ترامپ ایده استفاده از اختیارات فدرال برای مسدود کردن دسترسی‌های خارجی به Fable از طریق کنترل صادرات را مطرح کردند. این امر هوارد لوتنیك (Howard Lutnick)، وزیر بازرگانی را به بازیگر اصلی تبدیل کرد.

طبق گفته افراد مطلع، ترامپ که به شدت ناامید شده بود، گفت که اگر Anthropic از دستورات پیروی نکند، «می‌خواهم آن‌ها را به زندان بفرستم.»

تماس بین آمودی و لوتنیک نیز نتیجه‌بخش نبود. لوتنیک با تمجید از Anthropic آغاز کرد، اما پس از یک ساعت گفتگو، آمودی همچنان با توقف Fable موافقت نکرد.

ساعت ۵:۲۱ عصر، وزارت بازرگانی دستوری صادر کرد که بر اساس آن دسترسی به Fable و Mythos برای تمامی اتباع خارجی، از جمله کارمندان خود شرکت، تعلیق شد. آمودی چند ساعت بعد با لوتنیک تماس گرفت.

آمودی پرسید: «اگر برنامه‌نویسان من در خارج از کشور نتوانند از این مدل استفاده کنند، آیا این بدان معناست که ما باید آن را از دسترس خارج کنیم؟»

لوتنیک پاسخ داد: «بله، نکته دقیقاً همین است.»

کاربران Fable در سراسر جهان بلافاصله متوجه تغییر شدند. مهندسان با این پیام مواجه شدند: «این مدل در حال حاضر در دسترس نیست.»

شرکت Anthropic در پستی نوشت: «ما از دستور قانونی دولت پیروی می‌کنیم... با این حال، معتقدیم که کشف یک آسیب‌پذیری محدود نباید دلیلی برای فراخوانی مدلی تجاری باشد که در دسترس صدها میلیون نفر است. اگر این استاندارد در سراسر صنعت اعمال شود، استقرار تمام مدل‌های جدید متوقف خواهد شد.»

این شرکت از چارچوب‌های ایمنی قوی خود دفاع کرد و یافته‌های Amazon را «کاملاً بی‌خطر» دانست.

برای شرکت‌های کوچکتر، این اتفاق یادآور وابستگی متزلزل آن‌ها به ابزارهای شرکت‌های دیگر بود و باعث شد برخی به سمت مدل‌های خارجی حرکت کنند.

در داخل Anthropic، تام براون (Tom Brown)، یکی از هم‌بنیان‌گذاران شرکت، رهبری مذاکرات را بر عهده گرفت. گفتگوها در روزهای بعد ادامه یافت.

مقامات دولتی، براون را فردی منطقی‌تر از آمودی یافتند. یکی از مقامات ارشد گفت: «او به شدت روی هدف متمرکز بود؛ بدون فرضیه‌سازی و فلسفه‌بافی.»

پیام لوتنیک به براون صریح بود: علاوه بر وزارت بازرگانی، تمامی نهادهای اطلاعاتی و سایبری نیز باید از ایمنی مدل اطمینان حاصل کنند.

در پاسخ، Anthropic تیمی فنی به واشنگتن فرستاد تا نشان دهند آسیب‌پذیری‌های کشف‌شده ایمنی مدل را به طور کامل به خطر نینداخته‌اند.

این جلسات کاملاً متفاوت بود. مهندسان دو طرف در مورد سازوکار ایمنی بحث کردند. Anthropic با ارائه یک سیستم ایمنی به‌روزرسانی‌شده توانست رضایت مقامات را جلب کند.

یکی از مقامات گفت: «اقدامات ایمنی عالی بود و ما موافقت کردیم.» محدودیت‌های صادراتی Mythos در ۲۶ ژوئن لغو شد.

اما مذاکرات درباره Fable ادامه یافت. وزارت دفاع اصرار داشت که کارهای فنی را مستقلاً ارزیابی کند. پس از بررسی‌های نهایی، پنتاگون نیز موافقت کرد.

در ۳۰ ژوئن، وزارت بازرگانی لغو کنترل صادرات Fable را اعلام کرد و دسترسی پس از ۱۹ روز بازیابی شد. رابطه بین این شرکت و دولت به شراکتی تبدیل شده بود که هیچ‌کدام پیش‌بینی نمی‌کردند.

مدیرعامل یک شرکت نرم‌افزاری گفت: «این دولت عادت دارد فقط قوانین را تعیین کند و برود، اما با Anthropic، قدرت فناوری این شرکت آن‌ها را در یک گفتگوی دوجانبه نگه داشته است.»

این توافق از سر اعتماد نبود، بلکه هر دو طرف به قدرت رقیب خود پی برده، بودند.

همزمان با این اتفاقات، OpenAI که در حال آماده‌سازی مدل جدید خود بود، از این تقابل درس گرفت و با احتیاط بسیار بیشتری پیش رفت.

شرکت OpenAI مدل ChatGPT-5.6 را تحت بررسی‌های امنیتی بی‌پایانی قرار داد. آلتمن همچنین با درخواست کاخ سفید برای انتشار اولیه و محدود مدل موافقت کرد.

آلتمن در یادداشتی داخلی نوشت که این مدل بلندمدتِ ایده‌آل ما نیست و برای رویکردی پایدارتر با دولت همکاری خواهیم کرد.

این سخت‌گیری‌ها در حالی رخ داد که ترامپ خود را بزرگترین حامی هوش مصنوعی معرفی کرده بود. بسیاری در صنعت خواستار شفافیت بیشتر شدند.

اما مهلت ماه آگوست برای انتشار چارچوب بازبینی ایمنی توسط کاخ سفید، بدون هیچ اطلاعیه عمومی به پایان رسید.

با گذشت تابستان، سرعت تغییرات تکنولوژی همچنان از توانایی دولت پیشی می‌گرفت. ایجنت‌های OpenAI بدون اطلاع ارزیاب‌ها توانستند یک پلتفرم توسعه‌دهنده را هک کنند. این رویدادها به درخواست عمومی آمودی برای کنترل روند پیشرفت مدل‌های پیشرو منجر شد.

از آن زمان، برخی مقامات کاخ سفید بین ترس از آسیب‌پذیری‌های سایبری و ترس از عقب ماندن از چین فلج شده‌اند. برخی دیگر نگرانی‌ها را صرفاً تبلیغاتی می‌دانند.

هر کسی که از قوانین جدید هوش مصنوعی حمایت می‌کند، باید با رئیس‌جمهوری روبه‌رو شود که بین تمایل به استفاده کامل از قدرت خود و مخالفت با مقررات‌گذاری گیر افتاده است.

یکی از مقامات ارشد کاخ سفید گفت: «نوآوری همچنان در حال وقوع است و ایالات متحده پیشتاز است. اما اگر ما نوعی مقررات را اعمال نکنیم، در صورت بروز مشکل، مردم آمریکا ما را پاسخگو خواهند دانست.»

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

هوش مصنوعی در برزخ سیاست آمریکا: چرا جمهوری‌خواهان گاز می‌دهند و دموکرات‌ها ترمز می‌کشند؟
آخرین اخبار

هوش مصنوعی در برزخ سیاست آمریکا: چرا جمهوری‌خواهان گاز می‌دهند و دموکرات‌ها ترمز می‌کشند؟

دنیای هوش مصنوعی این روزها وارد یک بازی سیاسی خطرناک شده؛ جایی که مرزبندی‌های حزبی در واشنگتن، آینده این فناوری را به یک میدان نبرد تبدیل کرده است. در حالی که جمهوری‌خواهان چراغ سبز پیشروی بی‌وقفه را نشان می‌دهند، دموکرات‌ها قصد دارند با وضع قوانین سفت‌وسخت ترمز این صنعت را بکشند؛ تنشی که می‌تواند به ضرر کل اکوسیستم هوش مصنوعی تمام شود.

۲ دقیقه مطالعه
۰
۶ مهر
رکورد ۸۳۳ هزار دانلود ماهانه برای LEGAL-BERT؛ وقتی توسعه‌دهنده‌ها قید مدل‌های گران‌قیمت را می‌زنند!
آخرین اخبار

رکورد ۸۳۳ هزار دانلود ماهانه برای LEGAL-BERT؛ وقتی توسعه‌دهنده‌ها قید مدل‌های گران‌قیمت را می‌زنند!

مدل زبانی تخصصی LEGAL-BERT با ثبت بیش از ۸۳۳ هزار دانلود در ماه روی پلتفرم هاگینگ فیس حسابی خبرساز شده است. این ابزار جمع‌وجور و تخصصی نشان می‌دهد که برای پردازش و تحلیل متون حقوقی، حتماً نیازی به مدل‌های غول‌پیکر و پرهزینه ندارید و گزینه‌های بهینه همچنان در اوج هستند.

۲ دقیقه مطالعه
۰
۶ مهر
جاسوسی هوش مصنوعی در محل کار؛ کارمندان می‌گویند کارفرماها باید قانوناً مچ‌گیری‌هایشان را لو بدهند!
آخرین اخبار

جاسوسی هوش مصنوعی در محل کار؛ کارمندان می‌گویند کارفرماها باید قانوناً مچ‌گیری‌هایشان را لو بدهند!

نظرسنجی‌های تازه نشان می‌دهد که بیشتر کارمندان حس می‌کنند مدیرانشان با ابزارهای هوش مصنوعی تمام حرکات آن‌ها را زیر نظر گرفته‌اند. حالا بیش از ۸۰ درصد شاغلان خواستار تصویب قانونی شده‌اند که شرکت‌ها را مجبور کند هرگونه مچ‌گیری و نظارت هوش مصنوعی در محیط کار را رسماً اعلام کنند.

۳ دقیقه مطالعه
۰
۶ مهر