همکاری Anthropic و Accenture برای اجرای طرح نظارت و کاهش سرعت توسعه هوش مصنوعی

نکات کلیدی

• Anthropic اعلام کرد که نیروهای Accenture را در شرکت خود مستقر خواهد کرد تا به آزمایش ایمنی مدل‌های هوش مصنوعی کمک کنند.
• داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، اخیراً یک برنامه سه‌مرحله‌ای برای کاهش سرعت توسعه هوش مصنوعی منتشر کرده است و ارزیاب‌های داخلی، نخستین گام این برنامه محسوب می‌شوند.
• شرکت‌های Anthropic و OpenAI پس از هشدار پژوهشگران درباره پتانسیل هوش مصنوعی برای ایجاد آسیب‌های فاجعه‌بار به بشریت، تحت نظارت و بررسی‌های شدیدی قرار گرفته‌اند.

داریو آمودی، هم‌بنیان‌گذار و مدیرعامل Anthropic در پنل هوش مصنوعی در رویداد Inbound 2025 (با پشتیبانی HubSpot) در سان‌فرانسیسکو سخنرانی می‌کند.

(منبع تصویر: Getty Images)

روز جمعه، شرکت Anthropic اعلام کرد که Accenture را به عنوان ارزیاب داخلی خود انتخاب کرده است. این نخستین گام عملی Anthropic در راستای اجرای پیشنهاد داریو آمودی، مدیرعامل این شرکت، برای کاهش سرعت توسعه هوش مصنوعی به شمار می‌رود.

بر اساس بیانیه منتشرشده، هر دو شرکت Anthropic و Accenture توافق کرده‌اند که طی پنج سال آینده، دست‌کم یک میلیارد دلار برای «ظرفیت‌سازی در این حوزه» سرمایه‌گذاری کنند. با این حال، Anthropic تاکید کرده است که با توجه به «اهمیت و فوریت» موضوع، هزینه فعالیت‌های Accenture را مستقیماً تامین خواهد کرد.

شرکت Anthropic در این باره اعلام کرد: «در بلندمدت معتقدیم که این بودجه باید از منابع مشترک یا دولتی تامین شود؛ همان‌طور که در چارچوب پیشرفته هوش مصنوعی خود در ماه ژوئن به آن اشاره کردیم. اما از آنجایی که در حال حاضر هیچ‌کدام از این منابع وجود ندارند، قصد داریم با ارزیاب‌های مختلف و تحت قراردادهای مالی گوناگون همکاری کنیم.»

روز شنبه، آمودی با انتشار یک برنامه سه‌مرحله‌ای برای کنترل سرعت بهبود پیشرفته‌ترین مدل‌های هوش مصنوعی، بخش فناوری را شگفت‌زده کرد. در هفته‌های اخیر و پس از هشدارهای فزاینده پژوهشگران درباره خطرات فاجعه‌بار هوش مصنوعی، Anthropic و رقیب اصلی آن یعنی OpenAI زیر ذره‌بین قرار گرفته‌اند.

پیشنهاد آمودی در این هفته با استقبال برخی از مدیران ارشد صنعت، از جمله سم آلتمن (مدیرعامل OpenAI) و ایلان ماسک (مدیرعامل Tesla و SpaceX) روبه‌رو شد. در مقابل، چهره‌هایی مانند جنسن هوانگ (مدیرعامل Nvidia) این نگرانی‌ها را نادیده گرفته و استدلال کردند که نیازی به قوانین جدید نیست. در این میان، بسیاری پرسیده‌اند که پیشنهاد آمودی در عمل چه معنایی خواهد داشت؛ به‌ویژه در شرایطی که Anthropic خود را برای عرضه اولیه سهام آماده می‌کند که انتظار می‌رود سروصدای زیادی به پا کند.

مرحله اول برنامه آمودی، به ارزیاب‌های شخص ثالث، دسترسی‌هایی در سطح کارمندان شرکت می‌دهد تا شیوه‌های ایمنی را بررسی کرده و حوادث احتمالی را گزارش دهند. او روز شنبه اعلام کرد که Anthropic به‌صورت «یک‌جانبه» به این بخش از پیشنهاد متعهد شده است و سایر شرکت‌های هوش مصنوعی را نیز به انجام اقدام مشابه تشویق کرد.

شرکت Anthropic روز جمعه تایید کرد که در گام نخست توافق کرده است تا کارمندان بخش تخصصی هوش مصنوعی شرکت Accenture در این مجموعه مستقر شوند تا تدابیر ایمنی را آزمایش کنند، مدل‌ها را تحت بررسی تیم قرمز قرار دهند و انطباق رفتار مدل‌ها با ارزش‌های انسانی را ارزیابی کنند. این همکاری انحصاری نیست و Anthropic اعلام کرده که در حال مذاکره با سازمان تحقیقاتی غیرانتفاعی METR و سایر اشخاص ثالث نیز هست.

این شرکت تاکید کرد که همچنان مسئولیت ایمنی مدل‌های خود را بر عهده دارد و همکاری با ارزیاب‌های داخلی، به هیچ وجه پاسخگویی و مسئولیت‌پذیری آن را کاهش نخواهد داد.

شرکت Anthropic در پایان افزود: «ما این تلاش‌های اولیه را به اشتراک می‌گذاریم تا مردم و سایر توسعه‌دهندگان هوش مصنوعی بتوانند روند کار ما را مشاهده کنند. انتظار داریم با بلوغ بیشتر این حوزه، رویکرد ما نیز تکامل یابد و با آغاز فعالیت‌ها و جذب ارزیاب‌های بیشتر، اطلاعات تکمیلی را منتشر خواهیم کرد.»