پاسخ مفصل داریو آمودی به منتقدان؛ چرا آنتروپیک باید در خط مقدم رقابت هوش مصنوعی بماند؟

داریو آمودی، مدیرعامل آنتروپیک، انتقادهای اخیر مبنی بر نادیده گرفتن ایمنی هوش مصنوعی و به حاشیه راندن آن در جریان رقابت فشرده این شرکت برای رسیدن به قله فناوری را رد کرد.

این مدیر ارشد روز سه‌شنبه پاسخی مفصل و نزدیک به ۲۰۰۰ کلمه‌ای به پستی انتقادی در شبکه اجتماعی ایکس منتشر کرد؛ پستی که در آن ادعا شده بود آنتروپیک تلاش می‌کند به هر قیمتی برنده رقابت رسیدن به ابرهوش مصنوعی شود و اولویت ایمنی را به حاشیه برده است.

پست اولیه روز دوشنبه توسط ناتان کلوین، مدیر ارشد استراتژی در Encode AI (یک سازمان غیرانتفاعی فعال در حوزه ایمنی هوش مصنوعی) منتشر شده بود. کلوین در این یادداشتِ بیش از ۱۵۰۰ کلمه‌ای، فهرستی از ۹ اقدام آنتروپیک در طول سال گذشته را برشمرد که به گفته او، تعهدات ایمنی این شرکت را تضعیف کرده است؛ از جمله امضای قراردادهایی به ارزش بیش از ۵۰۰ میلیارد دلار برای تأمین توان پردازشی و اتکای فزاینده به مدل هوش مصنوعی Claude برای توسعه مدل‌های بعدی.

آمودی در پاسخ خود اشاره کرد با وجود آنکه کارهای پژوهشی و تحقیقاتی کلوین در حوزه ایمنی هوش مصنوعی را تحسین می‌کند، اما با بخش عمده‌ای از انتقادهای او مخالف است.

مدیرعامل آنتروپیک تأکید کرد موضع اصلی او این است که این شرکت تنها با ماندن در خط مقدم مرزهای دانش و پیشتازی در این صنعت می‌تواند نقش مؤثری در ایمن نگه داشتن کل اکوسیستم هوش مصنوعی ایفا کند.

آمودی در این باره نوشت: «استراتژی ما همواره همان چیزی بوده که من آن را "رقابت برای تعالی" می‌نامم؛ ما با اثبات اینکه می‌توان چنین فناوری پیشرفته‌ای را مسئولانه توسعه داد، سطح استانداردها و انتظارات را برای کل صنعت ارتقا می‌دهیم.»

او سپس فهرستی ۹ گانه از اقداماتی را ارائه داد که از نظر تجاری و مالی برای آنتروپیک بسیار هزینه‌بر بوده، اما دستاوردهای ایمنی چشمگیری به‌همراه داشته است. از جمله این اقدامات می‌توان به عرضه مدل قدرتمند Mythos صرفاً برای گروه منتخبی از شرکای حوزه امنیت سایبری و همچنین اعمال محدودیت شدید بر فروش خدمات هوش مصنوعی این شرکت به شرکت‌های دولتی چین اشاره کرد.

با این حال، آمودی پذیرفت که آنتروپیک می‌توانست در مواجهه با برخی از موضوعات مطرح‌شده از سوی کلوین عملکرد بهتری داشته باشد. یکی از این موارد، پیش‌نویس قانونی بود که آنتروپیک این ماه در کنگره به گردش درآورد (سندی که نشریه پولیتیکو به نسخه اختصاصی آن دست یافته بود) و منتقدان مدعی بودند تصویب آن، مسیر دولت فدرال برای مسدودسازی مدل‌های خطرناک هوش مصنوعی را دشوارتر می‌کند.

او در ادامه نوشت: «ما همواره تلاش می‌کنیم عملکرد بهتری داشته باشیم، اما بار دیگر تأکید می‌کنم که به کارنامه عملکردمان افتخار می‌کنم و پای آن می‌ایستم.»

گفت‌وگوی رفت‌وبرگشتی آمودی و کلوین در شرایطی رقم می‌خورد که ایمنی مدل‌ها به یکی از داغ‌ترین و فوری‌ترین دغدغه‌ها در دنیای هوش مصنوعی تبدیل شده است. در ماه سپتامبر، گروهی از پژوهشگران نسبت به وقوع یک «آخرالزمان هوش مصنوعی» هشدار دادند و پیش‌بینی کردند که توانمندی‌های فزاینده و غیرقابل مهار این فناوری ممکن است ظرف یک دهه آینده حیات تمام بشریت را تهدید کند.

در پاسخ به این نگرانی‌ها، رهبران ارشد حوزه فناوری از جمله آمودی، سم آلتمن (مدیرعامل اوپنای‌آی) و ایلان ماسک بر سر تنظیم سرعت حرکت در مرزهای فناوری به توافق رسیدند؛ مفهومی که به معنای تعدیل شتاب توسعه هوش مصنوعی است تا اطمینان حاصل شود سازوکارهای نظارتی و موازنه‌های ایمنی لازم به میزان کافی پیاده‌سازی شده‌اند.

هم‌زمان، آنتروپیک در آستانه عرضه اولیه سهام (IPO) قرار دارد؛ رویدادی پر سر و صدا که انتظار می‌رود با ارزش‌گذاری نجومی ۲ تریلیون دلاری در ماه نوامبر به ثبت برسد. این شرکت هفته گذشته درآمد سه‌ماهه سوم خود را ۱۶٫۸ میلیارد دلار گزارش کرد.