استعفای مهندس Google DeepMind؛ تلاش برای ابرهوش مصنوعی اقدامی غیرمسئولانه است

استعفای کارمند Google به دلیل نگرانی از ظهور هوش مصنوعی ابرهوشمند

یکی از کارمندان Google با اعلام اینکه تلاش برای دستیابی به هوش مصنوعی قدرتمند اقدامی «از اساس غیرمسئولانه» است، از سمت خود در این شرکت کناره‌گیری کرد.

رابرت اوکالاهان (Robert O'Callahan) که در تیم Google DeepMind مشغول به فعالیت بود، در پستی در شبکه اجتماعی X اعلام کرد که تیم او روی توسعه تراشه‌هایی کار می‌کرد که هوش مصنوعی را سریع‌تر و ارزان‌تر می‌کردند؛ روندی که به باور او نشان می‌دهد هوش مصنوعی در حال حاضر «بیش از حد سریع» پیشرفت می‌کند.

او متن استعفانامه ارسالی خود به همکارانش را در وبلاگ شخصی‌اش منتشر کرد و نوشت که به دلایل اعتقادی و اخلاقی نمی‌تواند چشمان خود را روی پیامدهای این پروژه‌ها ببندد.

اوکالاهان در این یادداشت نوشت: «این تصمیم آسانی نبود. من همکارانم و محیط کاری‌ام را دوست داشتم و دریافت حقوقی عالی برای حل مسائل جذاب، موقعیتی شگفت‌انگیز بود. اما هدف نهایی تیم من ارزان‌تر کردن هوش مصنوعی و کاهش چشمگیر زمان تأخیر آن است؛ چیزی که تصور نمی‌کنم در شرایط کنونی به نفع مردم باشد. من عمیقاً باور دارم که سرعت پیشرفت هوش مصنوعی در حال حاضر بیش از حد بالاست و حتی نسبت به سرانجام این مسیر نیز تردیدهای جدی دارم.»

هنوز مشخص نیست که اوکالاهان، که ساکن نیوزیلند است، دقیقاً چه مدت برای Google کار کرده است. Google از هرگونه اظهارنظر رسمی در این باره خودداری کرد و اوکالاهان نیز متقاضیان را به مطالعه متن کامل یادداشت وبلاگش ارجاع داد.

کناره‌گیری اوکالاهان جدیدترین مورد از زنجیره استعفای کارشناسان و کارمندان شرکت‌های بزرگ حوزه هوش مصنوعی است که یا به دلیل نگرانی‌های ایمنی کار خود را ترک کرده‌اند و یا زنگ خطر را از داخل سازمان‌ها به صدا درآورده‌اند.

پیش‌تر جیکوب کاکسون (Jacob Coxon) نیز از شرکت Anthropic استعفا داد و تأکید کرد که صنعت هوش مصنوعی در حال ساخت فناوری‌هایی است که در نهایت قادر به مهار و کنترل آن‌ها نخواهد بود؛ اظهاراتی که نگرانی‌ها درباره تهدید موجودیت بشریت توسط هوش مصنوعی پیشرفته را تشدید کرد.

ماه گذشته نیز بلال چوگتای (Bilal Chughtai)، یکی دیگر از محققان Google DeepMind، اعلام کرد که به دلیل هراس از اتمام فرصت انسان‌ها برای جلوگیری از سناریوهای آسیب‌رسان هوش مصنوعی، این شرکت را ترک کرده است.

امروز از Google استعفا دادم. از کارم لذت می‌بردم و عاشق همکارانم بودم، اما تیم من در GDM روی نسل جدیدی از تراشه‌ها کار می‌کرد تا هوش مصنوعی را بسیار سریع‌تر و ارزان‌تر کند. از آنجا که معتقدم پیشرفت هوش مصنوعی در حال حاضر بیش از حد سریع است، چاره‌ای جز استعفا نداشتم.

— رابرت اوکالاهان (Robert O'Callahan) در شبکه اجتماعی X

با این حال، موضع اوکالاهان نسبت به برخی از همکاران تندروتر خود معتدل‌تر به نظر می‌رسد.

او در یادداشت مفصل‌تری در وبلاگ خود توضیح داد اگرچه معتقد است هشدارهای پیرامون خطرات هوش مصنوعی «سزاوار توجهی کاملاً جدی» هستند، اما قانع نشده است که احتمال نابودی حتمی انسان‌ها با ظهور ابرهوش مصنوعی (ASI) قطعی یا ۱۰۰ درصدی باشد.

او در ادامه نوشت: «در عوض، معتقدم که این خطر کاملاً واقعی اما نامشخص و مبهم است؛ موضوعی که فی‌نفسه بسیار نگران‌کننده به حساب می‌آید. ما از نظر اخلاقی موظفیم تمام تلاش خود را برای به حداقل رساندن این ریسک‌ها به کار بگیریم و احتمال وقوع خطر به اندازه‌ای بالاست که هدف‌گذاری برای دستیابی به ASI در آینده نزدیک، کاملاً غیرمسئولانه است.»

او همچنین بر این باور است که کارکنان شرکت‌های فناوری که درباره خطرات هوش مصنوعی هشدار می‌دهند، کاملاً صادق و دلسوز هستند و افزود: «هیچ مدرک معتبری ندیده‌ام که نشان دهد افراد با بزرگ‌نمایی خطرات هوش مصنوعی به دنبال بالا بردن ارزش سهام شرکت‌ها یا کنار زدن رقبای خود از طریق قوانین محدودکننده باشند.»

«موقعیتی متناقض و نامتعارف»

به نظر می‌رسد نگرانی‌های اوکالاهان پیرامون پیامدهای منفی هوش مصنوعی سابقه طولانی‌تری داشته است.

او پیش از این در نوامبر ۲۰۲۵ در یادداشتی نوشته بود: «سه واقعیت درباره من وجود دارد: من برای Google DeepMind کار می‌کنم؛ معتقدم هوش مصنوعی به احتمال قوی برای بشریت فاجعه‌بار خواهد بود؛ و باورهای عمیق دینی دارم. این ترکیب احتمالاً مرا به چهره‌ای متمایز تبدیل می‌کند که مسلماً در موقعیتی نامتعارف و معذب‌کننده قرار دارد.»

اوکالاهان در یادداشت استعفای خود خاطرنشان کرد که قصد دارد فعالیت در حوزه هوش مصنوعی را از مسیرهای ایمن‌تری، از جمله مطالعه نحوه استفاده از ایجنت‌ها برای دیباگ و خطایابی کدها، ادامه دهد.

او همچنین تأکید کرد که زمان خروج او ارتباط تعمدی با موج استعفاها و هشدارهای ویروسی اخیر در رابطه با توقف یا کاهش سرعت هوش مصنوعی نداشته و صرفاً یک همزمانی تصادفی است.

اوکالاهان در پایان یادداشت خود آورد: «مدت‌ها بود که این تاریخ را در ذهن داشتم؛ زیرا از مدت‌ها قبل برای یک سفر تفریحی ده‌روزه کوه‌پیمایی با دوستانم برنامه‌ریزی کرده بودم و تمایل داشتم پیش از آغاز این سفر، پرونده کاری‌ام در شرکت را ببندم.»