افشاگری جنجالی محقق سابق آنتروپیک: «داشتم روی خودکارسازی و حذف شغلم کار می‌کردم!»

پژوهشگر جنجالی آنتروپیک پس از استعفا: «داشتم روی خودکارسازی و حذف شغلم کار می‌کردم!»

خودکارسازی کامل تحقیقات هوش مصنوعی درست بیخ گوشمان قرار دارد؛ این تازه‌ترین هشدار پژوهشگر سابق شرکت‌های آنتروپیک (Anthropic) و اوپن‌ای‌آی (OpenAI) است که می‌گوید این اتفاق می‌تواند کاری کند که انسان‌ها دیگر هیچ کنترلی روی آینده و اتفاقات بعدی نداشته باشند.

جیکوب کاکسون (Jacob Coxon)، محقق ۲۷ ساله‌ای که ماه گذشته پس از فعالیت به عنوان پژوهشگر قابلیت‌ها در شرکت آنتروپیک رسماً استعفا داد و حسابی خبرساز شد، روز دوشنبه در جمع قانون‌گذاران شورای شهر نیویورک حاضر شد و با به صدا درآوردن زنگ خطر گفت که هوش مصنوعی بقای بشریت را تهدید می‌کند.

کاکسون در شهادت رسمی خود فاش کرد که اتوماسیون و خودکارسازی پژوهش‌های هوش مصنوعی، حالا به «هدف اصلی» برترین آزمایشگاه‌های هوش مصنوعی پیشرو تبدیل شده است.

او در جلسه استماع شورای شهر نیویورک که با محوریت خطرات هوش مصنوعی برگزار شده بود گفت: «در شغل قبلی‌ام، از جهاتی انگار داشتم کار می‌کردم تا خودم را اتوماتیک و در واقع حذف کنم.»

کاکسون در ادامه توضیح داد: «زمانی که در شرکت اوپن‌ای‌آی (OpenAI) کار می‌کردم، برای ساخت یک پژوهشگر خودکار هوش مصنوعی اهدافی را حدود سال‌های ۲۰۲۷ یا ۲۰۲۸ تعیین کرده بودیم؛ اما تیم‌ها دقیقاً در مسیر پیشرفت هستند یا حتی دارند رکوردها را سریع‌تر از انتظار می‌شکنند. این اتفاق ماه‌ها با ما فاصله دارد، نه چندین دهه یا حتی ۵ سال.»

او تأکید کرد به محض اینکه هوش مصنوعی بتواند خودش تحقیقاتش را پیش ببرد، «انسان‌ها بسیار بیش‌تر از وضعیت کنونی از چرخه تصمیم‌گیری خارج می‌شوند؛ در حالی که همین امروز هم اوضاع چندان تعریفی ندارد.»

کاکسون بر اساس چیزی که خودش تجربه دست‌اول نامید گفت که اکثریت کدهای امروزی را خود هوش مصنوعی می‌نویسد: «و نکته اینجاست که آدم‌ها دیگر با دقت کافی این کدها را بازبینی نمی‌کنند.»

تا لحظه انتشار این گزارش، شرکت‌های اوپن‌ای‌آی و آنتروپیک به درخواست‌ها برای اظهار نظر درباره سخنان کاکسون پاسخی نداده‌اند.

کاکسون یکی از چند افشاگر صنعت هوش مصنوعی بود که در این جلسه استماع چندساعته شهادت داد؛ جلسه‌ای که در آن نمایندگانی از شرکت‌های اوپن‌ای‌آی، آنتروپیک، گوگل (Google) و متا (Meta) نیز حضور داشتند و به سؤالات پاسخ دادند.

جولی منین (Julie Menin)، رئیس شورای شهر نیویورک در ابتدای این جلسه اعلام کرد: «هدف این نشست به هیچ وجه خفه کردن نوآوری نیست؛ بلکه هدف واقعی ما این است که مطمئن شویم نوآوری به شیوه‌ای مسئولانه رخ می‌دهد.»

کاکسون در شهادتش به اعضای شورا گفت تجربیاتی که در محیط داخلی آنتروپیک و اوپن‌ای‌آی داشته، او را قانع کرده که این شرکت‌ها بدون تدابیر حفاظتی و ایمنی کافی به جلو می‌تازند.

او صراحتاً گفت: «احتمال اینکه بشر کنترل اوضاع را در برابر این سیستم‌های هوش مصنوعی از دست بدهد بسیار بالا است و این ماجرا می‌تواند به انقراض انسان ختم شود. با توجه به ابعاد خطر و بهایی که ممکن است بپردازیم، از نظر من این شرکت‌ها به‌شدت بی‌ملاحظه رفتار می‌کنند.»

زمانی که کاکسون استعفای خود از آنتروپیک را در پستی وایرال در شبکه اجتماعی ایکس (X) اعلام کرد، گفته بود نه آنتروپیک و نه اوپن‌ای‌آی مسئولانه رفتار نمی‌کنند و مدعی شده بود که هر دو شرکت «سر جان انسان‌ها قمار می‌کنند.»

در طول جلسه دوشنبه، کاکسون خواستار شفافیت بیش‌تر آزمایشگاه‌های هوش مصنوعی و کاهش سرعت توسعه این فناوری پرشتاب شد.

او در بخشی از سخنانش اظهار داشت: «این شرکت‌ها با ذهنیت استارتاپی جلو می‌روند: سریع پیش برو، چیز‌ها را بشکن و بعداً خرابکاری‌ها را درست کن! این رویکرد شاید برای یک اپلیکیشن اشتراک‌گذاری عکس جواب بدهد، اما هرگز به درد ساخت قدرتمندترین فناوری تاریخ بشر نمی‌خورد.»

تنها چند روز پس از استعفای کاکسون، داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، مقاله‌ای طولانی و نزدیک به ۴۰۰۰ کلمه‌ای منتشر کرد و در آن از کل صنعت هوش مصنوعی خواست که سرعت توسعه را کم‌تر کنند.

آمودی نوشته بود: «ما باید سرعت ارتقای توانایی‌های مدل‌های هوش مصنوعی را کاهش دهیم. حتی با این کار هم پیشرفت سریع به نظر خواهد رسید، و ما باید از این زمان به‌دست‌آمده عاقلانه استفاده کنیم.»

در پاسخ به این اظهارات، سم آلتمن (Sam Altman)، مدیرعامل شرکت اوپن‌ای‌آی، در پستی در شبکه اجتماعی ایکس نوشت: «من با داریو موافقم که باید سرعت پیشرفت مدل‌های پیشرو را تنظیم کنیم. این موضوع یکی از محورهای اصلی بحث‌هایی بوده که طی هفته‌های اخیر در اوپن‌ای‌آی داشته‌ایم.»