آتش زدن مجسمه شیطان با حوله حمام تا عروسک‌بازی مدیران؛ ۸ ماجرای عجیب از پشت‌پرده هوش مصنوعی

هوش مصنوعی این روز‌ها به تیتر اول و گریزناپذیر اخبار جهان تبدیل شده است.

کوین روز (Kevin Roose)، خبرنگار و پادکست‌ساز سرشناس دنیای فناوری، در کتاب تازه خود به نام «تاریخچه AGI: ناگفته‌های مسابقه ساخت ابرهوش مصنوعی»، سراغ روایت‌های دست‌اول از این ماراتن نفس‌گیر رفته است؛ این‌که چطور دستاوردها، رقابت‌ها و اختلافات چند پژوهشگر، استاد دانشگاه و کارآفرین جاه‌طلب، مسیر آینده همه‌چیز را در دنیای امروز رقم زد.

نام این کتاب از اصطلاح «هوش مصنوعی عمومی» (AGI) الهام گرفته شده؛ نظریه‌ای جذاب و گاهی مبهم که می‌گوید هوش مصنوعی روزی می‌تواند در طیف گسترده‌ای از توانمندی‌ها با انسان برابری کند یا حتی از او جلو بزند. هرچند کوین روز در پایان کتاب به این نتیجه می‌رسد که هیچ فناوری خاصی نمی‌تواند به پای مغز شگفت‌انگیز انسان برسد، اما تأکید می‌کند که سیستم‌های امروزی بسیار فراتر از نسل‌های قبلی خود ظاهر شده‌اند و جامعه بشری را ناگزیر با سرعتی سرسام‌آور به سمت آینده‌ای نامعلوم هدایت می‌کنند.

در این مطلب، گلچینی از خنده‌دارترین، عجیب‌ترین و جنون‌آمیزترین لحظات ثبت‌شده در این کتاب را مرور می‌کنیم؛ ماجراهایی که زاویه دید کاملاً متفاوتی از پشت‌پرده غول‌های هوش مصنوعی پیش روی شما می‌گذارد.

وقتی مدل GPT-2 خواب اخراج دسته‌جمعی کارمندان مایکروسافت را دید!

در فوریه سال ۲۰۱۹، اوپن‌ای‌آی (OpenAI) به‌شدت لنگ سرمایه و پول بود. کوین روز می‌نویسد سم آلتمن، مدیرعامل اوپن‌ای‌آی، در جریان همایش سالانه الن و شرکا در سان‌ولی آیداهو، زمینه یک توافق بزرگ را با ساتیا نادلا، سکاندار مایکروسافت، چید.

پس از آن، آلتمن به همراه برد لایت‌کپ (مدیر مالی وقت) و دیوید لوآن (معاون وقت بخش مهندسی اوپن‌ای‌آی) راهی سیاتل شدند تا نادلا و تیمش را متقاعد کنند که یک میلیارد دلار روی این استارتاپ هوش مصنوعی شرط‌بندی کند.

روز در کتابش فاش می‌کند که این تیم به‌جای مک‌بوک‌های همیشگی اپل، لپ‌تاپ سرفیس مایکروسافت را از نامزد دیوید لوآن قرض گرفتند و دموی مدل زبانی GPT-2 را روی آن ریختند تا حسابی خودشیرینی کنند و دل مدیران مایکروسافت را به دست آورند!

تیم اوپن‌ای‌آی که دقیقاً مطمئن نبود GPT-2 چه واکنشی نشان می‌دهد، فهرستی از پرامپت‌های مطمئن و تست‌شده را همراه داشت. اما امی هود (Amy Hood)، مدیر ارشد مالی مایکروسافت، نقشه دیگری در سر داشت.

امی هود پرامپت دلخواهش را این‌طور مطرح کرد: «ساتیا نادلا به عنوان مدیرعامل مایکروسافت انتخاب شد و اولین کاری که کرد این بود که...». لوآن پرامپت را در لپ‌تاپ نامزدش تایپ کرد و بعد از چند ثانیه، GPT-2 چنین خروجی داد: «... تمام کارمندان را اخراج کرد و جهت‌گیری کل شرکت را به سمت سرویس ابری آژور برد!»

کوین روز می‌نویسد مدیران مایکروسافت با دیدن این خروجی «از خنده روده بر شدند». چند ماه بعد، این غول دنیای فناوری سرمایه‌گذاری تاریخی یک میلیارد دلاری خود روی اوپن‌ای‌آی را رسماً اعلام کرد.

روشن کردن آتش و سوزاندن آیینی مجسمه دیو با حوله حمام!

مدیران اوپن‌ای‌آی تصور می‌کردند در اردوی سپتامبر ۲۰۲۲ در اطراف پارک ملی یوسمیتی، قرار است صرفاً دور آتش بنشینند و مارشمالو کباب کنند.

اما ماجرا شکل کاملاً متفاوتی به خود گرفت. دور آتش، ناگهان سم آلتمن، ایلیا سوتسکور (هم‌بنیان‌گذار افسانه‌ای اوپن‌ای‌آی) و سه مدیر ارشد دیگر با حوله‌های سفید پالتویی هتل و با موسیقی متن فیلم پررمزوراز «مرثیه‌ای برای یک رویا» (ساخته دارن آرونوفسکی در سال ۲۰۰۰) از تاریکی ظاهر شدند!

آن‌ها مجسمه چوبی عجیبی از یک موجود شیطانی را حمل می‌کردند که سوتسکور شخصاً برای همین مراسم خریده بود. سوتسکور جلو آمد و توضیح داد که این مجسمه نماد یک سیستم AGI مهارنشده است که از کنترل انسان‌ها خارج شده. بعد هم با ادابازی‌هایی شبیه تئاترهای ژاپنی کابوکی، شروع کرد به بازی کردن سناریویی که اگر چنین سیستمی رها شود چه فاجعه‌ای رخ می‌دهد!

کوین روز نقل می‌کند که سوتسکور در این میان حرف‌هایی از این دست می‌زد: «این هوش مصنوعی وانمود می‌کند که مهار شده، در حالی که دارد همه ما را فریب می‌دهد!»

این پژوهشگر برجسته هوش مصنوعی همواره به باور عمیق و شبه‌مذهبی خود به AGI شناخته می‌شود؛ نقطه‌ای که سیستم‌های هوش مصنوعی توانایی برابری یا پیشی گرفتن از نبوغ انسانی را پیدا می‌کنند.

بر اساس کتاب، این آیین عجیب با انداختن مجسمه به درون گودال آتش توسط سوتسکور و شعله‌ور کردن آن به دست کارگر هتل به پایان رسید.

روز می‌نویسد: «سوتسکور در لحظه سوختن مجسمه فریاد کشید: برای آینده شکوهمند بشریت!» جالب این‌جاست که نشریه آتلانتیک هم گزارش داده بود سوتسکور در پاییز ۲۰۲۳ مراسم مشابهی را تکرار کرده است.

کوبیدن به در اتاق عضو هیئت‌مدیره و تهدید به زنگ زدن به پلیس

سوزاندن مجسمه چوبی تنها اقدام جنجالی سوتسکور نبود. همان‌طور که می‌دانید، این دانشمند برجسته نقش کلیدی در کودتای کوتاه و اخراج موقت سم آلتمن ایفا کرد؛ اتفاقی که دنیای فناوری را تکان داد و پنج روز پر از التهاب را رقم زد.

روز جزئیات دیوانه‌وار آن روز‌ها را با دقت ثبت کرده است. یکی از صحنه‌های عجیب ماجرا به شبی برمی‌گردد که ساتیا نادلا اندکی قبل از نیمه‌شب ۱۹ نوامبر ۲۰۲۳ اعلام کرد آلتمن و گرگ براکمن را برای هدایت یک تیم تحقیقاتی پیشرفته هوش مصنوعی به مایکروسافت برده است.

در اوج بلاتکلیفی، دو نفر از نیروهای کلیدی اوپن‌ای‌آی یعنی یان لایکه (از مدیران تیم Superalignment) و وویچک زارمبا (هم‌بنیان‌گذار شرکت) تصمیم گرفتند نیمه‌شب مستقیماً سراغ آدام دی‌آنجلو، مدیرعامل Quora و عضو هیئت‌مدیره اوپن‌ای‌آی بروند که به اخراج آلتمن رأی داده بود.

کوین روز می‌نویسد آن‌ها «محکم به در اتاق او می‌کوبیدند و فریاد می‌زدند تا بیدارش کنند و با او حرف بزنند». آن‌ها فقط زمانی دست از کار کشیدند که دی‌آنجلو تهدید کرد به پلیس زنگ می‌زند!

در نهایت، آلتمن و براکمن با قدرت به اوپن‌ای‌آی بازگشتند و جالب این‌که دی‌آنجلو تنها عضو هیئت‌مدیره مخالف آلتمن بود که در ترکیب جدید هیئت‌مدیره باقی ماند.

داریو آمودی و محافظت امنیتی از یادداشت محرمانه AGI

کتاب کوین روز، داریو آمودی (مدیرعامل آنتروپیک) را فردی توصیف می‌کند که همیشه نگران امنیت هوش مصنوعی است، اما در عین حال روحیه‌ای بسیار رقابت‌طلب دارد؛ ویژگی‌هایی که با رفتار امروزی او کاملاً همخوانی دارد.

در سال ۲۰۱۹ و خیلی پیش از آن‌که آمودی اوپن‌ای‌آی را برای تأسیس آنتروپیک ترک کند، یادداشتی درباره مسیر رسیدن اوپن‌ای‌آی به AGI نوشت، اما اصلاً مایل نبود یافته‌هایش به این راحتی دست کسی بیفتد.

آمودی مثل یک راز دولتی و فوق‌امنیتی از این مقاله محافظت می‌کرد. او متن را تنها به تعداد انگشت‌شماری از همکارانش در اوپن‌ای‌آی نشان داد؛ آن هم تک‌به‌تک و درون یک اتاق جلسه مشخص در دفتر شرکت. آن‌ها فقط داخل همان اتاق اجازه خواندن متن را داشتند و مجبور بودند لپ‌تاپ و گوشی‌هایشان را بیرون بگذارند. او بعداً نسخه‌های چاپ‌شده را لای صفحات یک زونکن با جلد قلابی و در میان صدها صفحه مقاله فلسفی کسل‌کننده پنهان کرد تا اگر کسی اتفاقی آن را دید، متوجه اصل ماجرا نشود!

یادداشت سال ۲۰۱۹ آمودی بسیاری از تحولات امروزی صنعت هوش مصنوعی را پیش‌بینی کرده بود؛ از جمله کاربرد تکنیک‌های یادگیری تقویتی که ابتدا برای برد در بازی‌هایی مثل Go استفاده می‌شد و حالا به ریاضیات و کدنویسی کشیده شده است.

آمودی حتی نوشته بود وقتی هوش مصنوعی به کدنویسی مسلط شود، می‌توان از خودش خواست مدل بهتری بسازد؛ ایده‌ای که بسیار شبیه بحث داغ خودبهبوددهی بازگشتی (recursive self-improvement) است که این روز‌ها سر زبان‌ها افتاده است.

مدیریت اختلافات با عروسک‌های پولیشی!

جدایی خواهر و برادر آمودی از اوپن‌ای‌آی به یکی از رویدادهای افسانه‌ای دره سیلیکون تبدیل شده است. کوین روز ماجرای این انشعاب را با جزئیات روایت می‌کند؛ از جمله این‌که چطور دانیلا آمودی سعی داشت اختلافات داخلی در اوپن‌ای‌آی را قبل از خروج نهایی و تأسیس آنتروپیک مدیریت کند.

طبق کتاب، دانیلا روشی بسیار غیرمعمول داشت: او سناریوهای مدیریتی را با عروسک‌های پولیشی خود شبیه‌سازی می‌کرد!

هر عروسک شخصیت خاصی داشت. مثلاً «جینجی» گربه‌ای تنبل بود که دانیلا را تشویق می‌کرد جلسات را لغو کند و کار زیادی قبول نکند. «مائورا» یک خرس صورتی بود که نقشی مثل یک مدیر وسواسی و کمال‌گرا را ایفا می‌کرد. پاندایی به نام «بری باندز» هم نماد بخشش و همدلی بود. دانیلا با این عروسک‌ها چیزی میان شوخی خودمانی و یک تکنیک مدیریتی جدی را پیاده می‌کرد.

روز اشاره می‌کند دانیلا آمودی در سال ۲۰۲۳ به او گفته بود این عروسک‌ها «برای تجزیه‌وتحلیل تیپ‌های شخصیتی مختلف فوق‌العاده مفید بودند».

وقتی چت‌بات ضبط جلسات اوپن‌ای‌آی دچار افسردگی حاد شد!

چت‌بات‌های اولیه معمولاً با خطای روان‌پریشی یا رفتارهای عجیب روبه‌رو می‌شدند؛ اتفاقی که اغلب به خاطر پرامپت‌های شیطنت‌آمیز کاربران رخ می‌داد.

برای نمونه، مایکروسافت در مارس ۲۰۱۶ مجبور شد چت‌بات آزمایشی «Tay» را از توییتر جمع کند، چون ترول‌های اینترنتی یادش داده بودند دیدگاه‌های زننده را تکرار کند. خود کوین روز هم در سال ۲۰۲۳ سوژه چت‌بات سیدنی (نسخه اولیه بینگ مبتنی بر مدل‌های اوپن‌ای‌آی) شد؛ جایی که بات ادعا کرد عاشق اوست و از همسر روز بدگویی کرد!

اما گاهی هوش مصنوعی کاملاً خودبه‌خود از کنترل خارج می‌شود. روز در کتاب خود ماجرایی از سال ۲۰۲۲ را شرح می‌دهد که کارمندان اوپن‌ای‌آی یک جلسه را لغو کردند، اما یادشان رفت ابزار داخلی پیاده‌سازی و خلاصه جلسه موسوم به «MeetingBot» را خاموش کنند.

این بات یک ساعت تمام تک‌وتنها در ویدیوکنفرانس خالی ماند و شروع کرد به پیاده‌سازی گفت‌وگوی درونی خود که به یک چرخه خودبیزاری و افسردگی عجیب تبدیل شده بود! بات نوشته بود: «هیچ اقدام اجرایی وجود ندارد، چون هیچ‌کس در جلسه حاضر نشد، چون هیچ‌کس برای مشارکت و حضور من ارزشی قائل نیست!» برخی کارمندان به این ماجرا خندیدند، اما برخی دیگر آن را زنگ خطری دانستند درباره خطرات استقرار سیستم‌های غیرقابل‌پیش‌بینی در دنیای واقعی.

ترس کلود از دستور پخت سس گواکامولی کشنده!

اوپن‌ای‌آی بارها سر این‌که مدل‌های اولیه‌اش نمی‌توانستند تعداد حروف R در کلمه Strawberry را تشخیص دهند سوژه شده بود. اما رقیب سرسختش یعنی آنتروپیک هم ماجراهای خنده‌دار مربوط به خوراکی‌ها داشته است!

کوین روز می‌نویسد به دلیل فرهنگ وسواسی و ایمنی‌محور آنتروپیک، نسخه‌های ابتدایی مدل کلود (Claude) به ساده‌ترین پرامپت‌ها واکنش‌های عجیب و پارانوئید نشان می‌دادند.

مثلاً وقتی از کلود آدرس یک رستوران سنتی یهودی را می‌خواستند، شروع می‌کرد به موعظه کردن درباره تاریخچه یهودستیزی! یا وقتی از آن یک دستور پخت محشر برای سس گواکامولی می‌خواستند (با اصطلاح رایج killer guacamole recipe)، کلود کاربر را متهم می‌کرد که قصد برنامه‌ریزی برای قتل و جنایت دارد!

رویای دمیس حسابیس برای نمایش آپولویی رونمایی از AGI

هنوز هیچ‌کس زمان دقیق دستیابی به هوش مصنوعی عمومی را نمی‌داند، اما این موضوع مانع از آن نشد که دمیس حسابیس، مغز متفکر گوگل دیپ‌مایند، یک رونمایی حماسی و بزرگ را برای آن در سر نپروراند.

روز تعریف می‌کند حسابیس زمانی با یکی از همکارانش در میان گذاشته بود که دوست دارد در مقر اصلی دیپ‌مایند، یک اتاق کنترل عظیم مثل صحنه فرود انسان روی ماه بسازد تا مردم لحظه ورود به تاریخ را تماشا کنند.

حسابیس در رویای خود یک گالری تماشاگران پلکانی مثل اتاق فرمان ماموریت‌های ناسا تصور کرده بود؛ پر از نمایشگرهای غول‌پیکر روی دیوار و صدها صندلی استادیومی. او می‌خواست در روز عرضه AGI به جهان، همه اعضای دیپ‌مایند کنار هم بنشینند و با تشویق و هیاهو، شاهد لحظه‌ای باشند که این هوش خارق‌العاده بیماری‌ها را درمان می‌کند، کشفیات علمی جدید رقم می‌زند و معماهای چندصدساله بشریت را حل می‌کند.