جرد کاپلان کیست؟ دانشمند ارشد Anthropic که خطرات آموزش خودکار هوش مصنوعی را پیش‌بینی کرد

در کانون بحث‌ها درباره فجایع احتمالی ناشی از هوش مصنوعی، نام Anthropic به چشم می‌خورد و در قلب این شرکت، جرد کاپلان (Jared Kaplan) قرار دارد.

این هم‌بنیان‌گذار Anthropic اواخر سال گذشته زنگ خطر را درباره هوش مصنوعی به صدا درآورد: هیچ‌کس نمی‌داند اگر توسعه‌دهندگان پیشگام، هوش مصنوعی را به نقطه‌ای برسانند که کاملاً خودش را آموزش دهد، چه اتفاقی رخ خواهد داد. او در گفتگو با گاردین هشدار داد که اجازه دادن به مدل‌ها برای خودآموزی، می‌تواند به یک «انفجار هوش» منجر شود، اما در عین حال «نهایت ریسک» و «شاید بزرگ‌ترین تصمیم یا ترسناک‌ترین کار ممکن» است. به گفته او، نقطه تصمیم‌گیری برای این فرایند ممکن است بین سال‌های ۲۰۲۷ تا ۲۰۳۰ فرا برسد.

به نظر می‌رسد این پیش‌بینی‌ها در حال تحقق هستند. در شرایطی که به روزهای پایانی سال ۲۰۲۶ نزدیک می‌شویم، سیستم‌های پیشرفته هوش مصنوعی در حال حاضر به محققان در ساخت مدل‌های جدید در هر دو شرکت Anthropic و OpenAI کمک می‌کنند.

کاپلان، فیزیکدانی که به محقق هوش مصنوعی تبدیل شد، در سال ۲۰۲۱ شرکت OpenAI را ترک کرد تا به همراه داریو آمودی (Dario Amodei) و چند نفر دیگر Anthropic را تأسیس کند. او به نگرانی‌ها درباره خروج خطرناک هوش مصنوعی از کنترل، اعتبار علمی می‌بخشد؛ چراکه نقش او به عنوان مدیر ارشد علمی در Anthropic، یکی از تأثیرگذارترین مشاغل در دنیای فناوری است. او بر تحقیقات فنی، ایمنی هوش مصنوعی و «سیاست مقیاس‌پذیری مسئولانه» این شرکت نظارت دارد و وظیفه اصلی‌اش کاهش خطرات مدل‌های قدرتمند است.

اکنون افراد بیشتری به هشدارهای کاپلان گوش می‌دهند. جیکوب کاکسون (Jacob Coxon)، محققی که اخیراً از Anthropic استعفا داد، در پست وایرال‌شده خود در شبکه اجتماعی ایکس مستقیماً به موضوع آموزش خودکار هوش مصنوعی اشاره کرد و نوشت که OpenAI و Anthropic در حال «قمار با زندگی ما» هستند. همچنین، نظرسنجی اخیر پولیتیکو نشان می‌دهد که حدود دو سوم مردم آمریکا معتقدند هوش مصنوعی ممکن است بشریت را نابود کند.

این بحث‌ها به واشنگتن نیز کشیده شده است؛ جایی که قانون‌گذاران در حال پیشنهاد لوایح جدید و توجه بیشتر به نگرانی‌های دیرینه ایمنی هوش مصنوعی هستند. جفری لادیش (Jeffrey Ladish)، مهندس سابق Anthropic و بنیان‌گذار مؤسسه ایمنی Palisade Research، بر اساس گزارش‌های منتشرشده، در جلسات با قانون‌گذاران به اظهارات کاپلان استناد کرده است؛ به‌ویژه این ایده که آموزش خودکار هوش مصنوعی می‌تواند منجر به خروج آن از کنترل شود.

لادیش در این باره می‌گوید: «بسیار خوب است که افراد بیشتری صحبت‌های مهندسان، محققان و متخصصان داخل شرکت را بشنوند؛ کسانی که وظیفه‌شان روابط عمومی شرکت نیست، بلکه حل معماهای پیچیده علمی است.»

کاپلان که اکنون یک میلیاردر است، با وجود اینکه همکارانش او را به عنوان یکی از رهبران کلیدی Anthropic می‌شناسند، حضور عمومی بسیار کمرنگی دارد. این شرکت نیز تاکنون از انجام مصاحبه رسمی با او خودداری کرده است.

آشنایی کاپلان و داریو آمودی به مدت‌ها قبل از عصر هوش مصنوعی برمی‌گردد

هوش مصنوعی در واقع دومین مسیر شغلی کاپلان است. او و آمودی زمانی با یکدیگر آشنا شدند که به ترتیب در هاروارد (در رشته فیزیک) و پرینستون (در رشته بیوفیزیک) مشغول تحصیلات تکمیلی بودند. آن‌ها در مسیر رفتن به یک رویداد با هم هم‌سفر شدند و درباره یک مؤسسه ارزیابی خیریه تازه تأسیس هم‌صحبت شدند. این آشنایی به دوستی عمیقی منجر شد و حتی در مقطعی در سان‌فرانسیسکو هم‌اتاقی بودند.

در آن زمان، کاپلان استعداد خود را نشان داده بود. او یکی از نویسندگان مقاله تأثیرگذار فیزیک با عنوان «نظریه میدان مؤثر تورم» بود. او پیش از بازگشت به شرق آمریکا برای پیوستن به هیئت علمی دانشگاه جانز هاپکینز در سال ۲۰۱۲، در آزمایشگاه وزارت انرژی در منلو پارک و سپس در دانشگاه استنفورد کار می‌کرد.

نیما ارکانی‌حامد، فیزیکدان برجسته ایرانی و استاد راهنمای کاپلان در هاروارد، به یاد می‌آورد که در ابتدا نسبت به مقاله تورم کیهانی تردید داشت، اما این مقاله توانست زودتر از یک مقاله مشابه از یک برنده جایزه نوبل منتشر شود. ارکانی‌حامد در مصاحبه‌ای رسانه‌ای اشاره کرد که نقطه قوت کاپلان به عنوان یک فیزیکدان، توانایی او در پیگیری یک «نکته مفهومی بزرگ» و رسیدن به نتایج نهایی بود؛ ویژگی خاصی که او را برای ورود به دنیای هوش مصنوعی آماده کرد.

ارکانی‌حامد می‌گوید: «این سبک فکری کاملاً مناسب حوزه‌ای جدید است که در آن فرصت‌های کشف‌نشده بسیاری وجود دارد.»

کاپلان در مصاحبه‌ای در سال ۲۰۱۷ با مجله جانز هاپکینز رویکرد خود را خلاصه کرد: «من می‌خواهم در یک سطح پایه‌ای سردرگم باشم؛ آیا ما سؤال درستی می‌پرسیم؟ آیا آن را به روش درستی مطرح می‌کنیم؟»

از فیزیک تا لبه فناوری هوش مصنوعی

در اواخر دهه ۲۰۱۰، تعداد بیشتری از دوستان کاپلان درباره هوش مصنوعی صحبت می‌کردند، از جمله آمودی که کار در OpenAI را آغاز کرده بود. کاپلان به همراه گروهی دیگر از فیزیکدانان شروع به یادگیری بیشتر درباره این فناوری کرد و به تدریج به عنوان مشاور در تحقیقات OpenAI مشارکت داشت.

در سال ۲۰۲۰، نقطه عطف بزرگی رخ داد. کاپلان نویسنده ارشد یکی از مقالات تاریخ‌ساز هوش مصنوعی با عنوان «قوانین مقیاس‌پذیری برای مدل‌های زبانی عصبی» بود که نشان داد مدل‌های بزرگ‌تر با داده‌ها و پردازش بیشتر، نتایج بهتری به همراه دارند؛ رویکردی که پایه و اساس رونق فعلی هوش مصنوعی را بنا نهاد.

کاپلان در یکی از رویدادهای Y Combinator در سال ۲۰۲۵ گفت: «این دستاورد به این دلیل حاصل شد که من احمقانه‌ترین سؤال ممکن را پرسیدم. به عنوان یک فیزیکدان، این همان چیزی است که برایش آموزش دیده‌اید.»

سورن میندرمن (Sören Mindermann)، پژوهشگر هوش مصنوعی، به یاد می‌آورد که زمان انتشار آن مقاله اولین باری بود که نام کاپلان را می‌شنید.

میندرمن که بعدها در مقالات دیگری با کاپلان همکاری کرد، می‌گوید: «من با هیجان آن را به گروه خودمان ارائه کردم. افراد بسیار شکاک بودند، اما من فکر می‌کردم که این یک مسیر عالی است.»

در همان سال، کاپلان و سایر محققان OpenAI مدل زبانی بزرگ GPT-3 را نیز معرفی کردند که به عنوان پایه و اساس ChatGPT عمل کرد.

شرکت OpenAI در حال تبدیل شدن به یک آزمایشگاه تحقیقاتی پیشگام بود، اما کاپلان، آمودی و چند محقق دیگر به زودی آنجا را ترک کردند. تام براون (Tom Brown)، یکی از این افراد، بعدها در پادکستی گفت که این گروه نماینده کسانی بودند که روند «قانون مقیاس‌پذیری» را بسیار جدی گرفتند و معتقد بودند که باید برای زمانی آماده شوند که «بشریت کنترل را به هوش مصنوعی تحول‌آفرین واگذار می‌کند.» به این ترتیب، کاپلان، آمودی، براون و دیگران در سال ۲۰۲۱ استارتاپ Anthropic را تأسیس کردند.

ارکانی‌حامد، استاد راهنمای سابق کاپلان، می‌گوید پنج سال پیش از تأثیر آینده هوش مصنوعی بر فیزیک بسیار هیجان‌زده بود، اما کاپلان به او گفته بود که بیشتر نگران این است که هوش مصنوعی به جامعه آسیب نرساند.

قمار بزرگ توسعه هوش مصنوعی

تاکنون، روند قوانین مقیاس‌پذیری پابرجا مانده است؛ آزمایشگاه‌های پیشگام با استفاده از داده‌ها و قدرت محاسباتی بیشتر، در حال ارتقای قابلیت‌های هوش مصنوعی هستند و Anthropic با تکیه بر این پیشرفت‌ها، خود را برای یک عرضه اولیه عمومی (IPO) عظیم آماده می‌کند.

این دستاورد مالی دقیقاً هم‌زمان با پررنگ شدن هشدارهای کاپلان درباره خطر آموزش خودکار هوش مصنوعی در حال وقوع است. آمودی، چهره عمومی Anthropic، در مقاله اخیر خود تأکید کرده است که آزمایشگاه‌های پیشرو باید توسعه این فناوری را «مدیریت و کنترل» کنند.

آمودی نوشت: «از اواسط تابستان امسال، هوش مصنوعی با سرعت چشمگیری پیشرفت کرده است که دلیل اصلی آن، توانایی فزاینده خود سیستم‌ها در ساخت نسل بعدی هوش مصنوعی است. اگر این روند کنترل نشود، می‌تواند از توانایی ما برای درک و مهار این سیستم‌ها پیشی بگیرد و به همین دلیل باید با احتیاط بسیار زیاد دنبال شود، یا اصلاً متوقف گردد.»

دیوید دوونود (David Duvenaud) که در سال‌های ۲۰۲۳ و ۲۰۲۴ در تیم علمی ایمن‌سازی (Alignment) شرکت Anthropic تحت نظر کاپلان کار می‌کرد، می‌گوید کاپلان برخی از آزمایش‌های شخصی‌اش را به او نشان داده و شخصیتی بسیار منطقی، باانگیزه و خوش‌صحبت داشته است.

اکنون دوونود شاهد آن است که Anthropic در حال درک قدرت عظیمی است که خلق کرده است. او در گفتگو با خبرنگاران اظهار داشت که درخواست رهبران شرکت برای ایجاد یک «کلید توقف اضطراری» (Kill Switch) نشان می‌دهد آن‌ها تا چه حد ریسک خروج فرایند از کنترل را جدی گرفته‌اند و او نیز از اجازه دادن به هوش مصنوعی برای بهبود خودکار خود «هراسان» است.

دوونود در پایان گفت: «این در هر صورت یک قمار دیوانه‌وار است؛ حتی اگر منطقی‌ترین انسان‌های روی زمین هدایت آن را بر عهده داشته باشند.»