هشدار پژوهشگران ارشد درباره «انفجار هوش»: شاید به‌زودی هر ماه شاهد جهش‌های تاریخی و اسطوره‌ای باشیم!

برخی از سرشناس‌ترین پژوهشگران هوش مصنوعی در جهان نسبت به پدیده‌ای نگران‌کننده به نام «انفجار هوش» هشدار می‌دهند.

ایده اصلی این است که اگر سازندگان مدل‌های پیشرو هوش مصنوعی بتوانند فرآیند ساخت مدل‌های نسل بعد را خودکار کنند، یک چرخه بازخوردی ایجاد می‌شود؛ چرخه‌ای که سرعت پیشرفت و دگرگونی هوش مصنوعی را به شکلی سرسام‌آور و طوفانی بالا خواهد برد.

آلن چان (Alan Chan)، پژوهشگر اندیشکده هوش مصنوعی GovAI، در گفت‌وگو با خبرنگاران این موضوع را این‌گونه به تصویر می‌کشد: «تصور کنید به جای این‌که سالی یک‌بار شاهد یک تحول شگرف باشیم، هر ماه در حوزه‌های جدید نقاط عطفی در ابعاد اسطوره‌ای و تاریخی ثبت شود!»

او در ادامه اضافه می‌کند: «این دقیقاً همان سناریوی احتمالی است که ما به آن "انفجار هوش" می‌گوییم.»

چان این مقاله پژوهشی را همراه با چهره‌های نامداری چون جک کلارک (هم‌بنیان‌گذار Anthropic)، یاکوب پاچوکی (دانشمند ارشد OpenAI)، اریک هورویتز (مدیر ارشد علمی مایکروسافت) و جفری هینتون (برنده نوبل) نوشته است. آن‌ها در این مقاله با قاطعیت از سیاست‌گذاران و مسئولان خواسته‌اند تا از نحوه خودکارسازی فرآیند توسعه در آزمایشگاه‌های برتر هوش مصنوعی—به‌ویژه پیشرفته‌ترین تحقیقات در شرکت‌هایی مانند آنتروپیک و اوپن‌ای‌آی—سر در بیاورند و نظارت دقیقی داشته باشند.

این فرآیند معمولاً با عنوان «خودبهبودبخشی بازگشتی» (RSI یا Recursive Self-Improvement) شناخته می‌شود، اما چان می‌گوید ترجیح می‌دهد عبارت «انفجار هوش» را به کار ببرد؛ چرا که این مفهوم اجازه می‌دهد دو موضوع جداگانه را بررسی کنیم: یکی تلاش‌ها برای خودکارسازی پژوهش‌های هوش مصنوعی، و دیگری این پرسش کلیدی که آیا این خودکارسازی واقعاً به جهشی سرسام‌آور در توانمندی‌های هوش مصنوعی منجر خواهد شد یا خیر.

نویسندگان این مقاله از قانون‌گذاران می‌خواهند با اقداماتی مانند الزام شرکت‌ها به استفاده از بازرسان و ممیزان مستقل مستقر در سازمان، درک عمیق‌تر و شفاف‌تری از تلاش‌های این غول‌های فناوری برای خودکارسازی توسعه هوش مصنوعی پیدا کنند.

چان معتقد است هرچند قانون‌گذاران همیشه فرصت اقدام دارند، اما با گذشت زمان و سرعت گرفتن تحولات، میزان اثرگذاری و کنترل تصمیمات آن‌ها به‌شدت کاهش پیدا می‌کند.

چان در این گفت‌وگو یادآور شد: «دقیقاً در حال حاضر در یک فرصت فوق‌العاده طلایی و مناسب برای اقدام قرار داریم.»

او همچنین به درخواست سایر کارشناسان برای به‌کارگیری بازرسان مستقل اشاره کرد؛ ایده‌ای که داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک هم پیشتر از آن حمایت کرده بود تا با ایجاد شفافیت بیشتر، سرعت حرکت لبه فناوری کنترل و مدیریت شود.

او تأکید کرد: «فکر می‌کنم این یک فرصت واقعاً طلایی است تا از این پنجره زمانی محدود استفاده کنیم و سازوکارهای لازم را به اجرا بگذاریم.»

در توافقی که روز سه‌شنبه با حضور رهبران شرکت‌های آنتروپیک، گوگل، اوپن‌ای‌آی، اسپیس‌ایکس، اکس‌ای‌آی و انویدیا در کاخ سفید امضا شد، این شرکت‌ها توافق کردند که «با یک بازرس یا ارزیاب خارجی و مستقل همکاری کنند»؛ با این حال، جزئیات این توافق‌نامه اصلاً با سطح دقیق و مشخصی که نویسندگان مقاله خواستار آن شده بودند، هم‌خوانی ندارد.

دونالد ترامپ نیز در جمع خبرنگاران اعلام کرد که این توافق‌نامه از نظر «اخلاقی» الزام‌آور است.

هنوز مشخص نیست خودکارسازی کامل تحقیقات هوش مصنوعی چه زمانی رخ می‌دهد

آمودی از همین فرآیند خودبهبودبخشی بازگشتی به عنوان دلیلی اصلی برای درخواستش از صنعت یاد کرده تا ترمز سرعت پیشرفت را تا حدی بکشند و اطمینان حاصل شود که مدل‌های هوش مصنوعی دقیقاً مطابق با انتظارات عمل می‌کنند.

چان و همکارانش در مقاله‌شان تصریح کرده‌اند که انتظار دارند «طی چند سال آینده، شاهد خودکارسازی بسیار چشم‌گیرتر فرآیند تحقیق و توسعه هوش مصنوعی باشیم و حتی باید احتمال خودکارسازی کامل در این بازه زمانی را هم کاملاً جدی گرفت.» تاکنون غول‌هایی چون آنتروپیک، اوپن‌ای‌آی و گوگل بارها درباره این‌که چگونه هوش مصنوعی به شکل فزاینده‌ای به محققان در ساخت مدل‌های جدید و به کارمندان در پیشبرد وظایف کمک می‌کند، صحبت کرده‌اند.

جالب اینجاست که در ماه ژوئن، شرکت آنتروپیک اعلام کرد که تا ماه مه، سیستم‌های هوش مصنوعی بیش از ۸۰ درصد کدهای تأییدشده این شرکت را تولید کرده‌اند؛ در حالی که در ژانویه ۲۰۲۵، سهم مدل Claude از این کدها «رقمی تک‌رقمی و بسیار ناچیز» بود!

آلن چان معتقد است خودکارسازی تحقیقات هوش مصنوعی ذاتاً خوب یا بد نیست. او می‌گوید این انفجار هوش از یک سو می‌تواند به کشفیات فوق‌العاده سریع‌تر در حوزه‌هایی مثل پزشکی منجر شود؛ اما از سوی دیگر، حوادث ناشی از «از دست رفتن کنترل»—مشابه اتفاقی که در رخنه امنیتی مدل اوپن‌ای‌آی به هاگینگ‌فیس (Hugging Face) رخ داد—ممکن است بسیار پرتکرارتر و رایج‌تر شوند.

او در جمع‌بندی صحبت‌هایش می‌گوید: «قطعاً سیستم‌های بسیار بهتری را با سرعتی به‌مراتب بالا‌تر به دست خواهیم آورد که می‌تواند اتفاقی فوق‌العاده مثبت باشد. ما به فناوری‌های بسیار جدید‌تر مانند جهش‌های پزشکی، خیلی خیلی سریع‌تر دسترسی پیدا می‌کنیم و این عالی است. اما هم‌زمان با دستیابی به این فناوری‌های نو، با خطرات و ریسک‌هایی روبه‌رو می‌شویم که باید با سرعتی بسیار بسیار بیش‌تر آن‌ها را مدیریت و چاره‌اندیشی کنیم.»