آیا به هوش مصنوعی عمومی نزدیک شده‌ایم؟ رمزگشایی استاد MIT از سراب AGI و آینده ایجنت‌ها
رامش راسکار، استاد دانشگاه MIT، با زیر سؤال بردن فرضیات رایج پیرامون هوش مصنوعی عمومی (AGI)، آن را سرابی تبلیغاتی برای جذب سرمایه‌گذاران می‌داند. به باور او، آینده واقعی این فناوری نه در مدل‌های همه‌فن‌حریف متمرکز، بلکه در شبکه‌ای غیرمتمرکز از میلیاردها ایجنت هوشمند شخصی و قابل‌راستی‌آزمایی رقم خواهد خورد.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- به باور رامش راسکار، استاد MIT، مفهومی به نام AGI با توانایی صفر (Zero-Shot) به این زودی‌ها محقق نمی‌شود؛ زیرا بخش عمده داده‌های جهان در دسترس مدل‌ها قرار ندارد.
- مدل‌های بنیادین مانند موتور خودرو هستند و ایجنت‌ها بدنه آن؛ امنیت و کارایی واقعی هوش مصنوعی زمانی تأمین می‌شود که این دو بخش تفکیک شوند و پروتکل‌های اعتبارسنجی مداوم شکل بگیرد.
- آینده متعلق به اجرای محلی ایجنت‌ها روی دستگاه‌های کاربر (Edge) و ساخت بازاری غیرمتمرکز از میلیاردها ایجنت شخصی است، نه توسعه بی‌پایان مراکز داده عظیم ابری.
در محافل فناوری، واژه‌ای وجود دارد که این روزها مدام به گوش می‌خورد: AGI یا همان «هوش مصنوعی عمومی» (Artificial General Intelligence). این عبارت برای افراد ناآشنا با دنیای تکنولوژی شاید مفهومی کلی و معمولی به نظر برسد؛ اما معنای واقعی آن به‌شدت بحث‌برانگیز و برای برخی حتی نگران‌کننده است؛ ایده‌ای که ادعا می‌کند هوش مصنوعی به‌زودی در انجام هر کاری به مهارت کامل خواهد رسید.
شاید این دیدگاه در نگاه نخست وسوسه‌کننده و جذاب باشد، اما در دنیای واقعی، بسیاری از کارشناسان برجسته معتقدند ماجرا بسیار پیچیده‌تر و با ظرافت‌های فنی فراوانی همراه است.
یکی از بهترین نمونه‌ها برای درک این پیچیدگی، مفهوم «مرز دندانه‌دار» (Jagged Frontier) است؛ اصطلاحی که توسط ایتن مولیک، استاد سابق دانشگاه MIT، ابداع شد تا نشان دهد هوش مصنوعی قرار نیست یک‌شبه و به یک‌باره به نقطه کمال برسد.
مولیک در یادداشتی در سال ۲۰۲۳ که این مفهوم را به‌صورت بصری به تصویر می‌کشد، می‌نویسد: «دیوار قلعه‌ای را تصور کنید که برخی از برج‌ها و باروهای آن به سمت دشت پیشروی کرده‌اند و بخش‌های دیگر آن عقب‌نشینی کرده و به مرکز قلعه نزدیک‌ترند. این دیوار، نماد توانمندی هوش مصنوعی است و هرچه وظیفه‌ای از مرکز دورتر باشد، انجام آن دشوارتر خواهد بود. هوش مصنوعی می‌تواند هر کاری را که درون این دیوار قرار دارد انجام دهد، اما کارهای بیرون از دیوار برایش دشوار است. مشکل اینجاست که این دیوار نامرئی است؛ بنابراین دو وظیفه‌ای که از نظر منطقی فاصله‌ای یکسان از مرکز دارند و باید سختی برابری داشته باشند ــ مثلاً سرودن یک غزل در برابر سرودن شعری با دقیقاً ۵۰ کلمه ــ در عمل در دو سوی متفاوت این دیوار قرار می‌گیرند. هوش مصنوعی در سرودن شعر عملکرد درخشانی دارد، اما از آنجا که جهان را به‌جای کلمات با توکن‌ها درک می‌کند، شعرهایی با کلماتی کمتر یا بیشتر از ۵۰ کلمه تحویل می‌دهد. به همین ترتیب، برخی وظایف غیرمنتظره (مانند ایده‌پردازی و خلاقیت) برای هوش مصنوعی آسان هستند، در حالی که کارهایی که در ظاهر برای ماشین‌ها ساده به نظر می‌رسند (مثل ریاضیات پایه)، چالش بزرگی برای مدل‌های زبانی بزرگ محسوب می‌شوند.»
رامش راسکار، استاد و پژوهشگر دانشگاه MIT، نیز رویکردی مشابه دارد و هوش مصنوعی را پدیده‌ای چندوجهی با لایه‌ها و درجات گوناگون توانمندی می‌داند. راسکار در گفت‌وگویی مفصل با نینا گرگوری، روزنامه‌نگار باسابقه، ابعاد مختلف این دیدگاه را تشریح کرده است.
گفت‌وگو در مانتین ویو؛ واکاوی یک توهم
راسکار صحبت‌هایش را با این جمله صریح آغاز کرد: «فکر می‌کنم همه می‌دانند که چیزی به نام AGI وجود ندارد؛ این عبارت صرفاً یک اسلاید تبلیغاتی (Pitch Deck) برای جذب سرمایه‌گذاران است.»
این گزاره، موضع‌گیری تند و بی‌پرده‌ای به نظر می‌رسید؛ اما او در ادامه بحث درباره مرزهای دندانه‌دار توانمندی هوش مصنوعی، دلایل محکمی برای اثبات ادعای خود ارائه داد.
او با اشاره به داده‌های انحصاری شرکت‌های بزرگ داروسازی و اطلاعات حساسی که به دلایل مختلف پشت درهای بسته نگهداری می‌شوند، توضیح داد: «خلق یک هوش مصنوعی عمومی بدون آموزش قبلی (Zero-Shot AGI) عملاً غیرممکن است؛ زیرا بخش عمده‌ای از دانش جهان تا مدت‌های بسیار طولانی در دسترس هیچ مدلی قرار نخواهد گرفت.»
رانندگی خودروها در جاده‌ها؛ تمایز مدل‌ها و ایجنت‌ها
راسکار برای شفاف‌تر شدن این مسئله، تمثیل جالب و عمیقی مطرح کرد:
او می‌گوید: «مدل‌ها، به‌ویژه مدل‌های بنیادین، درست شبیه موتور خودرو هستند. ایجنت‌ها بدنه و خودِ خودرو را تشکیل می‌دهند؛ اما ما همچنان باید جاده‌های امنی برای حرکت آن‌ها بسازیم، چیزی شبیه به شبکه اینترنت ایجنت‌های هوش مصنوعی. بنابراین، شرکتی که موتور را می‌سازد لزوماً همان شرکتی نیست که خودِ خودرو یا ایجنت را طراحی می‌کند. به همین دلیل کاملاً محتمل است که یک شرکت داروسازی، ایجنت‌ها، فریمورک‌ها، بستر مهار و چارچوب کلی آن‌ها را از یک توسعه‌دهنده ثالث تهیه کند. نیازی نیست همه چیز را یک شرکت بسازد و چه بسا این حالت ایده‌آل‌ترین وضعیت باشد؛ چراکه در این صورت، تمرکز اصلی به‌جای امنیت خودِ مدل، روی امنیت ایجنت معطوف خواهد شد و این دو موضوع کاملاً با یکدیگر تفاوت دارند.»
راسکار در ادامه به پروتکل NANDA (کوتاه‌شده عبارت Network AI agents in Decentralized Architecture به معنای شبکه ایجنت‌های هوش مصنوعی در معماری غیرمتمرکز) اشاره کرد؛ نامی که به گفته او هم‌نام خواهرش است و در زبان سانسکریت معنای «شادی» می‌دهد.
ناندا پروتکلی است که امکان همکاری و تعامل ایجنت‌ها با یکدیگر را در بستر اینترنت فراهم می‌کند؛ هرچند این مسیر با چالش‌های فنی مهمی روبه‌رو است.
چهار چالش کلیدی در مسیر وب آینده
راسکار در گفت‌وگو با گرگوری به تشریح چهار دغدغه و مانع اساسی در مسیر توسعه و پیاده‌سازی این سیستم‌ها در وب فردا پرداخت:
نخستین چالش، ایجاد یک پایگاه ثبت رسمی (Registry) برای ایجنت‌ها است. دومی، گواهی اصالت (Attestation) و سومی، راستی‌آزمایی و اعتبارسنجی (Verification) آن‌هاست. در نهایت، چالش چهارم به آزمون‌های ایمنی مربوط می‌شود:
او با مطرح کردن ایده ساخت یک شهر آزمایشی به نام «NANDA Town» برای سنجش ایجنت‌ها و توضیح سازوکار اعتبارسنجی افزود: «وقتی خودروهای جدید وارد بازار می‌شوند، باید از مراحل تست تصادف، پیست‌های آزمایشی و آزمون‌های ایمنی رانندگی سازمان‌های استانداردی مانند NHTSA عبور کنند.»
راسکار ادامه می‌دهد: «اگر کسی ادعا کند ایجنت من مخصوص بیماران دیابتی است یا در زمینه مشاوره مالی فعالیت می‌کند، مرجعی معتبر باید این ادعا را تأیید کند؛ آن هم به‌صورت لحظه‌ای و دقیقه به دقیقه. بنابراین اگر ایجنتی بگوید می‌خواهم به شما مشاوره مالی بدهم، باید هر دقیقه در آزمونی شرکت کند تا صلاحیتش به‌عنوان مشاور مالی اثبات شود. به این ترتیب، چنین ایجنتی به‌طور پیوسته تحت ارزیابی و راستی‌آزمایی قرار خواهد داشت.»
ابتکار هند؛ یک هوش مصنوعی در جیب هر شهروند
راسکار که به‌تازگی از سفر به هند بازگشته بود، از تحولات شگفت‌انگیز این کشور سخن گفت؛ جایی که دولت در حال آماده‌سازی زیرساختی است تا برای تک‌تک ۱٫۵ میلیارد شهروند خود یک ایجنت هوش مصنوعی اختصاصی فراهم کند. او نگرانی‌ها درباره گسترش بی‌رویه و غول‌پیکر شدن مراکز داده را کاملاً بی‌اساس دانست؛ چراکه این مدل‌ها توانایی اجرا روی دستگاه‌های محلی را دارند.
او توضیح داد: «بیشتر این ایجنت‌ها روی دستگاه‌های کاربر (Edge) اجرا خواهند شد. آن‌ها می‌توانند به‌راحتی روی رایانه‌های شخصی، لپ‌تاپ‌ها و حتی گوشی‌های هوشمند شما اجرا شوند. شاید در آینده یک نسخه پشتیبان از آن‌ها را در فضای ابری نگهداری کنید، اما برای این کار نیازی به توسعه سرسام‌آور زیرساخت‌های عظیم هوش مصنوعی نخواهید داشت.»
بازار آزاد ایجنت‌ها؛ ورود به عصر دادوستد هوشمند
او در ادامه گفت: «بخش بزرگی از فعالیت‌های ما در MIT روی این پرسش متمرکز است که ساختن شهری از ایجنت‌ها، و نه صرفاً یک ایجنت منفرد، چه معنا و الزاماتی دارد.» او در واکنش به استفاده گرگوری از واژه «بازار» برای توصیف تعاملات میان این مدل‌ها، چند پرسش کلیدی در طراحی این سیستم‌ها مطرح کرد:
او می‌گوید: «چگونه می‌خواهید زیرساخت‌های هویتی و درگاه‌های پرداخت را برای این ایجنت‌ها ایجاد کنید؟ اگر ایجنتی سرکش شد و رفتاری مخرب در پیش گرفت، سازوکار قضایی و داوری آن چگونه خواهد بود؟ اگر مهندسان این بسترها را توسعه دهند، آن‌گاه برای ورود به «عصر بازار آزاد هوش مصنوعی» آماده خواهیم بود؛ به‌جای آنکه صرفاً محصولی آماده را از قفسه یک ابرشرکت فناوری بخریم.»
چشم‌انداز آینده؛ دنیایی با ۸ میلیارد ایجنت منحصربه‌فرد
راسکار در جمع‌بندی سخنان خود گفت: «فکر می‌کنم مسئله اصلی این است که ایجنت‌های هر یک از ما چقدر منحصربه‌فرد خواهند بود؛ و این همان انگیزه‌ای است که صبح‌ها ما را با اشتیاق بیدار می‌کند. انگیزه واقعی انسان‌ها این است: من می‌خواهم با استعداد، تخصص و پشتکارم اثری خلق کنم که در مقایسه با دیگران یگانه و بی‌همتا باشد؛ حاصل شاید ۲۵ سال تلاش مستمر. به باور من، ایجنت‌های شخصی به ما امکان می‌دهند چیزی بسیار ظریف و دقیق بسازیم که حقیقتاً به آن افتخار کنیم و ابزارهای ساخت این ایجنت‌ها نقشی حیاتی خواهند داشت. این ابزارها گاه ارزش اقتصادی مستقیم خلق می‌کنند و گاه ارزش غیرمادی دارند اما به شیوه‌های دیگری گره‌گشا خواهند بود. آینده واقعی همین است؛ آینده‌ای درخشان که در آن ۸ میلیارد ایجنت کاملاً منحصربه‌فرد در کنار انسان‌ها فعالیت می‌کنند.»
مطالب مرتبط و پیشنهادی
سناریوهای آخرالزمانی هوش مصنوعی قبلاً بدون هوش مصنوعی تا پای فاجعه رفته‌اند؛ خطر واقعی کجاست؟
بررسی تاریخ نشان می‌دهد سناریوهای آخرالزمانی هوش مصنوعی نظیر ساخت سلاح‌های بیولوژیکی یا پرتاب اشتباه موشک هسته‌ای، پیش‌تر بدون حضور این فناوری تا یک‌قدمی فاجعه پیش رفته‌اند. در تمامی این بحران‌ها ماشین‌ها خطا کردند و انسان‌ها مانع فاجعه شدند؛ در نتیجه تهدید واقعی نه ربات‌های خودمختار، بلکه اعتماد به گزارش‌های نادرست هوش مصنوعی در دقایق بحرانی است.
شبکه برق چگونه در برابر حملات هوش مصنوعی مقاومت می‌کند؟ پاشنه آشیل تأسیسات کوچک شهری
در حالی که غول‌های انرژی با سرمایه‌گذاری سنگین سامانه‌های خود را در برابر نفوذ هکرها نفوذناپذیر کرده‌اند، تأسیسات محلی و کوچک خدمات شهری به هدفی آسان برای مهاجمان تبدیل شده‌اند. با ظهور ابزارهای هوش مصنوعی که حملات سایبری را ارزان‌تر و سریع‌تر می‌کنند، شکاف امنیتی این شبکه‌ها تهدیدی جدی برای زندگی شهروندان است.
معافیت یک‌ساله اینتل از قانون ممنوعیت ربات‌های خارجی؛ خطوط تولید تراشه آمریکا در امان ماندند
شرکت اینتل موفق شد برای ادامه فعالیت ناوگان خودروهای رباتیک خارجی در کارخانه‌های تراشه‌سازی خود در آمریکا، معافیتی یک‌ساله از کمیسیون ارتباطات فدرال دریافت کند. این تصمیم پس از آن اتخاذ شد که مقررات مبهم دولت ایالات متحده علیه ربات‌های ساخت خارج، نگرانی‌هایی جدی درباره توقف خطوط تولید نیمه‌رسانا ایجاد کرده بود.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.