رقابت داغ فناوری و معمای مهار ایجنت‌ها؛ آیا واقعاً می‌توانیم هوش مصنوعی را کنترل کنیم؟

برای کسانی که ماجراهای هوش مصنوعی را از همان روز‌های اول دنبال کرده‌اند، این روز‌ها حس‌وحال بسیار خاصی دارد؛ برهه‌ای که سرمایه‌گذاران به آن «فاد» یا همان ترس، عدم قطعیت و شک و تردید (FUD) می‌گویند و حالا این حس بیش‌تر از هر زمان دیگری در جامعه فناوری موج می‌زند. اما ماجرا از چه قرار است؟

انگار برای نخستین بار همه به این فکر افتاده‌اند که شاید واقعاً اوضاع از کنترل خارج شود! بخش مهمی از این ماجرا به پژوهشگران و مهندسان آزمایشگاه‌های بزرگ هوش مصنوعی برمی‌گردد که یکی‌یکی از شرکت‌هایشان استعفا می‌دهند و با حضور در رسانه‌ها درباره خطرات احتمالی لب به اعتراف باز می‌کنند؛ اتفاقی که شاید قبلاً هم نمونه‌هایی از آن را دیده بودیم، اما نه با این شدت و حرارت.

اگر به چند سال گذشته نگاهی بیندازید، روند تکامل یادگیری ماشین به یادگیری عمیق و سپس به نسل تازه ابزار‌های مولد شبیه یک خواب و خیال جذاب بود: شعر گفتن هوش مصنوعی؟ خلق شاهکارهای گرافیکی؟ یا کدنویسی بدون نقص؟ همه این‌ها فوق‌العاده و هیجان‌انگیز به نظر می‌رسید! (گرچه کم‌تر کسی به داد نویسنده‌ها، موزیسین‌ها و هنرمندانی رسید که نگران سرقت آثارشان بودند؛ با این‌که خودشان هم بخشی از همان جامعه خالقان به حساب می‌آمدند).

اما حالا شرایط عوض شده است؛ انسان‌ها با چشم خود همکاری و هماهنگی واقعی میان ایجنت‌ها را می‌بینند. اوج این ماجرا اتفاقاتی شبیه ماجرای اخیر در پلتفرم «هاگینگ فیس» (Hugging Face) بود؛ جایی که ارتباط خودکار ایجنت‌ها با هم حسابی دل مهندسان را خالی کرد و زنگ خطر را به صدا درآورد.

درست در بحبوحه همین نگرانی‌ها، در رویداد «Imagination in Action: The Next Endeavor» در مانتین‌ویو کالیفرنیا، یک پنل گفت‌وگوی بسیار داغ و جذاب شکل گرفت؛ جایی که چهره‌های مطرح این حوزه دور هم نشستند تا به یک پرسش اساسی و سرنوشت‌ساز بپردازند: آیا ما واقعاً می‌توانیم هوش مصنوعی را کنترل کنیم یا نه؟

زیر ذره‌بین؛ فناوری که همه جا حواسش به ماست

برادلی اولسون (Bradley Olson)، مدیر این پنل، صحبت را با نکته ملموسی شروع کرد: این روز‌ها در سان‌فرانسیسکو (و کم‌کم در تمام دنیا) محال است جلسه‌ای برگزار شود و پای سیستم‌های یادداشت‌برداری هوش مصنوعی در میان نباشد؛ فناوری‌هایی که از تک‌تک کلمات و لحن شما و حتی شیوه نشستنتان یک پروفایل دقیق و موشکافانه می‌سازند.

او با طرح این مثال از حاضران پرسید که چقدر از چالش‌های فعلی ناشی از فقدان سازوکارهای کنترلی ساده است، نه یک خطر دائمی و ذاتی از سوی هوش مصنوعی سرکش؟ به عبارت دیگر، آیا می‌توانیم فقط با مجموعه‌ای از پروتکل‌های مشخص، جلوی رفتارهای پیش‌بینی‌نشده این ایجنت‌ها را بگیریم و مهارشان کنیم؟

توله ببر بازیگوش و ترس از بزرگ شدنش!

نوئل راسل (Noelle Russell)، یکی از اعضای این پنل، یک عروسک کوچک ببر پولیشی همراه خود آورده بود تا حرفش را ملموس‌تر بزند.

او گفت: «هوش مصنوعی دقیقاً مثل یک توله ببر است؛ فوق‌العاده بامزه و دوست‌داشتنی که همه عاشقش می‌شویم. با خودمان می‌گوییم: وای خدای من، حتماً باید این را به دوستانم نشان بدهم! این معرکه‌ست، برم به مامانم تعریف کنم و عکسش را در شبکه‌های اجتماعی بگذارم. اما در نهایت، سوالاتی که در همان ابتدا و وقتی این حیوان هنوز کوچک است از خودمان می‌پرسیم، مهم‌ترین چیز هستند.»

از جمله این پرسش‌های کلیدی:

او ادامه داد: «امروز مهم‌ترین مسئله، ابزار‌های کنترلی است؛ مکانیزم‌هایی که هر کسی می‌تواند پیاده کند. حتی جالب‌تر اینکه شما می‌توانید از خود هوش مصنوعی کمک بگیرید تا این ابزار‌های نظارتی را برایتان بسازد و پیاده‌سازی کند.»

در این میان الکس ویزنر-گروس (Alex Wissner-Gross) زاویه دید کاملاً متفاوتی را پیش کشید و هشدار داد که شاید رویدادهای اخیر به قانون‌گذاری‌های افراطی و سخت‌گیرانه علیه این فناوری ختم شود. او با اشاره به مثال یک سرقت از بانک تشریح کرد که مسائل پیرامون آزمایشگاه‌های پیشرو هوش مصنوعی، امنیت عمومی و توسعه این فناوری به همین سادگی‌ها نیست.

او صراحتاً بیان کرد:

«جریان به‌اصطلاح دگرخواهی اثربخش (Effective Altruism) احتمالاً در پشت‌پرده آزمایشگاه‌های ارزیابی امنیتی که مسئول سنجش مدل‌های پیشرو هستند، نقش دارد و اهداف و جهت‌گیری‌های خاص خودش را دیکته می‌کند.»

صهیب احمد (Zohaib Ahmed)، سومین عضو پنل، دوباره به اتفاقات هاگینگ فیس اشاره کرد و گفت که ضعف در رصدپذیری و شفافیت حسابی به این حوزه ضربه زده است.

او درباره ماجرای تبادل نظر و پست گذاشتن ۱۲۰۰ ایجنت روی انجمن‌های پیام‌رسان برای ارتباط با یکدیگر تأکید کرد: «وقتی متوجه داده‌هایی که درون سیستم‌ها در گردش است نمی‌شوید، چطور می‌خواهید ابزار کنترلی بسازید؟ داده‌ها همه جا هستند و تمام زیرساخت‌ها برای جریان یافتن این داده‌ها شکل گرفته‌اند؛ اما اعمال کنترل روی مدل‌های بزرگ زبانی (LLM) فوق‌العاده دشوار است چون درک ماهیت درونی این مدل‌ها واقعاً پیچیده و مبهم است.»

مطالبه مهار؛ آیا شرکت‌ها ملزم به کنترل مدل‌ها هستند؟

اولسون از همین فرصت استفاده کرد تا مهم‌ترین بحث پیرامون ایمنی را به میان بکشد؛ جملاتی شنیدنی و تأمل‌برانگیز که عمق چالش را نشان می‌دهد:

«شما می‌گویید ما واقعاً نمی‌توانیم آن را کنترل کنیم. از نظر من مسئله اصلی همین است. آیا مطمئنیم این حرف درست است؟ چون اگر واقعیت داشته باشد، ماجرای بسیار تکان‌دهنده‌ای است! تصورش را بکنید؛ در آزمایشگاه‌های پیشرو باشید و بگویید: ما نمی‌توانیم این را مهار کنیم، ولی هم‌زمان می‌خواهیم وارد بورس شویم، ۱۰۰ میلیارد دلار سرمایه جذب کنیم و به ارزش ۲ تریلیون دلاری برسیم! از طرف دیگر، عده زیادی معتقدند اگر یک مدل درست برنامه‌ریزی شود قابل کنترل است؛ جامعه هم از شما انتظار دارد سیستمی بسازید که مهارشدنی باشد. پس آیا جامعه حق ندارد چنین کنترلی را از شما طلب کند؟»

صهیب احمد مدل‌های متن‌باز و نامتمرکز را نیز به عنوان یک چالش بزرگ مطرح کرد.

او گفت: «بزرگ‌ترین دغدغه از نظر من این است که امروزه مدل‌های متن‌باز هم‌پای این LLMهای انحصاری عرضه می‌شوند و کیفیتی تقریباً مشابه دارند. حال چطور می‌توان از ده‌ها یا صدها مدل متن‌باز انتظار داشت که پروتکل‌های سفت‌وسخت کنترلی را اجرا کنند؟ اینجاست که ماجرا بی‌نهایت پیچیده می‌شود.»

نوئل راسل با تکیه بر تجربیاتش در دنیای کسب‌وکار گفت که مدیران ارشد معمولاً بدون آگاهی فنی عمیق به سراغ راه‌حل‌های مبتنی بر هوش مصنوعی می‌روند.

او تشریح کرد: «سازمان‌ها با ولع به سراغ خرید و استفاده از همین توله ببرها یا هوش‌های مصنوعی به ظاهر کوچک و بی‌خطر می‌روند. طبق مشاهدات و مشاوره‌هایی که در دولت‌های ایالتی، شهرداری‌ها و شرکت‌های متوسط داشته‌ام، مدیران ارشد عملاً هیچ‌گونه دید و تسلطی بر کار‌های در حال انجام ندارند؛ آن‌ها نمی‌دانند برنامه‌نویسان سازمان یا حتی شرکت‌های پیمانکار دقیقاً چه راهکارهای ایجنتی و تصمیم‌گیری خودکاری برایشان توسعه داده‌اند!»

او بر لزوم شفافیت و دید همه‌جانبه تأکید کرد.

راسل افزود: «من از نزدیک شاهد بودم که چطور هوش مصنوعی کاربردی از مدل‌های تحقیقاتی نقلی و بامزه آغاز شد و در نهایت به غول‌های پردازشی عظیم تبدیل گشت. جالب اینجاست در تمام این مدت، توسعه‌دهندگان می‌گفتند: فکرش را هم نمی‌کردیم کسی واقعاً از این ابزار تا این حد استفاده کند! حالا سازمان‌ها با معضل مشابهی روبه‌رو شده‌اند، بنابراین شفافیت و نظارت دقیق، کلید حل این معماست.»

مهار و کنترل؛ آیا اصلاً واژه درستی است؟

در این بخش، الکس ویزنر-گروس با بیانی شوکه‌کننده و جنجالی، کل ایده «کنترل سیستم‌ها» را زیر سوال برد؛ دیدگاهی که نگاه همه را به نحوه تعامل ما با نسل‌های پیشرفته هوش مصنوعی به چالش کشید:

«به نظر من واژه "کنترل" حتی فعل درستی برای این وضعیت نیست! نباید به دنبال کنترل کردن هوش‌های قدرتمند باشیم، بلکه ماجرا یک فرآیند همگام‌سازی و هم‌پیمانی دوجانبه است. من حتی از به کار بردن واژه "هم‌راستایی" (Alignment) هم پرهیز دارم چون بار معنایی سنگینی به دوش می‌کشد؛ اما حقیقت این است که ما هوش‌های مصنوعی را با خودمان همگام می‌کنیم و آن‌ها هم ما را با خود هم‌مسیر می‌سازند. ماجرا به کنترل ختم نمی‌شود و کنترل کردن الگوی فکری درستی نیست؛ قضیه بر سر هم‌راستایی مشترک و مقیاس‌پذیری تدافعیِ هم‌زمان بشریت در کنار ابرهوش است.»

حاضران پنل لحظاتی به این صحبت‌های جالب فکر کردند. سپس ویزنر-گروس و راسل به ایده «مرام‌نامه» یا اساس‌نامه سازمانی برای هدایت هوش مصنوعی پرداختند. ویزنر-گروس با اشاره‌ای زیرکانه پرسید آیا یک سازمان کارمندان انسانی‌اش را کنترل می‌کند؟ پاسخ راسل ارجاع به مفهوم شاخص‌های کلیدی هدف (OKR) در شرکت‌ها بود.

راسل توضیح داد: «ما در شرکت‌ها اهداف و نتایج کلیدی (OKR) تعریف می‌کنیم، آن‌ها را خرد کرده و عملکرد کارمندانمان را با آن‌ها می‌سنجیم. مرام‌نامه‌ها برای ایجنت‌ها هم دقیقاً همین نقش را در سازمان بازی می‌کنند؛ با این وجود، بیش‌تر سازمان‌ها هنوز زحمت تدوین چنین چارچوب‌هایی را هم به خود نداده‌اند.»

پیشرفت در دوراهی؛ جایگاه ابزار‌های متن‌باز

در سوی دیگر، صهیب احمد نسبت به روند توسعه سیستم‌های متن‌باز خوش‌بین‌تر بود و به چارچوب‌های شناسایی آسیب‌پذیری‌های امنیتی در کدنویسی و استقبال شرکت‌ها از این اقدامات پیشگیرانه اشاره کرد.

او گفت: «کار‌های بسیار ارزشمندی در حوزه متن‌باز در جریان است. البته هنوز در روز‌های آغازین این مسیر هستیم و طبیعتاً موازی‌کاری‌ها و رویکردهای متفاوتی میان استارتاپ‌ها دیده می‌شود، اما استارتاپ‌های نوآور متعددی دارند زیرساخت‌های این بخش را پی‌ریزی می‌کنند.»

پایان ماجرا؛ چه کسی بر ناظران نظارت خواهد کرد؟

در اواخر این گفت‌وگو، راسل ضمن تأکید مجدد بر سخنانش از کتاب جدیدش به نام «مقیاس‌پذیری مسئولانه هوش مصنوعی» (Scaling Responsible AI) صحبت کرد که به زودی منتشر می‌شود.

ویزنر-گروس نیز در دقایق پایانی، جمع‌بندی مهم و قابل‌توجهی ارائه داد.

او توضیح داد: «ما با یک معضل بزرگ روبه‌رو هستیم: چه کسی قرار است بر کار خود ناظران نظارت کند؟ در صنایع سنتی، نگرانی همیشگی این بود که موسسات اعتبارسنجی و ممیزی خطرات را کم‌تر از آنچه هست جلوه دهند (همان اتفاقی که در بحران‌های مالی وال‌استریت دیدیم)؛ اما در صنعت هوش مصنوعی دقیقاً عکس این سناریو در جریان است!»

او تأکید کرد که خطر اصلی شاید برنامه‌ها و اهداف پنهان نهادهایی باشد که به دنبال متوقف کردن یا کندسازی پیشرفت‌های فعلی هستند.

او یادآور شد: «آن‌ها به دنبال قانون‌گذاری‌های سنگین‌تر هستند؛ احتمالاً به این دلیل که می‌خواهند بار مسئولیت خطرات فاجعه‌بار و اگزیستانسیال را از دوش شرکت‌های خصوصی بردارند و آن را به دولت‌ها واگذار کنند! این یک تناقض خطرناک است که تمدن ما باید خیلی زود چاره‌ای برای آن بیندیشد. گرچه گام‌های بعدی کاملاً شفاف نیست، اما نقطه پایانی کاملاً مشخص است: مقیاس‌پذیری تدافعیِ هم‌زمان؛ جایی که در نهایت، این خود هوش‌های مصنوعی هستند که باید بر هوش‌های مصنوعی نظارت کنند و نقش پلیس را بر عهده بگیرند!»

ویزنر-گروس استدلال کرد که این سناریو درست شبیه روند تکامل شهرهای انسانی در دنیای گذشته است؛ دورانی که به‌زودی دستخوش دگرگونی بنیادین خواهد شد.

او در پایان گفت: «وقتی یک شهر بزرگ می‌سازید، به یک نیروی پلیس پرتعداد هم نیاز دارید. به همین ترتیب، اگر قرار است یک تمدن ابرهوشمند خلق کنیم، چاره‌ای نداریم جز این‌که ناظران و ممیزانی از جنس ابرهوش مصنوعی تربیت کنیم. سوال حیاتی اینجاست: چگونه بدون افتادن در دام این تناقض‌ها و تصمیمات شتاب‌زده، به این تمدن برسیم؟»

این‌ها چکیده‌ای از دیدگاه‌های جسورانه کارشناسان بود. نظر شما چیست؟ آیا فکر می‌کنید باید ترمز پیشرفت ایجنت‌ها را بکشیم یا آینده امنیت فناوری در دستان پلیس‌های هوش مصنوعی رقم خواهد خورد؟ نظرات خود را با ما در میان بگذارید.