شکستن تنگناها: گفتگوی دانیلا راس و یون استویکا درباره معماری و بهینه‌سازی هوش مصنوعی

یکی از بهترین سخنرانی‌ها در رویداد اخیر Imagination in Action با عنوان The Next Endeavor، گفتگوی بین دانیلا راس (Daniela Rus) و یون استویکا (Ion Stoica)، استاد دانشگاه کالیفرنیا برکلی و هم‌بنیان‌گذار شرکت‌های Databricks و Anyscale بود.

رویداد The Next Endeavor با همکاری دانشگاه استنفورد در کالیفرنیا برگزار شد. در این کنفرانس، سخنرانان کلیدی دیدگاه‌های ارزشمندی درباره جایگاه فعلی بشر در فناوری ارائه دادند.

دانیلا راس که مدیریت آزمایشگاه CSAIL دانشگاه MIT را بر عهده دارد، در زمینه مدل‌های هوش مصنوعی سیال (Liquid AI) فعالیت می‌کند. در این بخش، او پرسش‌هایی را پیرامون آمادگی سیستم‌های کامپیوتری برای ورود به عصر ایجنت‌های هوشمند با استویکا مطرح کرد.

ساخت آینده

بخش عمده‌ای از این بحث به زیرساخت‌ها و بهترین روش‌های مدیریت تغییرات اختصاص داشت.

استویکا با اشاره به اینکه گاهی مشخص نیست چه تغییراتی در پیش است و چرا کارها دشوار خواهد بود، افزود که بسیاری از نوآوری‌های کلیدی، از جمله تحولات الگوریتمی، از سمت سیستم‌ها هدایت می‌شوند. او تأکید کرد: «آموزش و استنتاج مدل‌ها بسیار پرهزینه هستند و در این مرحله همچنان رشد نمایی دارند؛ بنابراین کارایی اهمیت بالایی دارد و برای دستیابی به آن، تقریباً باید در هر لایه از پشته (Stack) فناوری نوآوری ایجاد کرد.»

چالش‌های بزرگ

استویکا در ادامه گفت: «یکی از مواردی که باید به آن توجه شود، حافظه است. چرا حافظه؟ زیرا هنوز هم برای ذخیره یک بیت اطلاعات، به یک ترانزیستور نیاز است. کارهای زیادی نمی‌توان در این زمینه انجام داد. می‌توان ترانزیستور را کوچک‌تر کرد، اما این تناظر یک‌به‌یک همچنان وجود دارد.»

چالش دیگری که استویکا به آن اشاره کرد، طراحی ماژولار سیستم‌های سنتی است.

او توضیح داد: «قدرت محاسباتی سریع‌تر از ظرفیت حافظه رشد خواهد کرد و احتمالاً پهنای باند نیز رشد سریع‌تری خواهد داشت، زیرا مقیاس‌پذیری با افزایش پهنای باند آسان‌تر است. در واقع، حافظه روزبه‌روز بیشتر به یک گلوگاه تبدیل می‌شود و برای دستیابی به بالاترین سطح کارایی، باید لایه‌بندی‌ها و ماژولار بودن سیستم‌های فعلی شکسته شود.»

بهبود هوش مصنوعی توسط هوش مصنوعی

در ادامه بحث، استویکا به موضوع بهبود خودکار و چالش هم‌راستایی (Alignment) اشاره کرد.

او گفت: «یکی از اهداف باید استفاده از هوش مصنوعی برای ساخت برنامه‌ها و سیستم‌های قابل‌اعتماد باشد تا با نیت کاربر همسو شوند. این کار بسیار دشوار است؛ زیرا شکاف‌های اساسی بین نیت کاربر و الزامات سیستم، و همچنین بین دنیای واقعی و مدل‌های ساخته‌شده وجود دارد که پر کردن آن‌ها، به‌ویژه در یک جهان باز و متغیر، بسیار دشوار است.»

هوش مصنوعی روی دستگاه (On-Device AI)

راس از استویکا پرسید که کدام دسته از بار کاری باید در فضای ابری پردازش شوند و کدام بخش‌ها باید روی دستگاه‌های محلی اجرا شوند.

استویکا پیشنهاد کرد که هوش مصنوعی محلی در دستگاه‌های مرزی (Edge Devices) می‌تواند به رفع مشکلات حریم خصوصی کمک کند.

او همچنین با بازگشت به دوران کلان‌داده‌ها، توضیح داد که چگونه ابزارهایی مانند Hadoop جای خود را به روش‌های بسیار سریع‌تر کنونی داده‌اند. استویکا که در توسعه Spark نقش داشته است، معتقد است پروتکل‌های پایگاه داده مانند SQL در عصر هوش مصنوعی در حال منسوخ شدن هستند.

آینده ربات‌ها

راس در ادامه بحثی درباره هوش مصنوعی فیزیکی مطرح کرد و گفت: «ما اغلب درباره حضور ۱۰۰ هزار ربات که در اطراف ما حرکت کرده و وظایف را انجام می‌دهند صحبت می‌کنیم. این ربات‌ها باید روی خود دستگاه توانایی پردازش داشته باشند. اما اگر بخواهیم چنین ناوگان بزرگی از ماشین‌های دارای هوش فیزیکی را در دنیای واقعی مدیریت کنیم، به زیرساخت نیاز داریم.»

استویکا با اشاره به حوادث امنیتی در پلتفرم‌هایی مانند Hugging Face و خطراتی نظیر هک شدن سیستم پاداش (Reward Hacking) و توهم هوش مصنوعی (Hallucinations)، پیشنهاد کرد که در بسیاری از موارد بهتر است عملیات‌ها ایزوله نگه داشته شوند و شکاف‌های موجود برطرف گردند.

او افزود: «فاصله بین الزامات فنی و نیت انسانی مسئله‌ای جدی است. گاهی اتصال به اینترنت در یک محیط سندباکس که نباید به شبکه متصل باشد، مشکل‌ساز می‌شود. تا زمانی که این سیستم‌ها برای انسان‌ها ساخته می‌شوند، انسان باید بخشی از حلقه کنترلی باقی بماند تا اطمینان حاصل شود که نیت کاربر برآورده می‌شود. بنابراین باید اطمینان حاصل کنیم که از انسان‌ها به مؤثرترین شکل برای ارائه بازخورد و بهبود مستمر سیستم استفاده می‌کنیم.»

وی در پایان تأکید کرد که این مشکل جدیدی نیست و گفت:

«برای قدرتمندتر کردن این سیستم‌ها، باید تلاش کرد تا شکاف‌ها پر شوند و بخش بیشتری از نیت انسان و پیچیدگی‌های دنیای واقعی در مشخصات فنی گنجانده شود.»

درک این موارد و شفافیت در توسعه سیستم‌ها، موضوعی حیاتی در مسیر پیشرفت ایجنت‌های هوشمند است. بررسی چالش‌های پیش‌رو به متخصصان کمک می‌کند تا با آمادگی کامل‌تری به استقبال آینده بروند.