جعبه سیاه برای هوش مصنوعی؛ استارتاپی که خطاهای مرگبار سیستم‌های خودران را مهار می‌کند

یک جعبه سیاه برای مهار خطاهای سیستم‌های هوش مصنوعی، سرمایه‌گذاری‌های رکوردشکن در صنعت فضا و هشدارهای تازه پیرامون هزینه‌های سرسام‌آور هوش مصنوعی، مهم‌ترین محورهای این گزارش هستند.

در یک آزمایش کاربردی، یک ایجنت هوش مصنوعی طراحی شد تا با یادگیری سلیقه موسیقی کاربر، هر جمعه آلبوم‌های تازه منتشرشده و نقدها را بررسی کرده و موسیقی‌های جدیدی پیشنهاد دهد؛ ابزاری که البته مانع از پیگیری نقدهای انسانی نمی‌شود، اما نقطه شروع جذابی به شمار می‌رود (این ایجنت مقالات تحلیلی درباره موسیقی را نیز پیشنهاد می‌کند). در یکی از بررسی‌های هفتگی، نام آلبوم‌های تازه‌ای از گروه‌های محبوبی مثل The Molotovs، The Lemon Twigs و Sheepdogs به چشم می‌خورد؛ انتشار همزمان این آثار بیش از حد رؤیایی به نظر می‌رسید و در واقعیت هم همین‌طور بود. کل گزارش آن هفته کاملاً ساختگی از آب درآمد؛ چراکه هوش مصنوعی هنگام جستجو در وب با خطا مواجه شده بود و پس از ناکامی در یافتن آلبوم‌های جدید، بر اساس داده‌های آموزشی خود شروع به ساختن آلبوم‌های خیالی و توهم کرده بود.

این تجربه یک واقعیت مهم را آشکار می‌کند: سیستم‌های هوش مصنوعی ممکن است دچار افت دقت (Drift)، خطا یا حملات سایبری شوند، اما با این حال اغلب به کار خود ادامه می‌دهند و تلاش می‌کنند مأموریت تعریف‌شده را به هر نحوی به سرانجام برسانند. چنین اشتباهی در یک سیستم پیشنهاد موسیقی صرفاً به ناامیدی کاربر ختم می‌شود، اما در پهپادهای خودران، خودروها یا کارخانجات صنعتی، این نوع خطاها می‌توانند پیامدهای مرگباری به‌همراه داشته باشند.

اینجاست که استارتاپ کره‌ای ArbaLabs و مدیرعامل و بنیان‌گذار آن، اشلی ریوز (Ashley Reeves)، وارد میدان می‌شوند. این شرکت در حال توسعه سخت‌افزارهای راستی‌آزمایی هوش مصنوعی است؛ ابزاری که عملکرد واقعی سیستم‌های فیزیکی هوش مصنوعی تعبیه‌شده (Embedded) را ثبت می‌کند تا مشخص شود آنها واقعاً چه کاری انجام می‌دهند، نه اینکه تصور می‌کنند در حال انجام چه کاری هستند. ریوز با اشاره به جعبه سیاه هواپیماها که برای بررسی علل سوانح به کار می‌روند، می‌گوید: «ما به این فناوری به چشم نوعی "جعبه سیاه" برای هوش مصنوعی فیزیکی نگاه می‌کنیم».

نحوه کار این راهکار، به نام ArbaEdge، به این صورت است که چیپ مستقیماً در کنار پردازنده هوش مصنوعی نصب می‌شود و یک «آینه دیجیتال» از تمام فرآیندهای در حال اجرای هوش مصنوعی ایجاد می‌کند. به گفته ریوز، این چیپ با خروجی دادن داده‌های رمزنگاری‌شده‌ای که نتایج را بدون افشای اطلاعات حساس تأیید می‌کنند، از داده‌های حیاتی مثل تله‌متری محافظت می‌نماید. اپراتورها می‌توانند از این داده‌ها برای اطمینان از عملکرد صحیح سیستم‌های هوش مصنوعی استفاده کنند و در صورت بروز خطا بلافاصله هشدار دریافت نمایند. نکته جالب اینجاست که خود سیستم ArbaEdge به هیچ‌وجه از هوش مصنوعی استفاده نمی‌کند؛ ریوز در این‌باره تأکید می‌کند: «تمام این سیستم مبتنی بر قوانین قطعی (Rules-based) طراحی شده و کاملاً قابل ممیزی و ارزیابی است».

استارتاپ ArbaLabs در مه ۲۰۲۵ تأسیس شد و کمتر از دو سال بعد، توانست ایده خود را در عمل اثبات کند. نخستین سیستم آزمایشی این شرکت روی ماهواره‌ای متعلق به شریک تجاری‌اش، یعنی Space & Bean، نصب شد که در تاریخ ۷ اکتبر با راکت کره‌ای نوری (Nuri) به مدار زمین پرتاب گردید. تیم پروژه توانسته‌اند ارتباط رادیویی دوطرفه زمینی با ماژول ArbaEdge مستقر در فضا برقرار کنند و آزمایش توانمندی‌های آن در ماه‌های آینده نیز ادامه خواهد داشت.

ریوز می‌گوید این شرکت اکنون در پی جذب سرمایه برای ادامه توسعه ArbaEdge است. آنها با «مؤسسه استانداردهای بریتانیا» (BSI) برای تدوین استانداردهای جهانی راستی‌آزمایی هوش مصنوعی همکاری می‌کنند و در حال طراحی چیپ اختصاصی خود برای نسل بعدی این سخت‌افزار هستند تا امتیاز استفاده از آن را به مشتریان واگذار کنند. ریوز فضا را صرفاً یک «سرپل ورود» برای شرکت خود می‌داند و قصد دارد به‌سرعت به بخش‌های زمینی از جمله پهپادها، خطوط تولید کارخانجات، خودروهای خودران و تجهیزات پزشکی ورود کند.

او می‌افزاید: «هدف نهایی ما این است که به لایه استاندارد عملاً پذیرفته‌شده (De facto) برای کل این صنعت تبدیل شویم».

فصل ۲۲ میلیارد دلاری صنعت فضا

امسال تا این لحظه سالی درخشان برای صنعت فضا بوده است؛ بر اساس گزارش شرکت سرمایه‌گذاری خطرپذیر Space Capital، سرمایه‌گذاران در سه ماهه سوم ۲۰۲۶ بیش از ۲۲ میلیارد دلار وارد استارتاپ‌های فضایی کرده‌اند. این رقم، مجموع سرمایه‌گذاری سالانه در این بخش را به ۹۲٫۵ میلیارد دلار می‌رساند که پیشاپیش رکورد کل سال ۲۰۲۵ را شکسته است.

یک نکته کلیدی وجود دارد: بزرگ‌ترین گلوگاه پیش روی صنعت فضا نه کاربردها و نه میزان تقاضا، بلکه فرآیند پرتاب است. با این حال، سرمایه‌گذاران متوجه این موضوع شده‌اند و می‌دانند این صنعت نمی‌تواند برای رفع مشکل پرتاب صرفاً به اسپیس‌ایکس (SpaceX) تکیه کند. امسال ۷٫۸ میلیارد دلار به شرکت‌های فعال در زمینه پرتاب اختصاص یافته است و استارتاپ Stoke Space که روی راکت‌های با قابلیت استفاده مجدد کار می‌کند، با جذب سرمایه ۱ میلیارد دلاری در راند سری E و دستیابی به ارزش‌گذاری ۱۰ میلیارد دلاری، در صدر فهرست این سه ماهه قرار دارد.

کلیدواژه مهم دیگر در این گزارش «حاکمیت فضایی» (Space Sovereignty) است که از آن به‌عنوان «قوی‌ترین نیروی محرک در اقتصاد فضا» یاد می‌شود. رویکردهای انزواطلبانه دولت ترامپ، کشورهای اروپایی و آسیایی را برانگیخته است تا سرمایه‌گذاری روی توانمندی‌های فضایی بومی خود را شتاب بخشند. استارتاپ‌های اروپایی با جذب ۶٫۳ میلیارد دلار در سه ماهه سوم، مجموع سرمایه دریافتی خود از ابتدای سال را به ۱۳٫۵ میلیارد دلار رسانده‌اند که بخش عمده آن بر توانمندی‌های دفاعی و توسعه راکت‌های پرتابگر متمرکز است.

شاید این پرسش پیش بیاید که جایگاه هوش مصنوعی در این تحولات فضایی کجاست؟ هوش مصنوعی درست مانند روی زمین، توجه سرمایه‌گذاران حوزه فضا را نیز به خود جلب کرده است. سرمایه‌های قابل‌توجهی به شرکت‌های تولیدکننده داده‌های اطلاعات جغرافیایی (Geointelligence) مانند تصاویر ماهواره‌ای تزریق می‌شود؛ داده‌هایی که سیستم‌های خودران برای ناوبری و موقعیت‌یابی در جهان از آنها بهره می‌برند. علاوه بر این، در بخش ساخت‌وتولید صنعتی نیز اشتیاق فراوانی دیده می‌شود؛ به‌عنوان نمونه می‌توان به راند سرمایه‌گذاری ۱٫۳۷ میلیارد دلاری استارتاپ Hadrian اشاره کرد که سیستم‌های ساخت خودکار را برای صنایع هوافضا توسعه می‌دهد.

دیدگاه کارشناسی: چرا هوش مصنوعی نمی‌تواند بحران آنتی‌بیوتیک‌ها را حل کند؟

در گفت‌وگو با سرمایه‌گذاران پیشرو پیرامون روندهای نوین فناوری، دیدگاه هنری اسکینر (Henry Skinner)، مدیرعامل صندوق سرمایه‌گذاری AMR Action Fund، زوایای متفاوتی از پیوند هوش مصنوعی و پزشکی را آشکار می‌کند. این صندوق خطرپذیر با حدود ۱ میلیارد دلار دارایی تحت مدیریت، روی شرکت‌هایی سرمایه‌گذاری می‌کند که آنتی‌بیوتیک‌های جدیدی برای مبارزه با بیماری‌های مقاوم به دارو توسعه می‌دهند؛ معضلی جهانی که سالانه جان حدود ۵ میلیون انسان را می‌گیرد.

کدام فناوری در حال حاضر بیش از اندازه بزرگ‌نمایی شده است؟

این تصور که هوش مصنوعی بحران آنتی‌بیوتیک‌ها را حل خواهد کرد، بیش از حد بزرگ‌نمایی شده است. هوش مصنوعی کشف مولکول‌های دارویی را شتاب می‌بخشد، اما کشف صرفاً بخش کوچکی از این چالش به شمار می‌رود. مانع اصلی، پیش بردن مولکول‌های نویدبخش در مراحل کارآزمایی بالینی است؛ جایی که هزینه‌ها سرسام‌آور بالا می‌رود، ریسک‌ها چندبرابر می‌شود و سرمایه‌گذاری بخش خصوصی عملاً ناپدید شده است. در حوزه آنتی‌بیوتیک‌ها، تخصص، زیرساخت و سرمایه لازم برای هدایت داروها از فاز اول بالینی تا مرحله تأیید نهایی، سال‌هاست که به‌دلیل ناتوانی بازار در پاداش دادن به نوآوری فرسایش یافته است. سرمایه‌گذاران این حوزه را ترک کرده‌اند و نخبگان علمی نیز به دنبال آنها رفته‌اند. تا زمانی که سیاست‌گذاران این نقص بنیادین بازار را برطرف نکنند، هوش مصنوعی صدها داروی نویدبخش پیشنهاد خواهد داد که هیچ‌کس حاضر به تأمین مالی یا توسعه آنها نیست.

امروز باید درباره کدام فناوری یا روند بیشتر گفت‌وگو شود؟

ما به‌اندازه کافی درباره ظهور سیستم‌های نظارت و ردیابی مداوم پاتوژن‌ها (عوامل بیماری‌زا) صحبت نمی‌کنیم. پایش فاضلاب ارزش خود را در دوران همه‌گیری کووید نشان داد، اما اکنون با سرعتی بالا در مسیرهای پویایی در حال تکامل است. تیمی در دانشگاه بیLOR (Baylor) با بهره‌گیری از توالی‌یابی نسل جدید، صدها ویروس را از یک نمونه فاضلاب به‌سرعت شناسایی و شمارش می‌کند و حتی تهدیدات تاکنون ناشناخته را علامت‌گذاری می‌نماید. دیگران در حال ساخت سیستم‌هایی هستند که هوای سیستم‌های تهویه مطبوع ساختمان‌ها را برای تشخیص آنی عوامل بیماری‌زا و حساسیت‌زا بررسی می‌کنند. ما از دنیایی که در آن منتظر مراجعه بیماران به درمانگاه‌ها یا مطب پزشکان می‌ماندیم، به سوی جهانی حرکت می‌کنیم که می‌توانیم تهدیدات نوظهور را به‌صورت مداوم در سطح محلی رصد کرده و اثرات آنها را خنثی کنیم. این تحول بنیادین می‌تواند شیوه مداخلات بهداشت عمومی و ارائه مراقبت‌های درمانی را کاملاً دگرگون سازد.

پنج سال آینده همه درباره چه موضوعی صحبت خواهند کرد؟

طی پنج سال آینده، تمرکز همه روی این موضوع خواهد بود که چگونه نوآوری‌های بیوتکنولوژی را از چین صادر کنیم. بحث‌های کنونی درباره اینکه آیا چین می‌تواند در توسعه دارو با ایالات متحده رقابت کند یا خیر، در حال کهنه شدن است. ما شاهد تبدیل چین از یک دنبال‌کننده سریع (Fast-follower) تولیدکننده داروهای نسل دوم به قطب جهانی نوآوری در حوزه بیوفارما هستیم؛ کشوری که داروهای بیشتری را با سرعت بالاتر، هزینه کمتر و جذب سرمایه فزاینده سالانه تولید می‌کند. سیاست‌گذاران به‌درستی در حال مواجهه با وابستگی به چین در حوزه داروهای حیاتی و آسیب‌پذیری‌های ناشی از آن در زنجیره تأمین دارو هستند؛ اما آنها به‌زودی باید درباره این چالش تصمیم بگیرند که چگونه نوآوری‌های تولیدشده در چین را به دست بیماران در سراسر جهان برسانند و نهادهای قانون‌گذار، شرکت‌ها و سیستم‌های درمانی چگونه باید خود را با دنیایی وفق دهند که در آن درمان‌های نوین بیش از پیش از چین سرچشمه می‌گیرند.

زیر ذره‌بین: تحولات و اخبار مهم هوش مصنوعی و فناوری

جدال آنتروپیک و پنتاگون: شرکت آنتروپیک خواستار رسیدگی مجدد به حکم دادگاه تجدیدنظر شده است؛ حکمی که به وزارت دفاع آمریکا اجازه داد این شرکت را به‌عنوان ریسک زنجیره تأمین معرفی کند؛ تصمیمی که به توقف استفاده ارتش از ابزارهای هوش مصنوعی این استارتاپ انجامید. بر اساس گزارش CNBC، آنتروپیک برای افزایش نفوذ خود در واشنگتن گام‌های دیگری نیز برداشته است: این شرکت در سال ۲۰۲۶ سیهائو هوانگ (Sihao Huang)، مشاور سابق ترامپ را به‌عنوان مدیر استراتژی رایانش پیشرفته استخدام کرده و کریس لیدل (Chris Liddell)، معاون سابق رئیس دفتر کاخ سفید را به هیئت مدیره خود افزوده است.

محدودیت استارلینک در اوکراین: مقامات اوکراینی اعلام کردند که شرکت اسپیس‌ایکس متعلق به ایلان ماسک بدون هشدار قبلی، استفاده نظامی از اینترنت استارلینک را محدود کرده است؛ زیرساختی که اوکراین برای هدایت عملیات پهپادهای جنگی خود به‌شدت به آن وابسته است. ایلان ماسک در پاسخ تأکید کرد که کنترل این خدمات در اختیار ارتش و دولت آمریکاست، نه اسپیس‌ایکس، و گزارش‌ها نیز تأیید کرده‌اند که این دستور مستقیماً از کاخ سفید صادر شده است. طی هفته‌های گذشته، دولت ترامپ از حملات اوکراین به زیرساخت‌های انرژی روسیه انتقاد کرده بود؛ حملاتی که بخشی از استراتژی دفاعی اوکراین به شمار می‌روند.

بحران اقتصادی و هزینه‌های سرسام‌آور هوش مصنوعی: سهام شرکت‌های فناوری به‌دلیل نگرانی سرمایه‌گذاران از تورم و هزینه‌های نجومی هوش مصنوعی و امکان بازگشت سرمایه رو به کاهش است؛ به‌ویژه پس از آنکه آنتروپیک از کند شدن رشد درآمدهای خود خبر داد. در همین حال، توسعه‌دهندگان دیتاسنترها ساخت تأسیسات جدید را به‌شکل فزاینده‌ای از طریق اوراق قرضه پرریسک (Junk bonds) تأمین مالی می‌کنند. وال استریت ژورنال نیز گزارش می‌دهد شکاف عظیمی میان مسئولیت‌های حقوقی احتمالی شرکت‌های هوش مصنوعی و پوشش بیمه‌ای در دسترس وجود دارد. در نهایت، مؤسسه تحقیقاتی گارتنر گزارش داده است که مالکان دیتاسنترها برای جبران هزینه‌های سنگین زیرساخت هوش مصنوعی، باید تا سال ۲۰۳۰ درآمدی تجمعی بالغ بر ۸٫۵ تریلیون دلار کسب کنند؛ هدفی که دستیابی به آن فوق‌العاده دشوار به نظر می‌رسد.

تبعات جانبی گسترش هوش مصنوعی: توسعه عظیم زیرساخت‌های هوش مصنوعی پیامدهای زنجیره‌ای گسترده‌ای به‌همراه داشته است: آمار عرضه جهانی گوشی‌های هوشمند در این سه ماهه با کاهش سالانه ۲۰ درصدی به پایین‌ترین سطح خود در ۱۴ سال اخیر رسید که بخشی از آن ناشی از کمبود تراشه‌های حافظه به‌دلیل تقاضای شدید هوش مصنوعی است. پل کروگمن، اقتصاددان برجسته، خاطرنشان می‌کند که هزینهکرد در حوزه ساخت زیرساخت‌های هوش مصنوعی سایر بخش‌های اقتصادی را تحت فشار قرار داده و منابع را بلعیده است. از سوی دیگر، لری فینک، مدیرعامل بلک‌راک (BlackRock)، هشدار می‌دهد که توقف روند ساخت دیتاسنترها می‌تواند جرقه یک رکود اقتصادی عمیق را بزند.

دستاوردهای امیدبخش هوش مصنوعی: همه اخبار دنیای هوش مصنوعی نگران‌کننده نیست. شرکت Colossal Biosciences از یک مدل هوش مصنوعی رونمایی کرده است که با آموزش بر اساس گونه‌های مدرن پرندگان، در تلاش برای احیای پرنده منقرض‌شده «دودو» است. همچنین پژوهشگران دانشگاه MIT یک روش یادگیری ماشین ابداع کرده‌اند که دقت پیش‌بینی‌های وضع هوا برای بازه‌های دو تا شش هفته آینده را دو برابر افزایش می‌دهد.

پیشرفت‌های چشمگیر در محاسبات کوانتومی: گوگل نتایجی را در نشریه Science منتشر کرده است که نشان می‌دهد دانشمندان این شرکت به روشی کاربردی برای تولید «حالت‌های جادویی» (Magic States) در کامپیوتر کوانتومی دست یافته‌اند؛ گامی حیاتی به سوی رایانش کوانتومی فراگیر و کاربردی که گوگل جزئیات آن را در گزارش اختصاصی خود شرح داده است. همزمان، شرکت لندنی Orca Computing کامپیوتر کوانتومی PT-3 را روانه بازار کرد که برای انجام پردازش‌های هیبریدی در کنار کامپیوترهای سنتی طراحی شده است. از سوی دیگر، شرکت آلمانی Saxon Q نشان داد پردازنده کوانتومی فعال در دمای اتاق آن، عملکردی همتراز با کامپیوترهای کوانتومی ابررسانا ارائه می‌دهد؛ دستاوردی حائز اهمیت فراوان، چراکه کامپیوترهای ابررسانا نیازمند سیستم‌های حجیم و پرهزینه برودتی برای کار در دمای نزدیک به صفر مطلق هستند.

پیشنهاد موسیقی هفته

این روزها آلبوم Cookie Happened، تازه‌ترین اثر گروه راک لس‌آنجلسی The Eels، اثری شنیدنی است؛ آلبومی کاملاً واقعی (برخلاف آثار ساختگی چت‌بات‌ها) که ترکیبی جذاب از سبک‌های آمریکانا و راک به شمار می‌رود و فضایی عمیق و تأمل‌برانگیز دارد. بهترین قطعات این آلبوم شامل «One Razzle, One Dazzle»، «I’m On Standby» و «Dum Dums» هستند.