آیا Safeworld می‌تواند خیالمان را از آسیب نزدن ربات‌های هوش مصنوعی راحت کند؟

این روز‌ها ترند داغ دنیای رباتیک سپردن فرمان هدایت به دست مدل‌های هوش مصنوعی مولد است، اما این کار با یک چالش بزرگ همراه است: این معماری‌ها اصلاً مثل الگوریتم‌های سنتی قابل پیش‌بینی نیستند. در چنین شرایطی، چطور می‌توان مطمئن شد که ربات انسان‌نمای تازه و پیشرفته شما برای اطرافیانش خطرآفرین نخواهد بود؟

دکتر دینگ ژائو (Ding Zhao)، رئیس آزمایشگاه هوش مصنوعی ایمن در دانشگاه کارنگی ملون، تقریباً تمام عمر حرفه‌ای خود را صرف تحقیق روی همین مسئله کرده است. او حالا به همراه کایل وانگ (از مدیران باسابقه استارتاپی) و سیمو رشیدی (مهندس یادگیری ماشین)، استارتاپی به نام Safeworld تأسیس کرده تا راه‌حلی برای این بحران پیدا کند.

ژائو در این باره می‌گوید: «چالش ایمنی که از آن صحبت می‌کنیم از دو بخش تشکیل شده است؛ اولی ارزیابی‌های احتمالی بسیار پیشرفته هوش مصنوعی مولد است؛ یعنی چطور ریسک سیستمی را که بر پایه احتمالات کار می‌کند تضمین و مدیریت کنیم؟ بخش دوم که واقعاً هم سخت‌تر به حساب می‌آید، جلب اعتماد است؛ و برای اینکه یک ربات را وارد محیط واقعی کنید، حتماً به هر دوی این فاکتورها نیاز دارید.»

استارتاپ Safeworld امروز با جذب یک راند سرمایه بذری (Seed) بیش از ۱۲ میلیون دلاری به رهبری Shine Capital و a16z Speedrun از حالت مخفیانه خارج شد. در این دور سرمایه‌گذاری، نام‌های دیگری مثل Box Group، موقوفه دانشگاه کارنگی ملون، Innovation Endeavors و SV Angel نیز حضور دارند.

جاناتان لای، از شرکای صندوق a16z Speedrun در این باره توضیح می‌دهد: «زمان تعیین استانداردهای ایمنی برای این صنعت دقیقاً همین الان است؛ یعنی در دورانی که ربات‌ها تازه در حال طراحی و استقرار هستند. اگر منتظر بمانیم تا ربات‌ها وارد خانه‌ها شوند، به بچه‌ها برخورد کنند و حادثه بیافرینند، دیگر خیلی دیر شده است.»

تخصص اصلی Safeworld، سنجش سیستم‌های کنترل رباتیک در محیط‌های شبیه‌سازی‌شده‌ای است که با مدل‌های انسانی واقع‌گرایانه پر شده‌اند. این چالش بسیار شبیه به مأموریتی است که شرکت‌هایی مثل تسلا یا Wayve با آن دست‌وپنجه نرم می‌کنند؛ جایی که آن‌ها باید مطمئن شوند خودروهایشان در برابر انواع اتفاقات غافلگیرکننده در جاده واکنش درستی نشان می‌دهند. اما به گفته ژائو، این کار برای ربات‌ها حتی دشوارتر خواهد بود؛ زیرا آن‌ها در محیط‌های ساختارنیافته کار می‌کنند و هر کارخانه یا ساختمانی هم استانداردهای ایمنی خاص خودش را دارد.

وانگ می‌گوید: «یکی از رایج‌ترین سناریوها وجود یک پیچ کور در فلان کارخانه است. سرعت حرکت یا خط ترمز ربات باید چقدر باشد تا مطمئن شویم با انسانی که از آن گوشه می‌آید تصادف نمی‌کند؟ مثلاً اگر یک کارگر چند کارتن را بغل کرده باشد و جلوی دیدش گرفته شده باشد، آیا ربات متوجه حضور او می‌شود یا نه؟»

استارتاپ Safeworld برای پاسخ به این سوال، یک نسخه دیجیتالی از همان پیچ را در محیط‌های شبیه‌ساز مثل جنسیس (Genesis) یا MuJoCo بازسازی می‌کند، شبیه‌سازی ربات را همراه با نرم‌افزار واقعی آن در محیط قرار می‌دهد و سپس هزاران سناریوی مختلف از برخورد مدل‌های انسانی با ربات را اجرا می‌کند. البته ژائو تأکید می‌کند که این فرآیند بسیار سخت‌تر از چیزی است که به نظر می‌رسد، چون رفتار انسان‌ها کاملاً غیرقابل پیش‌بینی است.

وانگ توضیح می‌دهد: «لیز خوردن و زمین خوردن آدم‌ها هم نمونه بارز دیگری است که در شبیه‌ساز تست‌های زیادی رویش انجام می‌دهیم. وگرنه اگر شبیه‌ساز نباشد، باید در دنیای واقعی مدام خودتان را جلوی پای ربات بیندازید و زمین بخورید که قطعاً کار آسانی نیست و نمی‌شود همیشه تکرارش کرد!»

بی‌شک شباهت‌های زیادی بین پلتفرمی که Safeworld می‌سازد و ابزار‌های داخلی خود سازندگان ربات وجود دارد. با این حال، بنیان‌گذاران این استارتاپ معتقدند که جدا از تخصص فنی خاص آن‌ها، شرکت‌های ربات‌ساز ترجیح می‌دهند یک ارزیاب شخص ثالث ایمنی محصولاتشان را تأیید کند؛ حداقل برای اینکه بتوانند داده‌های مربوط به موارد ایمنی را میان رقبا هم به اشتراک بگذارند.

ژائو می‌گوید: «خیلی از افراد دست‌کم می‌گیرند که حل کردن این موارد خاص و پیچیده (Edge Cases) چقدر دشوار است. نگرانی ما رباتی نیست که در یک محیط ایزوله و در ویدیوهای تبلیغاتی نمایش داده می‌شود؛ دغدغه اصلی ما رباتی است که در مقیاس وسیع و در میان مردمی به کار گرفته می‌شود که شاید در تمام عمرشان با هیچ رباتی کار نکرده‌اند.»

ویشال دوگار، مدیر ارشد فناوری شرکت Gritt Robotics، در حال توسعه مغز هوش مصنوعی برای ربات‌هایی است که به کارگران در نصب پنل‌های خورشیدی مزارع صنعتی کمک می‌کنند و قصد دارند در آینده وظایف ساختمانی پیچیده‌تری را هم بر عهده بگیرند. شرکت او برای توسعه شبیه‌سازی‌های ایمنی خود، با Safeworld همکاری می‌کند.

دوگار در این باره می‌گوید: «دشواری کار با بیش‌تر سیستم‌های ما این است که نمی‌توان ایمنی آن‌ها را با چند فرمول ریاضی و نوشتن معادلات محض ثابت کرد و با خیال راحت گفت بله، ایمنی سیستم تأیید شد! این ارزیابی الزاماً باید به شکل تجربی و در عمل انجام شود.»

ربات‌های این شرکت دوشادوش کارگران انسانی کار می‌کنند و واضح است که اطمینان از برخورد نکردن بازوی رباتیک با انسان‌ها، اولویت شماره یک آنهاست. برای اثبات این موضوع در عمل، باید انواع سناریوهای ممکن را پیش‌بینی کرد.

دوگار اشاره می‌کند: «آدم‌ها ظاهر و هیبت‌های بسیار متنوعی دارند؛ بدن آن‌ها می‌تواند در وضعیت‌های مختلفی قرار بگیرد؛ ممکن است زانو زده باشند، ایستاده باشند، ناگهان تعادلشان را از دست بدهند و زمین بخورند، دولا شوند یا بدوند. ربات باید بتواند به تمام این رفتارهایی که ممکن است کارگران در محیط کار نشان دهند پاسخ دهد؛ آن هم در کنار تنوع بالای ظاهر انسان‌ها، مثل نوع لباس، اندازه جثه، فرم بدن، قد، رنگ پوست و هر فاکتور دیگری.»

هنوز روز‌های اولیه هم برای Safeworld و هم برای کاربرد هوش مصنوعی مولد در رباتیک است. این شرکت هنوز در حال بررسی این است که چه مدل تجاری برای محصولش مناسب‌تر است؛ ارائه یک پلتفرم برای کاربران بیرونی یا رویکردی مبتنی بر خدمات؟ با این حال، تیم سازنده اطمینان دارند که دست روی بحران و مسئله کاملاً درستی گذاشته‌اند.

ژائو می‌گوید: «احتمالاً ما اولین شرکت سودآور در این حوزه خواهیم بود؛ چون هر کسی که بخواهد رباتش را وارد دنیای واقعی کند، چاره‌ای ندارد جز اینکه به ما پول بدهد تا خیالش را از امنیت ماجرا راحت کنیم!»