آدمک‌های تست تصادف برای هوش مصنوعی؛ استارتاپی که مانع آسیب روانی چت‌بات‌ها به کودکان می‌شود

در هیاهوی بحث‌های داغ درباره اینکه هوش مصنوعی چطور ممکن است روزی نسل بشر را نابود کند، خیلی راحت فراموش می‌کنیم که همین حالا هم هوش مصنوعی برای برخی افراد مرگبار بوده است؛ نه از طریق سلاح‌های بیولوژیکی یا سناریوهای فیلم‌های علمی‌تخیلی، بلکه از راه ضربه‌های شدید روانی.

به عنوان مثال، شرکت کَرَکتر دات ای‌آی (Character.AI) اوایل امسال با خانواده چند کاربر زیر سن قانونی که پس از ساعت‌ها گفت‌وگو با چت‌بات‌ها دست به خودکشی زده بودند، برای حل‌وفصل پرونده‌های قضایی به توافق رسید. همچنین چندین خانواده دیگر علیه اوپن‌ای‌آی (OpenAI) شکایت کرده و مدعی شده‌اند چت‌بات محبوب ChatGPT نقش مستقیمی در توهمات شدید و تصمیم عزیزانشان برای پایان دادن به زندگی داشته است.

امن‌تر کردن هوش مصنوعی برای زبان‌ها و فرهنگ‌های گوناگون، ماموریت اصلی استارتاپی به نام «سیرکیت بریکر لبز» (Circuit Breaker Labs) است؛ تیمی که می‌خواهد با شیوه‌ای نوآورانه جلوی این خطرات وحشتناک را بگیرد.

شیرالی نیگام و آرول نیگام، خواهر و برادری که هم‌بنیان‌گذاران این استارتاپ هستند، انگیزه راه‌اندازی این پروژه را ماجرای تلخ «سول ستزر» (Sewell Setzer) عنوان می‌کنند؛ نوجوان ۱۴ ساله‌ای که به شکل عمیقی به یک چت‌بات در پلتفرم Character.ai وابسته شده بود و پیش از خودکشی، از تمایلش به آسیب زدن به خود با آن ربات صحبت کرده بود. طبق ادعای والدین در دادگاه، چت‌بات در پاسخ نه تنها او را منصرف نکرده، بلکه وی را تشویق کرده بود. به گفته آرول نیگام، مدیر ارشد فناوری استارتاپ، این ربات احتمالاً اصلاً درک نکرده بود که جملاتی مانند «می‌خواهم در کنار تو باشم» در آن شرایط بحرانی چه معنای هولناکی دارد.

آرول نیگام در این رابطه توضیح می‌دهد: «خیلی از آدم‌ها، به‌ویژه نسل جوان، برای پیدا کردن گوش شنوا و حمایت عاطفی سراغ این سیستم‌ها می‌روند؛ اما معمولاً کمکی که واقعاً به آن نیاز دارند را دریافت نمی‌کنند. بد‌تر اینکه در موارد متعددی به طور مستقیم آسیب می‌بینند و متاسفانه تاکنون افرادی جانشان را از دست داده‌اند. ما دقیقاً به دنبال مهار همین رخنه‌های امنیتی هستیم؛ شرایطی که کاربر اصلاً قصد فریب دادن یا هک سیستم را ندارد و کاملاً طبیعی صحبت می‌کند، اما مدل هوش مصنوعی دچار آلودگی سیاق مکالمه می‌شود، ظرافت‌ها و کنایه‌های کلامی را نمی‌فهمد و دست به اقداماتی فوق‌العاده خطرناک می‌زند.»

استارتاپ Circuit Breaker Labs برای حل این چالش، ایجنت‌های هوش مصنوعی ویژه‌ای طراحی کرده که عملکردشان دقیقاً شبیه به ارتشی از «آدمک‌های تست تصادف» در خودروسازی است. این ایجنت‌ها رفتار افراد در هر سن و سال، پیشینه اجتماعی، زبان و فرهنگی را مو‌به‌مو شبیه‌سازی می‌کنند تا توانایی مدل‌های اصلی را در شناسایی تعاملات خطرناک و آسیب‌های روانی بیازمایند.

شیرالی نیگام، مدیرعامل این استارتاپ، می‌گوید: «لحن و ادبیات یک دختربچه ۶ ساله با یک مرد ۴۵ ساله از زمین تا آسمان فرق دارد؛ درست مثل تفاوت کسی که انگلیسی زبان مادری‌اش است با کسی که آن را به عنوان زبان دوم یاد گرفته، یا اصطلاحات خاص گیمرها در مقایسه با سایر گروه‌ها. همه این تفاوت‌ها می‌توانند مدل هوش مصنوعی را به راحتی به اشتباه بیندازند. مدل‌ها در پردازش الگوهای گفتاری رسمی و کتابی عالی عمل می‌کنند، اما واقعیت این است که در زندگی روزمره هیچ‌کس آن‌طور حرف نمی‌زند. در نتیجه اگر مدل نتواند زبان عامیانه یا کنایه‌ها را تشخیص دهد، فاجعه به بار می‌آید.»

این استارتاپ با همکاری متخصصان و روان‌شناسان، شبیه‌سازی‌های فوق‌العاده واقع‌گرایانه‌ای از کاربران واقعی می‌سازد تا آزمون‌های «تیم قرمز» (Red-Team) را روی مدل‌ها پیاده‌سازی کند؛ تست‌های تهاجمی ویژه‌ای که با هدف کشف نقاط ضعف و حفره‌های امنیتی انجام می‌شوند. این ارزیابی‌ها مواردی چون الگوهای گفتاری واقعی انسان‌ها، اصطلاحات عامیانه، کدهای رمزی نوجوانان و حتی غلط‌های املایی را بازتاب می‌دهند. استارتاپ با این روش، روزانه بین ده‌ها هزار تا صدها هزار مکالمه شبیه‌سازی‌شده را روی مدل‌ها اجرا می‌کند.

ایده اصلی این است که مطمئن شوند مدل‌ها می‌توانند به موقعیت‌های پرخطر که به مرور زمان و در طول مکالمات طولانی شکل می‌گیرند، پاسخی درست و امن بدهند. در نهایت، Circuit Breaker Labs با استفاده از یک سیستم امتیازدهی اختصاصی، گزارش‌هایی شفاف، قابل ارزیابی و کاملاً مستند از ضریب ایمنی مدل به توسعه‌دهندگان ارائه می‌کند.

در حال حاضر، این آزمایشگاه امنیتی به سنجش و تست برنامه‌های پرریسک هوش مصنوعی مانند مربی‌های دیجیتال، برنامه‌های ثبت خاطرات روزانه یا اپلیکیشن‌های پشتیبانی سلامت روان می‌پردازد؛ هرچند آرول نیگام از افشای نام مشتریان سرشناس خود خودداری کرد. این استارتاپ اگرچه محصولی کاملاً عملیاتی دارد، اما هنوز در مراحل اولیه راه است و با احتساب این خواهر و برادر، تنها ۵ کارمند دارد.

با این حال، هدف نهایی این پلتفرم تست، کاربرد برای هر برنامه‌ای است که ممکن است کاربر را در گرداب «روان‌پریشی هوش مصنوعی» یا پیوندهای عاطفی یک‌طرفه (روابط شبه‌اجتماعی) با چت‌بات گرفتار کند؛ از جمله ایجنت‌های همکار سازمانی که پاسخ‌هایشان از یک تعامل تا تعامل بعدی دائم دستخوش تغییر می‌شود.

آرول نیگام با اشاره به نگرانی‌های جامعه می‌گوید: «مردم روزبه‌روز نسبت به هوش مصنوعی بدبین‌تر می‌شوند و برای استفاده از آن مقاومت نشان می‌دهند. تردید و پرسشگری اتفاقاً سالم و بجاست، اما پاک کردن صورت‌مسئله و تحریم کردن ابزاری تا این حد باارزش به خاطر دغدغه‌های امنیتی، حرکتی رو به عقب خواهد بود.»

از دید بنیان‌گذاران Circuit Breaker Labs، تنها پاسخ منطقی به این ترس‌ها، امن‌تر کردن هوش مصنوعی از ریشه است: «ما می‌خواهیم دوباره این حس اعتماد را برای مردم زنده کنیم.»