جذب سرمایه ۲۱ میلیون دلاری استارتاپ Opsin برای مهار خرابکاری ایجنت‌های هوش مصنوعی در شرکت‌ها

استارتاپی که برای مهار خرابکاری ایجنت‌های هوش مصنوعی ۲۱ میلیون دلار سرمایه گرفت

در بسیاری از محیط‌های کاری پیشرفته، تعداد ایجنت‌های هوش مصنوعی کم‌کم دارد از نیروهای انسانی هم بیش‌تر می‌شود؛ اما نظارت بر این همکاران دیجیتال به مراتب سخت‌تر و پیچیده‌تر از آدم‌هاست.

استارتاپ Opsin که در حوزه امنیت و حاکمیت هوش مصنوعی فعالیت می‌کند، اعلام کرد برای پاسخ به این نیاز مبرم توانسته ۲۱ میلیون دلار سرمایه جدید جذب کند. در شرایطی که کارمندان در شرکت‌های مختلف روزبه‌روز ایجنت‌های ساخته‌شده توسط غول‌هایی مثل OpenAI و مایکروسافت را به بخش‌های بیشتری از کارهایشان متصل می‌کنند، این استارتاپ به کمک کسب‌وکارها آمده تا این مهمان‌های ناخوانده و بالقوه پرخطر را مهار و مدیریت کند.

این روز‌ها به لطف پیشرفت ابزارها، ساخت و به‌کارگیری ایجنت‌ها برای افراد غیرفنی هم مثل آب خوردن شده است؛ نرم‌افزارهای خودکاری مبتنی بر هوش مصنوعی که می‌توانند کار‌های مختلف را به شکل مستقل انجام دهند. اما مشکل درست از جایی شروع می‌شود که کارمندان این نرم‌افزارها را به فرایندهای کاری، کدها و پایگاه‌های داده سازمان متصل می‌کنند و کم‌کم کنترل ماجرا از دستشان خارج می‌شود؛ تا جایی که دیگر هیچ‌کس دقیقاً نمی‌داند این هوش مصنوعی پشت‌پرده مشغول انجام چه کاری است.

جیمز فام (James Pham)، مدیرعامل و هم‌بنیان‌گذار Opsin، وقتی متوجه شد نگرانی‌های امنیتی ترمز استفاده از هوش مصنوعی را در شرکت‌ها کشیده، تصمیم گرفت کسب‌وکارش را گسترش دهد. او در مصاحبه‌ای توضیح می‌دهد که ترس سازمان‌ها از نفوذ و نشت اطلاعات، مانع اصلی بهره‌وری بوده است.

فام در این باره می‌گوید: «ایجنت‌ها خیلی بیش‌تر از آنچه فکرش را بکنید شبیه انسان‌ها رفتار می‌کنند؛ دلیلش هم این است که شما در حالت عادی متوجه نمی‌شوید در مغز یک انسان چه می‌گذرد، اما می‌توانید او را از روی رفتارهایش قضاوت کنید. در مورد ایجنت‌ها هم دقیقاً همین قضیه صدق می‌کند.»

هدف اصلی Opsin این است که دیدی کاملاً شفاف و ۳۶۰ درجه از تمام کار‌هایی که ایجنت‌های هوش مصنوعی درون یک سازمان انجام می‌دهند و خطرات احتمالی آن‌ها ارائه کند. راند جدید تامین مالی این شرکت حدوداً ۲۰ نفره توسط صندوق‌های سرمایه‌گذاری SYN Ventures و Race Capital رهبری شده و قرار است صرف توسعه تیم‌های مهندسی و فروش شود.

متخصصان امنیت به دنبال تمیزکاری خرابکاری ایجنت‌های هوش مصنوعی

فام که فارغ‌التحصیل دانشگاه MIT است، به همراه یکی دیگر از هم‌بنیان‌گذارانش به نام آز واسرمن (Oz Wasserman)، پیش‌تر در شرکت Abnormal Security با یکدیگر آشنا شدند و هر دو در سال ۲۰۲۲ از آنجا جدا شدند. وقتی تصمیم گرفتند شرکت جدید خودشان را راه بیندازند، با صدها نفر از فعالان صنعت گپ زدند تا بفهمند دغدغه‌های اصلی ورود هوش مصنوعی به کسب‌وکارها چیست.

در این میان، موضوع داده‌های حساس و محرمانه حسابی پررنگ شد. فام می‌گوید تقریباً همه افراد نگران این بودند که ایجنت‌های هوش مصنوعی به اطلاعات شخصی یا محرمانه شرکت دسترسی پیدا کنند و از آن‌ها سوءاستفاده شود.

حالا Opsin به مشتریانش نشان می‌دهد ایجنت‌ها دقیقاً در کدام بخش‌ها فعال هستند، به چه ابزار‌ها و داده‌هایی دسترسی دارند، اصلاً از اول برای چه کاری ساخته شده بودند و کدام‌یک از آن‌ها باید غیرفعال یا پاکسازی شوند. علاوه بر این، این پلتفرم با نظارت مداوم بر روند کاری شرکت‌ها، چشم از ایجنت‌ها برنمی‌دارد و هرگونه رفتار مشکوک یا پرخطر را فوراً گزارش می‌کند.

فام تاکید می‌کند: «در نهایت، همه چیز به رفتار کاربران و رفتار خودِ ایجنت برمی‌گردد و باید دید چه تعاملی بین آن‌ها شکل می‌گیرد.»

به گفته او، گستردگی استفاده از ایجنت‌ها حتی در شرکت‌هایی که چندان های‌تک نیستند هم مشتریان را حسابی شگفت‌زده کرده است. فام فاش کرد در یکی از شرکت‌هایی که با Opsin همکاری می‌کرد، ایجنتی که توسط مدیر ارشد مالی (CFO) ساخته شده بود، به‌طور کاملاً ناخواسته دسترسی سطح بالایی به اطلاعات مالی حساس سازمان را در اختیار سایر کارمندان عادی قرار داده بود!

تهدیدهای سایبری هوش مصنوعی؛ محرکی تازه برای رونق بازار امنیت

صنعت امنیت سایبری این روز‌ها در تب‌وتاب شدیدی به سر می‌برد و حالا رشد تصاعدی ایجنت‌ها این آتش را شعله‌ورتر کرده است. گلن چیشولم (Glenn Chisholm)، یکی از سرمایه‌گذاران حوزه امنیت در صندوق SYN Ventures که از Opsin حمایت مالی کرده، در گفت‌وگویی اشاره می‌کند با افزایش استفاده شرکت‌ها از محصولات هوش مصنوعی، هکرها هم اهداف به مراتب بیشتری برای نفوذ پیدا خواهند کرد.

چیشولم می‌گوید: «هرچه افراد بیشتری به سمت استفاده از این ابزار‌ها بروند، پیدا کردن راه نفوذ و سواستفاده از آن‌ها برای مهاجمان سایبری هم آسان‌تر می‌شود.»

سهام شرکت‌های دفاع سایبری امسال با رشد چشمگیری همراه بوده و به گفته چیشولم، سرمایه‌گذاران خطرپذیر مبالغ سنگین‌تری را به این بخش سرازیر کرده‌اند. از سوی دیگر، شرکت‌های پیشرو مثل Anthropic و OpenAI هم با سرعت زیادی در حال استخدام متخصصان نخبه امنیت سایبری هستند.

استارتاپ Opsin امیدوار است بتواند کاری کند که شرکت‌ها با خیال آسوده‌تری از ابزار‌هایی مثل Microsoft Copilot، نسخه سازمانی چت‌جی‌پی‌تی (ChatGPT Enterprise) و سایر محصولات مشابه استفاده کنند. چیشولم هم نسبت به سازگاری این صنعت با هوش مصنوعی کاملاً خوش‌بین است.

او در پایان می‌گوید: «طی دو سال آینده، ما به جای اینکه مدام از موجودیت هوش مصنوعی بترسیم، تمرکزمان روی این خواهد بود که یاد بگیریم چطور بیش‌ترین بهره و کارایی را از آن بیرون بکشیم.»