مدیر ارشد اسنوفلیک از آینده سازمان‌ها در عصر ایجنت‌ها می‌گوید: «امنیت ترمز هوش مصنوعی نیست، رمز اعتماد است!»

در رویداد جهانی اسنوفلیک در لندن (Snowflake World Tour London)، بحث داغ «سازمان‌های مبتنی بر ایجنت» تیتر اول گفت‌وگوها بود؛ تحولی که نشان می‌دهد ابزار‌های هوش مصنوعی با سرعتی باورنکردنی در حال دگرگون کردن شیوه کار کسب‌وکارهای کوچک و بزرگ هستند.

اما در شرایطی که هر روز تیترهای نگران‌کننده‌ای درباره خطرات یا چالش‌های هوش مصنوعی منتشر می‌شود، شرکت‌ها چطور می‌توانند مطمئن باشند که در این موج جدید، همچنان یک همکار تجاری امن و قابل‌اعتماد باقی می‌مانند؟

برای درک این‌که ساخت یک سازمان واقعی و قابل‌اعتماد بر پایه ایجنت‌ها نیازمند چه الزاماتی است، در حاشیه این گردهمایی گفت‌وگویی با مایانک اوپادیای (Mayank Upadhyay)، مدیر ارشد امنیت و اعتماد شرکت اسنوفلیک انجام شد.

«قرص و محکم مثل سنگ»؛ شالوده امنیتی ایجنت‌ها

اوپادیای در این گفت‌وگو می‌گوید: «امسال تمرکز اصلی همه روی این بود که چطور هوش مصنوعی را مهار و مدیریت کنیم. این ماجرا دو روی یک سکه است؛ از یک طرف باید مطمئن شوید که هوش مصنوعی دیگران به حریم امنیتی شما نفوذ نکند، و از طرف دیگر باید هوش مصنوعی خودتان را جوری تنظیم کنید که درست رفتار کند؛ یعنی نه تنها اطلاعات حساس سازمان را لو ندهد، بلکه ناخواسته سر از جاهای اشتباهی درنیاورد یا از محدوده مجازش فراتر نرود.»

او تأکید می‌کند: «وقتی سازمان‌ها داده‌هایشان را به ما می‌سپارند، پلتفرم ما باید در برابر حملات پیچیده ایجنت‌ها کاملاً نفوذناپذیر و ایمن باشد.»

اوپادیای با اشاره به سخنرانی اصلی این همایش، ساختار یک سازمان موفق در عصر ایجنت‌ها را تشریح کرد؛ او مدل هوش مصنوعی را به «مغز انسان» و ایجنت را به «بدن» تشبیه کرد که هر دوی آن‌ها روی بستری از داده‌ها فعالیت می‌کنند؛ بستری که به تعبیر او باید «کاملاً قرص و محکم» باشد.

در پاسخ به این پرسش که اسنوفلیک چطور میان هیجان شرکت‌ها برای استفاده از هوش مصنوعی و لزوم حفظ حریم خصوصی تعادل برقرار می‌کند، اوپادیای به نکته جالبی اشاره کرد.

او توضیح داد که مشتریان در سطوح مختلفی از پیاده‌سازی هوش مصنوعی قرار دارند، اما تفاوت بنیادین این است که امنیت «اکنون شتاب‌دهنده و توانمندساز است، نه ترمز یا مانع پیشرفت». اوپادیای با نقل‌قولی از ماریو آندرتی، راننده سرشناس مسابقات اتومبیل‌رانی، اضافه کرد: در رانندگی شاید در نگاه اول فشردن پدال ترمز به معنای کند حرکت کردن به نظر برسد، اما در حقیقت همین ترمز است که هنگام پیچیدن به راننده جرئت و اعتمادبه‌نفس می‌دهد؛ وگرنه بدون ترمز مجبور بودید تمام مسیر را فوق‌العاده آهسته برانید.

او می‌گوید: «نگاه من به امنیت دقیقاً همین است؛ عاملی که به شما جرئت حرکت می‌دهد. به همین دلیل به مشتریان می‌گوییم ایجاد خطوط قرمز (گاردریل‌ها) و ابزار‌های کنترلی مناسب را به ما بسپارید تا خیالتان از عملکرد سیستم کاملاً راحت باشد.»

این حفاظت عمدتاً از طریق ابزار اختصاصی اسنوفلیک به نام «ترست سنتر» (Trust Center) محقق می‌شود؛ ابزاری که میان لایه‌های مختلف ارتباط برقرار می‌کند، امنیت داده‌ها را تضمین می‌نماید و هم‌زمان دید کاملی از نقاط ضعف یا نیازهای سیستم به کسب‌وکارها می‌دهد.

اوپادیای یادآور شد که اسنوفلیک بیش از ۱۲ سال سابقه فعالیت دارد؛ اعتباری ارزشمند که مایه اطمینان خاطر مشتریان شده است.

او همچنین به نوآوری‌های پرشتاب در ایجاد خطوط محافظ جدید برای هوش مصنوعی اشاره کرد. به گفته او، وقتی کارمندان سال‌ها در یک شرکت کار می‌کنند، دسترسی‌های متعددی به سیستم‌های گوناگون به دست می‌آورند که شاید دیگر نیازی به آن‌ها نداشته باشند؛ موضوعی که اگر کارمند ایجنتی را با دسترسی‌های شخصی خودش اجرا کند، می‌تواند ریسک‌های امنیتی جدی بسازد.

از همین رو، مدیریت و بازبینی دقیق دسترسی‌ها برای ایجنت‌های هوش مصنوعی (که ذاتاً پویا و کاوشگر هستند)، نقشی اساسی در جلوگیری از خطاها و امن ماندن داده‌ها ایفا می‌کند.

در بخش دیگری از این همایش، پلتفرم‌های جدید اسنوفلیک با نام‌های «کوکو» (Coco) و «کوورک» (CoWork) معرفی شدند و اوپادیای توضیح داد که این سرویس‌ها چطور بازدهی شرکت‌ها را بالا می‌برند.

او می‌گوید: «ماجرا ترکیبی از کار نیروی انسانی و اتوماسیون است؛ همان کار‌های روتین و خسته‌کننده‌ای که پیش‌تر وقت زیادی از شما می‌گرفت، حالا به‌سادگی توسط هوش مصنوعی انجام می‌شود.»

او در ادامه افزود: «نکته جذاب اینجاست که این فرآیندها دیگر کاملاً خطی و خشک نیستند. جاهای حساسی هست که تمام این بخش‌های خودکارسازی به هم پیوند می‌خورند و همچنان به نظارت انسان نیاز دارید. این ساختار درست مثل یک هرم است؛ در قاعده بزرگ هرم، حجم بالایی از کار‌های ساده و روزمره قرار دارند، در لایه‌های میانی کار‌های تخصصی‌تر، و در قله هرم تصمیم‌گیری‌های فوق‌العاده حیاتی و استراتژیک نشسته‌اند که قطعاً باید توسط انسان بررسی شوند.»

او تصریح می‌کند: «در این هرم هرچه بیش‌تر پیش بروید و کار‌های پایه‌ای را به هوش مصنوعی بسپارید، اعتمادبه‌نفس سازمان بیش‌تر می‌شود و می‌توانید پله‌های بعدی را با سرعت طی کنید.»

اوپادیای در پایان با قاطعیت می‌گوید: «فناوری همین حالا اینجاست و کاملاً واقعی است؛ پس دیگر منتظر نمانید، چون وقت عمل است!»