کجا باید ترمز هوش مصنوعی را بکشیم؟ درس‌های حیاتی از دنیای جرم‌یابی دیجیتال

این روز‌ها ردپای هوش مصنوعی کم‌کم در همه حوزه‌ها و جریان‌های کاری دیده می‌شود. از برنامه‌نویس‌هایی که برای نوشتن و تست کدها سراغش می‌روند تا تیم‌های پشتیبانی که پاسخ‌گویی به سؤالات تکراری را به آن می‌سپارند و البته تیم‌های امنیتی که برای تحلیل هشدارها و پیگیری سرنخ‌ها رویش حساب باز می‌کنند. در این میان، حوزه حساس «جرم‌یابی دیجیتال و پاسخ به حوادث» (DFIR) هم مستثنی نیست.

این دیدگاه تخصصی توسط مدیر دپارتمان جرم‌یابی دیجیتال و پاسخ به حوادث در مؤسسه معتبر SANS مطرح شده است.

با وجود اینکه حوزه جرم‌یابی دیجیتال طی چند دهه گذشته پیشرفت‌های زیادی به خود دیده، اما یک اصل طلایی همیشه ثابت مانده است: ابزار‌ها می‌توانند مسیر تحقیقات را هموار کنند، اما مسئولیت نهایی صحت نتایج و تصمیم‌گیری‌ها همیشه و بدون استثنا بر دوش خود محقق و بازرس است. با گره خوردن روزافزون هوش مصنوعی به تار و پود صنایع مختلف، چالش اصلی این است که دقیقاً بفهمیم این ابزار‌ها کجا واقعاً کمک‌دست ما هستند، کجا تخصص انسان جایگزین‌ناپذیر است و از همه مهم‌تر، سازمان‌ها دقیقاً کجا باید خط قرمز بکشند و ترمز هوش مصنوعی را بکشند.

جایی که هوش مصنوعی واقعاً ارزش‌آفرینی می‌کند

برای تیم‌های جرم‌یابی دیجیتال و واکنش به حوادث سایبری، جذاب‌ترین کاربردهای هوش مصنوعی در واقع همان کاربردهای روزمره و عملیاتی هستند.

امروزه با توجه به اینکه پای ردپای دیجیتال به ۹۰ درصد از پرونده‌های کیفری و قضایی باز شده است، تیم‌های DFIR ناچارند حجم واقعاً سرسام‌آوری از داده‌ها را زیر و رو کنند. جالب است بدانید تا فوریه سال جاری میلادی، فقط در انگلستان و ولز بیش از ۲۰ هزار دستگاه الکترونیکی در صف طولانی بررسی و استخراج اطلاعات معطل مانده‌اند.

داده‌ها میان سیستم‌های کاربران، سرویس‌های ابری، پلتفرم‌های پیام‌رسان و حساب‌های کاربری مختلف پراکنده شده‌اند و اینجاست که هوش مصنوعی می‌تواند به عنوان یک ابزار اولویت‌بندی فوق‌العاده به کمک بازرسان بیاید. این فناوری قادر است اطلاعات حجیم را با سرعتی باورنکردنی پردازش کند، سرنخ‌های کلیدی را به موقع بیرون بکشد، ارتباطات پنهان بین داده‌های مختلف را نشان دهد و شواهد مهمی را که نیاز به بررسی دقیق‌تر انسانی دارند، زیر ذره‌بین بگذارد.

برای نمونه، هوش مصنوعی می‌تواند فعالیت‌های مرتبط میان چندین دستگاه، حساب کاربری و پایگاه داده مختلف را به یکدیگر پیوند بزند و بازسازی خط زمانی حوادث (Timeline) را که قبلاً روز‌ها کار دستی زمان می‌برد، در کسری از ثانیه شبیه‌سازی کند. علاوه بر این، این ابزار‌ها در سر و سامان دادن به اطلاعات شلخته و تنظیم گزارش‌های فنی ساختاریافته عالی عمل می‌کنند و باعث می‌شوند متخصصان، زمان کمتری را صرف کار‌های اداری کسل‌کننده کرده و تمرکزشان را روی اصل ماجرا یعنی تحلیل بگذارند.

اگر از هوش مصنوعی درست و هوشمندانه استفاده شود، کار‌های تکراری و وقت‌گیر دستی به حداقل می‌رسد و کارشناسان باتجربه وقت کافی پیدا می‌کنند تا با تحلیل عمیق و تصمیم‌گیری‌های درست، پرونده‌ها را جلو ببرند.

دام بزرگ؛ نگاه به هوش مصنوعی به عنوان پاسخ قطعی

چالش بزرگ و دردسرساز اینجاست که هوش مصنوعی لحن بسیار مطمئن و قاطعانه‌ای دارد؛ موضوعی که متأسفانه باعث می‌شود خیلی‌ها چشم‌بسته به خروجی‌هایش اعتماد کنند.

یکی از درس‌های کلیدی و ماندگار در جرم‌یابی دیجیتال این است که هر ابزاری محدودیت‌های خاص خودش را دارد. کارشناسان کهنه‌کار خوب می‌دانند که ابزار‌های فارنزیک هم ممکن است به اشتباه بیفتند، و هوش مصنوعی هم از این قاعده مستثنی نیست. در واقع بزرگ‌ترین خطر زمانی رخ می‌دهد که بدون داشتن سواد و درک پایه‌ای از نحوه کار سیستم، از هوش مصنوعی استفاده کنیم و در نتیجه نتوانیم خطاهایش را تشخیص دهیم.

هوش مصنوعی دقیقاً شبیه یک تحلیل‌گر تازه‌کار و جوان در بهترین روز کاری‌اش است؛ می‌تواند الگوها را تشخیص دهد، بخش‌های مهم را مشخص کند و چرخ کار را بچرخاند. اما هیچ مجموعه‌ای اجازه نمی‌دهد یک کارآموز یا تحلیل‌گر صفرکیلومتر، بدون نظارت دقیق و پذیرش مسئولیت، در یک پرونده حساس و امنیتی تصمیم نهایی را بگیرد! نحوه مواجهه با هوش مصنوعی هم باید دقیقاً به همین شکل باشد.

مشکلات دقیقاً زمانی اوج می‌گیرند که سازمان‌ها به جای اینکه خروجی هوش مصنوعی را به عنوان سرنخی ببینند که باید توسط متخصصی دانا اعتبارسنجی و به چالش کشیده شود، آن را به عنوان یک «جواب قطعی» قبول می‌کنند. هوش مصنوعی می‌تواند به شما کمک کند به یک نتیجه برسید، اما خودش هرگز نباید نتیجه نهایی تلقی شود.

ترسیم مرزهای باریک؛ خط قرمز کجاست؟

با اینکه هوش مصنوعی در بخش‌های زیادی بازدهی کار را جهش می‌دهد، اما حوزه‌هایی هم وجود دارند که تحت هیچ شرایطی نباید پای این فناوری به آن‌ها باز شود؛ سازمان‌ها باید کاملاً هوشیار باشند و این مرزهای قرمز را بشناسند.

در جرم‌یابی دیجیتال، هوش مصنوعی می‌تواند بخش‌هایی را که نیاز به بازبینی موشکافانه دارند پررنگ کند و سرعت تحلیلگران را بالا ببرد. اما نباید با چشم بسته به آن اعتماد کرد تا به تنهایی نتیجه‌گیری حقوقی کند یا گناهکار و بی‌گناه را تشخیص دهد.

چنین تصمیماتی عواقب حقوقی، حرفه‌ای و حتی سرنوشت‌ساز برای جان و زندگی انسان‌ها به همراه دارند و به همین خاطر، قضاوت نهایی و مسئولیت‌پذیری انسان به هیچ عنوان قابل مذاکره نیست.

این اصل اساسی فقط مختص پرونده‌های قضایی و فارنزیک نیست. سازمان‌ها در هر حوزه‌ای که هستند باید تکلیف خود را با میزان اختیاراتی که به هوش مصنوعی واگذار می‌کنند، روشن کنند. هرچند پاسخ برای هر حوزه متفاوت خواهد بود، اما پرسش بنیادین یکسان است: چه محافظ‌ها و فیلترهایی طراحی کرده‌اید تا افراد به خروجی هوش مصنوعی وابسته نشوند و چطور قرار است بفهمید فلان خروجی اشتباه از آب درآمده است؟

چارچوب‌سازی برای به‌کارگیری مسئولانه هوش مصنوعی

این‌ها دقیقاً همان دغدغه‌هایی هستند که چارچوب‌های استاندارد و جدید به‌کارگیری هوش مصنوعی در جرم‌یابی دیجیتال و مدیریت بحران به دنبال پاسخ دادن به آن‌ها هستند. این مدل‌ها سازمان‌ها را موظف می‌کنند پیش از هر اقدامی میزان ریسک هر فرآیند، چگونگی بازبینی خروجی‌ها و نقاط حساسی را که نظارت مستقیم انسان در آن‌ها الزامی است، مشخص کنند.

استفاده از هوش مصنوعی در حوزه DFIR نیازمند کنترل و نظارت سفت‌وسخت است؛ زیرا خطرات و عواقب آن بسیار سنگین است. وقتی پای سرنوشت و آزادی یک انسان در میان است و کوچک‌ترین اشتباه می‌تواند به محکومیت ناحق فردی بی‌گناه بینجامد، خطاهای سیستم به هیچ وجه شوخی‌بردار نیستند. البته نباید حتماً کار به چنین فجایعی بکشد تا سازمان‌ها به فکر سلامت تصمیم‌گیری‌های خود بیفتند و مطمئن شوند فرمان هدایت هنوز در دست خود انسان است.

سازمان‌ها به جای اینکه شتاب‌زده مسابقه بگذارند تا هوش مصنوعی را در تمامی فرایندهای خود فرو کنند، بهتر است ابتدا چارچوب‌های حاکمیتی دقیق بسازند و مشخص کنند هوش مصنوعی هرگز حق دخالت در چه کار‌هایی را ندارد. پس از آن می‌توانند سراغ کاربردهای کم‌ریسک بروند؛ بخش‌هایی که خطاهای احتمالی به راحتی قابل ویرایش یا بازگشت باشند. در نهایت، با افزایش توانایی‌ها می‌توان دید که هوش مصنوعی چطور می‌تواند بال پرواز تیم‌ها شود و کارایی آن‌ها را چند برابر کند، نه اینکه خودسرانه بر صندلی قضاوت نهایی تکیه بزند.