سیل گزارش‌های توهمی هوش مصنوعی کار دست گوگل داد: توقف برنامه پاداش کشف باگ!

برنامه‌های پاداش کشف باگ (Bug Bounty) همیشه قراری دو سر برد بودند: سازمان‌های بزرگ روزنه‌های امنیتی خود را می‌بندند و هکرهای ماهر هم در ازای پیدا کردن این آسیب‌پذیری‌ها دستمزد خوبی به جیب می‌زنند. اما با پیشرفت و همه‌گیری هوش مصنوعی، ورق برگشته و این برنامه‌ها زیر بار سیل عظیمی از گزارش‌های بی‌کیفیت دفن شده‌اند؛ گزارش‌هایی که به جای پژوهشگران واقعی، توسط مدل‌های زبانی بزرگ (LLM) تولید شده‌اند و پر از باگ‌های ساختگی، غیرقابل نفوذ یا اصطلاحاً خطاهای توهمی هستند.

این وضعیت به جای آنکه کمکی به شرکت‌ها بکند، به مانعی بزرگ تبدیل شده و گوگل را مجبور کرده درست مانند پروژه‌های کِرل (Curl)، اینتل (Intel) و هکر‌وان (HackerOne)، برنامه پاداش نقدی خود موسوم به «برنامه گزارش آسیب‌پذیری نرم‌افزارهای متن‌باز» (به اختصار OSS VRP) را به حالت تعلیق درآورد. این برنامه از پردرآمدترین برنامه‌های باگ‌بانتی در دنیای وب بود و توقف آن یعنی متخصصان امنیت و هکرهای کلاه‌سفید یکی از بهترین راه‌های کسب درآمد از مهارت‌هایشان را از دست داده‌اند. جالب است بدانید گوگل در این برنامه برای آسیب‌پذیری‌های بسیار خطرناک تا ۳۱٬۳۳۷ دلار پاداش پرداخت می‌کرد و این رقم در اینتل حتی به ۱۵۰ هزار دلار هم می‌رسید.

البته این به معنای پایان همیشگی برنامه OSS VRP نیست. گوگل می‌گوید با اینکه اکثر قریب به اتفاق گزارش‌های خودکار کاملاً فاقد اعتبار و بی‌مصرف هستند، اما این شرکت متعهد شده ساختار برنامه را کاملاً بازطراحی کند و نسخه تازه آن را در اوایل سال ۲۰۲۷ به نمایش بگذارد. تا آن زمان، شکارچیان باگ می‌توانند روی سایر بخش‌های پاداش آسیب‌پذیری و پچ‌های امنیتی گوگل حساب باز کنند که همچنان فعال هستند. البته یک گزینه هیجان‌انگیز دیگر هم پیش روی آن‌هاست: تلاش برای شکار جایزه ۲ میلیون دلاری اپل در ازای یافتن آسیب‌پذیری‌هایی که قدرتی در حد بدافزارهای جاسوسی پیشرفته دارند!

هوش مصنوعی تا مغز استخوان اینترنت نفوذ کرده است

شاید غافلگیر شوید اگر بدانید این روز‌ها بخش اعظم محتوایی که در اینترنت می‌بینید، ساخته دست هوش مصنوعی است؛ از مقالات و قطعات موسیقی گرفته تا پست‌ها و کامنت‌های شبکه‌های اجتماعی که همگی با مدل‌های زبانی نگارش شده‌اند. هنرمندان به درستی از این بهمن محتوایی انتقاد می‌کنند و آن را خروجی‌هایی پیش‌پاافتاده می‌دانند، اما این بحران گریبان خود غول‌های هوش مصنوعی را هم گرفته است. پژوهشگران هشدار می‌دهند وقتی هوش مصنوعی از محتوای تولیدشده توسط خودش تغذیه کند، به مرور کندذهن‌تر و بی‌کیفیت‌تر می‌شود؛ پدیده‌ای که در علوم داده به قانون «ورودی آشغال، خروجی آشغال» (Garbage in, Garbage out) شهرت دارد. از آنجا که ابزار‌هایی مانند ChatGPT با داده‌های عمومی وب از جمله پلتفرم ردیت آموزش می‌بینند، یک چرخه فرسایشی و معیوب شکل می‌گیرد. دقیقاً به همین دلیل است که شرکت‌هایی مثل گوگل و آنتروپیک (Anthropic) به سراغ پروژه‌های عظیمی برای اسکن کتاب‌های چاپی رفته‌اند؛ زیرا این کتاب‌ها محتوایی دست‌نخورده و کاملاً انسانی از دورانی هستند که هوش مصنوعی هنوز به جان اینترنت نیفتاده بود.

البته این بدان معنا نیست که هوش مصنوعی کاربرد مفیدی ندارد. این فناوری توانمندی شگفت‌انگیز خود را در تشخیص زودهنگام برخی سرطان‌ها، دسترس‌پذیر کردن ابزار‌ها با تبدیل گفتار به متن و زیرنویس زنده، و حتی طراحی داروهای انقلابی برای بیماری‌هایی نظیر پارکینسون اثبات کرده است. حتی در دنیای کشف باگ نیز دستی بر آتش دارد و اخیراً توانسته بیش از ۱٬۰۰۰ آسیب‌پذیری را در لینوکس شناسایی کند. با این حال، تفاوت در اینجاست که گزارش‌های اسپم و بی‌کیفیت معمولاً توسط کاربرانی ارسال می‌شوند که درک درستی از امنیت سایبری ندارند و بدون کوچک‌ترین راستی‌آزمایی، توهمات هوش مصنوعی را به عنوان رخنه امنیتی واقعی جا می‌زنند.

ابزار‌های هوش مصنوعی به زودی فراگیرتر، رایگان‌تر و پرقدرت‌تر خواهند شد و می‌توانند حجم نامحدودی از محتوایی را خلق کنند که در نگاه اول کاملاً درست به نظر می‌رسد. در نتیجه، سوءاستفاده از این ابزار‌ها نیز رشد چشمگیری خواهد داشت؛ در حالی که انسان‌ها هنوز آمادگی لازم را برای مواجهه با آن ندارند. غول‌هایی مثل گوگل ناچارند سازوکارهای کنترل کیفیت بسیار قدرتمندتری بسازند و منابع زیادی را خرج کنند تا شاید در میان این اقیانوس بیکران از اسپم، چند قطره باگ واقعی و ارزشمند بیرون بکشند.