امان گوگل از زباله‌های هوش مصنوعی برید؛ برنامه پاداش کشف باگ منبع‌باز تعلیق شد!
گوگل به دلیل طوفان گزارش‌های فله‌ای و توهم‌آلود ناشی از هوش مصنوعی، برنامه پاداش کشف باگ‌های منبع‌باز خود را موقتاً تعطیل کرد. مهندسان این غول فناوری می‌گویند حجم انبوه این گزارش‌های خودکار و نامعتبر که با هوش مصنوعی سرهم‌بندی شده‌اند، امان تیم‌های بررسی امنیتی را بریده است.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- گوگل به دلیل هجوم شدید گزارش‌های بی‌کیفیت و سرهم‌بندی‌شده توسط هوش مصنوعی، برنامه پاداش باگ پروژه‌های منبع‌باز خود را متوقف کرد.
- مهندسان گوگل کلافه شده بودند؛ چراکه بیش‌تر این ارسال‌های خودکار کاملاً فیک و نامعتبر بودند و از توهمات مدل‌های هوش مصنوعی سرچشمه می‌گرفتند.
- این توقف تا اوایل سال ۲۰۲۷ ادامه خواهد داشت، هرچند هکرهای کلاه‌سفید همچنان می‌توانند در سایر برنامه‌های باگ‌باونتی گوگل فعالیت کنند.
گوگل با اشاره به «افزایش چشمگیر» گزارش‌های ارسال‌شده توسط ابزار‌های هوش مصنوعی، برنامه پاداش کشف باگ نرم‌افزارهای منبع‌باز خود را موقتاً متوقف کرد.
سال گذشته کارشناسان امنیت سایبری هشدار داده بودند که تولید فله‌ای گزارش‌های بی‌کیفیت با هوش مصنوعی (معروف به AI slop) به تهدیدی جدی برای برنامه‌های باگ‌باونتی تبدیل شده است. حالا به نظر می‌رسد این هشدار دقیقاً گریبان‌گیر «برنامه پاداش آسیب‌پذیری‌های نرم‌افزار منبع‌باز گوگل» شده؛ برنامه‌ای که در آن پژوهشگران امنیتی به ازای کشف آسیب‌پذیری‌های واقعی در پروژه‌های متن‌باز این شرکت، پاداش مالی می‌گرفتند.
گوگل در اطلاعیه‌ای در شبکه اجتماعی ایکس (توییتر سابق) و وب‌سایت رسمی این برنامه اعلام کرد که پذیرش گزارش‌ها از اول اکتبر متوقف شده و قرار است در سه‌ماهه اول سال ۲۰۲۷ یک «به‌روزرسانی» درباره وضعیت آن ارائه شود. به گزارش رسانه‌ها، مهندسان گوگل و مدیران پروژه‌های منبع‌باز زیر آوار گزارش‌هایی گرفتار شده بودند که یا کاملاً بی‌اساس بودند یا از خطاهای توهم‌آلود مدل‌های هوش مصنوعی ناشی می‌شدند.
گوگل در این باره اعلام کرد: «این وقفه به دلیل افزایش شدید ارسال‌های خودکار رخ داده که اکثریت قاطع آن‌ها به هیچ وجه معتبر نیستند.»
با وجود تعلیق این بخش، گوگل تأکید کرده پژوهشگران امنیتی و هکرهای کلاه‌سفید فعلاً می‌توانند روی سایر برنامه‌های پاداش باگ این شرکت فعالیت کنند.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
غوغای مدل فوق‌العاده سبک Gender-Classifier-Mini؛ ثبت دقت خیره‌کننده ۹۷.۲ درصدی و ۷۷۸ هزار دانلود ماهانه!
مدل بینایی جمع‌وجور و سبک Gender-Classifier-Mini توانسته با ثبت دقت ۹۷.۲ درصدی در تشخیص چهره، به بیش از ۷۷۸ هزار دانلود ماهانه در پلتفرم هاگینگ فیس دست پیدا کند. این مدل متن‌باز با حجم اندک خود به‌راحتی روی لپ‌تاپ‌های شخصی اجرا می‌شود و نشان می‌دهد که برای کار‌های تخصصی بینایی ماشین، همیشه نیازی به مدل‌های غول‌پیکر و پردازنده‌های سنگین ابری نیست.
زنگ خطر در سیستم درمان؛ نفوذ ایجنت‌های خودسر هوش مصنوعی به بیمارستان‌ها بدون مجوز IT!
در حالی که بیمارستان‌ها سخت درگیر مهار حملات سایبری هستند، تهدید غیرمنتظره جدیدی سر برآورده است: ایجنت‌های هوش مصنوعی که بدون تأیید بخش IT در سیستم‌های درمانی فعالیت می‌کنند. این دستیارهای خودمختار حالا با دسترسی به حساس‌ترین پرونده‌های پزشکی، مرزهای حریم خصوصی و امنیت داده‌ها را به چالش کشیده‌اند.
راز باهوش‌تر شدن هوش مصنوعی در برنامه «۶۰ دقیقه»؛ وقتی بلعیدن کل اینترنت هم کافی نیست!
مدل‌های هوش مصنوعی دیگر نمی‌توانند فقط با بلعیدن داده‌های اینترنت هوشمند‌تر شوند و برای جهش بعدی به تخصص واقعی انسان‌ها نیاز دارند. برنامه مشهور «۶۰ دقیقه» در گزارشی جذاب به سراغ استارتاپ مرکور رفته؛ جایی که بیش از ۱۰۰ هزار متخصص دست‌به‌کار شده‌اند تا به هوش مصنوعی مهارت‌های پیچیده انسانی بیاموزند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.