هک شدن OpenAI توسط پژوهشگران امنیتی با استفاده از هوش مصنوعی Claude
این حمله سایبری که در قالب برنامه باگبانتی OpenAI انجام شد، ماهیت مخربی نداشت و آسیبپذیری کشفشده بهسرعت برطرف گردید.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهمترین نکات و تحولات این گزارش برای مطالعه سریع
- پژوهشگران امنیتی مستقل توانستند با استفاده از مدل هوش مصنوعی Claude در قالب برنامه باگبانتی، به سیستمهای OpenAI نفوذ کنند.
- این نفوذ از طریق کشف یک آسیبپذیری در پلتفرم Discourse انجام شد و امکان دسترسی غیرمجاز به حسابهای ChatGPT کارمندان را فراهم کرد.
- هوش مصنوعی Claude Opus 5 با تسریع روند تولید اکسپلویتها نشان داد که مدلهای جدید چگونه شناسایی و بهرهبرداری از آسیبپذیریها را متحول میکنند.
به گزارش والاستریت ژورنال، پژوهشگران امنیتی مستقل در ماه ژوئیه با استفاده از مدل هوش مصنوعی Claude متعلق به شرکت Anthropic، موفق به هک سیستمهای OpenAI شدند. این محققان که در برنامه باگبانتی OpenAI شرکت کرده بودند، توانستند کنترل حساب کاربری ChatGPT یکی از کارمندان این شرکت را به دست بگیرند؛ اتفاقی که دسترسی غیرمجاز به اطلاعات حساس و امکان اعمال تغییرات در نرمافزارهای OpenAI را برای آنها فراهم کرد.
این نفوذ توسط استارتاپ امنیتی Hacktron که در زمینه کشف آسیبپذیریهای نرمافزاری تخصص دارد، انجام شد. این تیم تأیید کرد که از طریق یک نقص امنیتی در پلتفرم انجمن شخص ثالث Discourse، موفق به نفوذ به حسابهای ChatGPT کارمندان شدهاند. به گفته پژوهشگران، این هک بدون مشاهده اطلاعات حساس یا تزریق کدهای مخرب به سیستمهای داخلی OpenAI صورت گرفته است.
هارش جیسوال، موهان پداپاتی و راهول ماینی، محققان ارشد این پروژه هستند. آنها در پستی وبلاگی با تشریح این حمله نوشتند: «تا دو ماه پیش، هر کاربر یا کارمند OpenAI که وارد انجمن پشتیبانی اختصاصی این شرکت میشد، در معرض خطر تصاحب حسابهای ChatGPT و Codex خود قرار داشت. از آنجا که افراد میتوانند سرویسهای مختلفی را به Codex و ChatGPT متصل کنند، گستره دسترسیهای تئوریک ما بسیار عظیم بود و شامل پلتفرمهایی نظیر GitHub، Slack و ایمیلها میشد.»
محققان بهسرعت یافتههای خود را به OpenAI و Discourse گزارش دادند و با همکاری این شرکتها، آسیبپذیریهای مذکور را در کمتر از ۲۴ ساعت برطرف کردند. بر اساس گزارشها، OpenAI پس از این بررسیها پاداش ۶۵۰۰ دلاری باگبانتی را به Hacktron پرداخت کرده است.
استارتاپ Hacktron مدعی است که اجرای این نفوذ تنها چند روز زمان برده و انتشار مدل Claude Opus 5 کمک شایانی به آن کرده است؛ چرا که این مدل جدید برخلاف نسخه قبلی یعنی Opus 4.8، توانست یک اکسپلویت کاملاً کاربردی تولید کند. نفوذ به OpenAI بخشی از پروژه بزرگتری به نام HEIF Heist بود که در آن Hacktron به بررسی حملات مبتنی بر سوءاستفاده از دیکدرهای تصویر میپردازد.
پداپاتی در شبکه اجتماعی ایکس نوشت: «هوش مصنوعی در حال کاهش نیاز به تخصصهای کمیاب برای توسعه اکسپلویتها است. کاری که در گذشته ماهها زمان میبرد، اکنون میتواند در عرض چند روز انجام شود.»
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
رکورد ۸۳۳ هزار دانلود ماهانه برای LEGAL-BERT؛ وقتی توسعهدهندهها قید مدلهای گرانقیمت را میزنند!
مدل زبانی تخصصی LEGAL-BERT با ثبت بیش از ۸۳۳ هزار دانلود در ماه روی پلتفرم هاگینگ فیس حسابی خبرساز شده است. این ابزار جمعوجور و تخصصی نشان میدهد که برای پردازش و تحلیل متون حقوقی، حتماً نیازی به مدلهای غولپیکر و پرهزینه ندارید و گزینههای بهینه همچنان در اوج هستند.
جاسوسی هوش مصنوعی در محل کار؛ کارمندان میگویند کارفرماها باید قانوناً مچگیریهایشان را لو بدهند!
نظرسنجیهای تازه نشان میدهد که بیشتر کارمندان حس میکنند مدیرانشان با ابزارهای هوش مصنوعی تمام حرکات آنها را زیر نظر گرفتهاند. حالا بیش از ۸۰ درصد شاغلان خواستار تصویب قانونی شدهاند که شرکتها را مجبور کند هرگونه مچگیری و نظارت هوش مصنوعی در محیط کار را رسماً اعلام کنند.
گزارش داغ مایکروسافت از نفوذ جهانی هوش مصنوعی؛ امارات در صدر و رتبه عجیب آمریکا!
مایکروسافت در تازهترین گزارش خود از ضریب نفوذ هوش مصنوعی در جهان پرده برداشت؛ آماری شگفتانگیز که نشان میدهد امارات و سنگاپور با فاصلهای خیرهکننده پیشتاز دنیا هستند و در مقابل، آمریکا در رتبه ۲۱ جا مانده است. همچنین الگوی استفاده از هوش مصنوعی میان کشورهای غربی و کشورهای در حال توسعه، از تفاوتی عمیق میان کاربردهای روزمره و آموزش پرده برمیدارد.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.