پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

ادعای جنجالی محقق سابق آنتروپیک: جاسوس‌های چینی در اوپن‌ای‌آی نفوذ کرده‌اند؛ ترمز هوش مصنوعی را نکشید!

انتشار:۱۶ مهر ۱۴۰۵(۳ ساعت پیش)
۲ دقیقه زمان مطالعه
۰ دیدگاه

جیکوب کوکسون، کارمند مستعفی آنتروپیک، در مصاحبه‌ای جنجالی مدعی شد کاهش سرعت توسعه هوش مصنوعی در آمریکا بی‌فایده است؛ چرا که جاسوس‌های چینی به احتمال ۹۰ درصد در آزمایشگاه‌های پیشرو نفوذ کرده‌اند. او معتقد است حتی بدون این نفوذ نیز چین از طریق حملات تقطیر در حال دستیابی به پیشرفت‌های غرب است.

ادعای جنجالی محقق سابق آنتروپیک: جاسوس‌های چینی در اوپن‌ای‌آی نفوذ کرده‌اند؛ ترمز هوش مصنوعی را نکشید!

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • جیکوب کوکسون، منتقد ایمنی هوش مصنوعی که به‌تازگی از آنتروپیک استعفا داده، مدعی شد با احتمال ۹۰ درصد جاسوس‌های چینی در اوپن‌ای‌آی و آنتروپیک نفوذ کرده‌اند و دستاوردها را سرقت می‌کنند.
  • او معتقد است کند کردن سرعت پیشرفت مدل‌های هوش مصنوعی بی‌فایده است، زیرا آزمایشگاه‌های چینی با حملات تقطیر (Distillation Attacks) به‌سرعت شکاف فنی را پر می‌کنند.
  • در واکنش به این ادعاها، منابع نزدیک به آنتروپیک اعلام کردند هیچ مدرکی برای اثبات این ادعا وجود ندارد و این شرکت بالا‌ترین استانداردهای امنیتی و پایش نفوذ را به کار می‌گیرد.

جیکوب کوکسون (Jacob Coxon)، که این روز‌ها به نماد اصلی نگرانی‌ها و هشدارهای آخرالزمانی درباره هوش مصنوعی تبدیل شده، می‌گوید یک دلیل خیلی واضح وجود دارد که چرا کند کردن سرعت پیشرفت مدل‌های مرزی کارساز نخواهد بود.

کوکسون که ماه گذشته پس از متهم کردن شرکت‌های آنتروپیک و اوپن‌ای‌آی (OpenAI) به «قمار با جان انسان‌ها» از آنتروپیک استعفا داد، در پادکست پاتریک بت‌دیوید (Patrick Bet-David) حاضر شد و حسابی سر و صدا به پا کرد. او در این گفتگو تأکید کرد ترمز کشیدن برای توسعه هوش مصنوعی در آمریکا عملاً بی‌فایده است، چون جاسوس‌های چینی ممکن است به آزمایشگاه‌های آمریکایی نفوذ کرده باشند.

او ادعا کرد که «۹۰ درصد» از حضور جاسوس‌های چین در اوپن‌ای‌آی و آنتروپیک مطمئن است؛ جاسوس‌هایی که به گفته او می‌توانند در هر لحظه دستاوردهای این آزمایشگاه‌ها را سرقت کنند و فاصله فنی خود را با خط مقدم فناوری به صفر برسانند.

کوکسون در مصاحبه روز سه‌شنبه خود به بت‌دیوید گفت: «بنابراین اگر به پیشروی ادامه دهیم، آن‌ها به این فناوری دسترسی پیدا خواهند کرد. اگر هم متوقف شویم، چین خودش آن را می‌سازد. در نتیجه در هر دو حالت، چین در نهایت به این فناوری دست خواهد یافت.»

با این حال، وقتی میزبان برنامه از او خواست جزئیات بیشتری ارائه دهد یا مشخص کند چه کسانی مظنون هستند، کوکسون با عقب‌نشینی گفت «نمی‌خواهد بازی تفتیش عقاید یا شکار جادوگر راه بیندازد» و از هیچ فرد خاصی نام نبرد.

در همین حال، یک منبع آگاه نزدیک به آنتروپیک اعلام کرد هیچ مدرکی برای اثبات این ادعاها وجود ندارد. به گفته این منبع، آنتروپیک تهدیدهای اطلاعاتی خارجی را بسیار جدی تلقی می‌کند و سیستم‌های سخت‌گیرانه‌ای برای گزینش پرسنل، کنترل دقیق سطوح دسترسی و نظارت مداوم بر ریسک‌های نفوذ داخلی پیاده کرده است.

کوکسون و نمایندگان اوپن‌ای‌آی نیز به درخواست‌ها برای اظهار نظر رسمی در این رابطه پاسخی ندادند.

کوکسون در بخش دیگری از این مصاحبه یادآور شد که یکی دیگر از عوامل پیشرفت سریع توانمندی‌های هوش مصنوعی چین، استفاده از «حملات تقطیر» (Distillation Attacks) است؛ مشکلی که آزمایشگاه‌هایی مانند آنتروپیک بارها به آن اشاره کرده‌اند.

در حملات تقطیر، محققان با ارسال پرسش‌های میلیونی و استخراج پاسخ‌ها از مدل‌های پیشرفته، از آن‌ها برای آموزش و ارتقای مدل‌های ضعیف‌تر خود استفاده می‌کنند. جالب اینجاست که خود آنتروپیک در طول تابستان، آزمایشگاه‌ها و شرکت‌های چینی نظیر علی‌بابا (Alibaba)، مون‌شات (Moonshot)، دیپ‌سیک (DeepSeek) و ژیپو (Zhipu) را متهم کرده بود که میلیون‌ها بار دست به اجرای این حملات زده‌اند.

کوکسون در بخش جنجالی دیگری از این مصاحبه، کارکنان آنتروپیک را به «مورچه‌های کارگر» تشبیه کرد که «حاضرند خود را فدای هدف اصلی کنند»؛ هدفی که به گفته او دستیابی به ابرهوش مصنوعی (Superintelligence) است.

این مصاحبه در حالی مطرح می‌شود که پیش از این، مدیران ارشد بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی جهان از جمله داریو آمودی (مدیرعامل آنتروپیک)، سم آلتمن (مدیرعامل اوپن‌ای‌آی) و ایلان ماسک (مدیرعامل xAI) درباره لزوم کنترل سرعت توسعه و اضافه کردن گاردریل‌های ایمنی صحبت کرده بودند. آلتمن نیز در پستی در شبکه اجتماعی ایکس (توییتر سابق) نوشته بود پیشرفت اوپن‌ای‌آی «سریع بوده و سریع هم خواهد ماند»، اما برای ایمن‌تر کردن هوش مصنوعی، سرعت آن اندکی تعدیل خواهد شد.

با این همه، درخواست‌ها برای ترمز کشیدن در توسعه مدل‌های مرزی با انتقادات فراوانی روبرو شده است. بسیاری از منتقدان می‌گویند این اظهارات تنها با هدف داغ کردن تنور تبلیغات برای عرضه اولیه عمومی (IPO) آنتروپیک و اوپن‌ای‌آی مطرح می‌شود و عملاً رقبای کوچک‌تر هوش مصنوعی را در موضع ضعف قرار می‌دهد.

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

تبدیل ماینکرفت به اتاق فرمان زنده برای ایجنت‌های کدنویس Claude با پروژه جذاب AgentCraft
آخرین اخبار

تبدیل ماینکرفت به اتاق فرمان زنده برای ایجنت‌های کدنویس Claude با پروژه جذاب AgentCraft

پروژه جذاب و متن‌باز AgentCraft محیط بازی محبوب ماینکرفت را به یک استودیوی فرماندهی زنده برای تیم ایجنت‌های کدنویس Claude تبدیل کرده است. در این سیستم تعاملی، مدل‌های هوش مصنوعی مثل کارمندان واقعی پشت میز می‌نشینند، وظایف گیت را پیش می‌برند و برای گرفتن تصمیم‌های مهم مستقیماً به سراغ شما می‌آیند.

۲ دقیقه مطالعه
۰
۱۶ مهر
جذب سرمایه نیم میلیارد دلاری سازنده ایجنت هوش مصنوعی Manus؛ جهش بزرگ پس از معامله نافرجام با متا
آخرین اخبار

جذب سرمایه نیم میلیارد دلاری سازنده ایجنت هوش مصنوعی Manus؛ جهش بزرگ پس از معامله نافرجام با متا

استارتاپ Butterfly Effect، سازنده ایجنت هوش مصنوعی محبوب Manus، در تازه‌ترین دور تأمین مالی خود موفق به جذب بیش از ۵۰۰ میلیون دلار سرمایه جدید شد. این دور سرمایه‌گذاری سنگین که ارزش این استارتاپ را به حوالی ۴ میلیارد دلار رسانده، پس از لغو توافق جنجالی خرید آن توسط شرکت متا به انجام رسیده است.

۱ دقیقه مطالعه
۰
۱۶ مهر
چالش ۱۰۰ دلاری با چت‌جی‌پی‌تی؛ هوش مصنوعی چطور یک آخر هفته هیجان‌انگیز و فوق‌العاده ارزان ساخت؟
آخرین اخبار

چالش ۱۰۰ دلاری با چت‌جی‌پی‌تی؛ هوش مصنوعی چطور یک آخر هفته هیجان‌انگیز و فوق‌العاده ارزان ساخت؟

در یک تجربه می‌دانی و جالب، بودجه ۱۰۰ دلاری در اختیار چت‌جی‌پی‌تی (ChatGPT) قرار گرفت تا یک تعطیلات سه‌روزه پاییزی و ارزان را در نیویورک برنامه‌ریزی کند. این چت‌بات هوشمند با کشف رویدادهای رایگان و شگفت‌انگیزی مانند فستیوال قارچ‌ها و موزه MoMA، آخر هفته‌ای پرماجرا و خاطره‌انگیز خلق کرد.

۵ دقیقه مطالعه
۰
۱۶ مهر