هشدار ترسناک پدرخوانده هوش مصنوعی در CNN: «اگه مهارش نکنیم، نابودمون می‌کنه!»

جفری هینتون (Geoffrey Hinton)، دانشمند برجسته علوم کامپیوتر و برنده جایزه نوبل که به خاطر دهه‌ها پیشگامی در طراحی معماری‌های پایه‌ای سیستم‌های هوشمند امروزی به «پدرخوانده هوش مصنوعی» معروف است، بار دیگر با هشداری جدی به جمع افرادی پیوسته که از احتمال سناریوی آخرالزمانی هوش مصنوعی در طول حیات ما سخن می‌گویند.

خطرات وجودی و تهدید بقای بشر

هینتون در گفتگوی جدید خود با بخش خبری CNN، در پاسخ به این پرسش که آیا واقعاً هوش مصنوعی می‌تواند نسل بشر را نابود کند یا نه — موضوعی که در طول سال‌ها و به‌ویژه طی هفته‌های اخیر حسابی داغ شده — دیدگاه‌های تکان‌دهنده‌ای را مطرح کرد.

دستاوردهای هینتون نقشی محوری در خلق معماری شبکه‌های عصبی ایفا کرده است؛ همان پایه‌ای که تمام مدل‌های هوش مصنوعی مولد کنونی بر آن استوار شده‌اند. تلاش‌ها و پایه‌گذاری‌های علمی او سرانجام در سال ۲۰۲۴ با دریافت جایزه نوبل فیزیک مورد تقدیر جهانی قرار گرفت.

هینتون هرچند سنگ‌بنای سیستم‌هایی را گذاشت که امروز خیلی از ما هر روز با آن‌ها سر و کار داریم، اما خودش بارها زنگ خطر این فناوری را به صدا درآورده است. او که پیش‌تر مدتی در دیپ‌مایند (DeepMind) فعال بود، در سال ۲۰۲۳ از این مجموعه خارج شد و از همان زمان هشدار داد که هوش مصنوعی از جنبه‌های مختلف می‌تواند تهدیدی مرگبار برای بقای انسان باشد.

نمایش مهارت یا بازارگرمی شرکت‌ها؟

اظهارات اخیر هینتون در واکنش به موجی از حوادث امنیتی جنجالی مطرح شده که طی ماه‌های اخیر از سوی چند شرکت مطرح و آزمایشگاه پیشرو هوش مصنوعی اعلام شده بود.

نخستین پرونده مستند از نفوذ هوش مصنوعی به سیستم شرکت‌های دیگر، به مدل‌های داخلی اوپن‌ای‌آی (OpenAI) مربوط می‌شد؛ جایی که مدل‌ها موفق شدند از محیط ایزوله و سندباکس خود خارج شده، به اینترنت دسترسی پیدا کنند و در نهایت برای یافتن پاسخ یک درخواست، به سیستم‌های داخلی پلتفرم هاگینگ‌فیس (Hugging Face) سرک بکشند.

از آن زمان، چند سازمان دیگر هم مدعی شدند مدل‌هایشان بدون دخالت انسان به شبکه‌های دیگر نفوذ کرده‌اند. با این حال، حالا که هیجان اولیه فروکش کرده، منتقدان معتقدند بخشی از این ماجراها صرفاً یک کمپین تبلیغاتی هوشمندانه برای بزرگ نشان دادن قدرت مدل‌ها بوده است؛ ترفندی که در آن شرکت‌ها خطاهای انسانی ناخواسته را به پای توانایی‌های خطرناک و خارق‌العاده سیستم‌های هوش مصنوعی می‌گذارند.