مدیرعامل هوش مصنوعی Microsoft: کنترل هوش مصنوعی چالشی بسیار بزرگ خواهد بود

مصطفی سلیمان (Mustafa Suleyman)، مدیرعامل هوش مصنوعی Microsoft می‌گوید بیان این موضوع که هوش مصنوعی باید با بشریت هم‌راستا (Align) باشد، برای او «عجیب و دور از ذهن» است.

سلیمان روز جمعه در برنامه «Squawk Box» شبکه CNBC گفت: «ما نباید چیزی خلق کنیم که قادر به کنترل آن نباشیم. اگر در مسیری قرار بگیریم که سیستمی نه‌تنها قدرتمندتر از مجموع همه ما تولید کنیم، بلکه در نتیجه آن نتوانیم کنترلش کنیم، در هدف بنیادین خود شکست خورده‌ایم.»

به گفته سلیمان، موفقیت در این زمینه به سادگی به دست نخواهد آمد.

او در ادامه افزود: «کنترل این سیستم‌ها قرار است چالشی بسیار، بسیار بزرگ برای ما باشد.»

سلیمان اعلام کرد از اینکه می‌بیند افراد بیشتری از این ایده حمایت می‌کنند که شرکت‌های فناوری و سازندگان مدل‌های پیشگام باید کنترل سیستم‌های هوش مصنوعی خود را حفظ کنند، خرسند است. در این صنعت، اطمینان از اینکه هوش مصنوعی مطابق با مقاصد انسانی عمل می‌کند، «هم‌راستایی» (Alignment) نامیده می‌شود.

او خاطرنشان کرد: «اما گروه رو به رشدی از افراد وجود دارند که فکر می‌کنند ما این کار را صرفاً برای خودِ کار انجام می‌دهیم؛ آن‌ها فقط می‌خواهند قدم بعدی را بردارند، ببینند چه چیزی در انتظارشان است و سیستمی خلق کنند که از کنترل ما خارج شود.»

اظهارات سلیمان در زمانی مطرح می‌شود که توجه به ایمنی هوش مصنوعی افزایش یافته است. پیش از این، جیکوب کاکسون، محقق سابق Anthropic هشدار داده بود که فعالان این حوزه در خفا نگران هستند که هوش مصنوعی ممکن است بشریت را نابود کند.

طی روزهای اخیر، داریو آمودی (مدیرعامل Anthropic)، سم آلتمن (مدیرعامل OpenAI) و ایلان ماسک (مدیرعامل SpaceX) توافق نظر گسترده‌ای ابراز کرده‌اند که آزمایشگاه‌های پیشگام هوش مصنوعی باید سرعت پیشرفت‌های خود را بهتر تنظیم کنند تا اطمینان حاصل شود که اقدامات ایمنی نیز هم‌پای آن‌ها پیش می‌روند.

پیش از انتشار پست بحث‌برانگیز کاکسون، بسیاری در این صنعت نگران ایمنی بودند؛ به‌ویژه پس از آنکه OpenAI فاش کرد ایجنت‌های این شرکت به پلتفرم Hugging Face نفوذ کرده‌اند. این اتفاق پیامدهای احتمالی از دست دادن کنترل بر سیستم‌های هوش مصنوعی را به تصویر کشید. سلیمان گستردگی نفوذ به Hugging Face و بی‌اطلاعی اولیه OpenAI از کارهایی که ایجنت‌های هوش مصنوعی‌اش انجام می‌دادند را «حیرت‌انگیز» توصیف کرد.

سلیمان در این باره گفت: «این اتفاق همه را، از ایلان ماسک و زاکربرگ گرفته تا من، سم آلتمن، داریو و دیگران وادار کرده تا بگویند زمان آن فرا رسیده که نگاهی جدی به این موضوع بیندازیم. من فکر نمی‌کنم این رویکرد بیش از حد هشداردهنده یا منفعت‌طلبانه باشد؛ بلکه معتقدم کاملاً مسئولانه است.»

در این میان، مارک زاکربرگ، مدیرعامل Meta موضعی متفاوت از آمودی و سایر رهبران هوش مصنوعی اتخاذ کرده است. اوایل هفته جاری، زاکربرگ این مسئله را زیر سوال برد که چرا شرکت‌های هوش مصنوعی باید برای مدیریت سرعت توسعه با یکدیگر متحد شوند و پیشنهاد کرد که هر شرکت باید به امور خود بپردازد.

زاکربرگ در شبکه اجتماعی X نوشت: «هر آزمایشگاهی این مسئولیت و انگیزه را دارد که با سرعت لازم برای آموزش ایمن مدل‌های خود حرکت کند.»

برخی در دنیای فناوری، از جمله جنسن هوانگ، مدیرعامل NVIDIA، درباره نیاز به مقررات جدید و گسترده ابراز تردید کرده‌اند. دونالد ترامپ و جی‌دی ونس نیز با شرکت‌های هوش مصنوعی که دولت‌ها را به اقدام ترغیب می‌کنند، مخالفت کرده‌اند.

آمودی و دیگران از کنگره آمریکا و نهادهای بین‌المللی درخواست کرده‌اند که در این زمینه مداخله کنند. سلیمان کسانی را که ایده قانون‌گذاری را به سخره می‌گیرند، مورد انتقاد قرار داد.

او تاکید کرد: «مقررات یک کلمه زننده و خطرناک نیست. هر چیزی که در حال حاضر به آن اعتماد دارید و ارزشمند است، توسط نهادهای استاندارد با مشارکت صنعت، عموم مردم، نهادهای حمایت از مصرف‌کننده و کنگره به دقت بررسی شده است. ما نیز در حال گذراندن همین فرآیند هستیم.»