سرمایه‌گذاری ۷ تریلیون دلاری؛ چرا ایمنی هوش مصنوعی همیشه قربانی سلطه بر بازار می‌شود؟

رقابت بر سر برتری هوش مصنوعی میان آزمایشگاه‌ها، شرکت‌ها و کشورها، ممکن است با تلاش‌ها برای ایمنی این فناوری در تضاد باشد و سازگاری آن‌ها غیرممکن به نظر برسد؛ موضوعی که کارشناسان صنعت نیز بر آن تأکید دارند.

اهمیت موضوع: شرکت‌های پیشرو در حوزه هوش مصنوعی برای کنترل سرعت توسعه، نظارت مستقل بیشتری را پیشنهاد می‌دهند. اما منتقدان می‌گویند که انگیزه‌های چند تریلیون دلاری برای گسترش مرزهای فناوری و سرمایه مورد نیاز برای چنین توسعه‌ای، همیشه بر این تلاش‌ها سایه خواهد انداخت.

وضعیت فعلی: در شرایطی که مدیران ارشد اجرایی هوش مصنوعی درباره سازوکارهای خودنظارتی و استفاده از ارزیاب‌های شخص ثالث برای تضمین عملکرد ایمن مدل‌هایشان به عموم مردم وعده می‌دهند، همین مدل‌ها اطلاعات کمتری درباره نحوه پاسخ‌گویی به سؤالات و روش‌های حل مسئله ارائه می‌کنند.

• پیچیدگی محض سیستم‌های هوش مصنوعی و همچنین استقرار هزاران ایجنت تا حدودی خودمختار برای وظایف مختلف، حسابرسی یا بررسی درلحظه را بسیار دشوار خواهد کرد.
• به‌دلیل نگرانی‌ها درباره روابط نزدیک میان صنعت و برخی ارزیاب‌ها و همچنین وجود سرمایه‌گذاران و حامیان مالی مشترک در جامعه تحقیقاتی هوش مصنوعی، شکاف اعتمادی نسبت به گروه‌های ایمنی مستقل وجود دارد.

ردپای سرمایه: انگیزه برای سرعت بخشیدن به توسعه، بسیار سودآورتر از تلاش برای کاهش سرعت به نفع ایمنی است.

• شرکت‌های OpenAI و Anthropic آماده می‌شوند تا با ارزش‌گذاری‌های چند تریلیون دلاری وارد بازار بورس شوند و برای توجیه این ارزش‌گذاری‌ها، تحت فشار هستند تا مدل‌های به‌مراتب بهتری را به‌طور مستمر ارائه دهند.
• بر اساس پیش‌بینی Goldman Sachs، طی پنج سال آینده بیش از ۷ تریلیون دلار صرف توسعه هوش مصنوعی خواهد شد. آزمایشگاه‌های پیشگام باید روی این سرمایه‌گذاری سودآوری داشته باشند و این به معنای پیشی گرفتن از رقبا است.
• این رقابت شامل جلوگیری از روی آوردن مشتریان به ارائه‌دهندگان مدل‌های متن‌باز (وزن‌باز) نیز می‌شود؛ مدل‌هایی که اجرای آن‌ها ارزان‌تر است و از نگاه برخی، جایگزین ایمن‌تری محسوب می‌شوند.

نکته پنهان: نظارت بر هوش مصنوعی برای همه دشوارتر می‌شود و مشخص نیست که چگونه اولویت‌های ظاهراً متناقضِ ایمنی و بهبود سریع مدل‌ها می‌توانند در کنار یکدیگر همزیستی داشته باشند.

• دنیل کوکوتایلو (Daniel Kokotajlo)، محقق سابق OpenAI و مدیر اجرایی پروژه آینده‌های هوش مصنوعی، می‌گوید که معتقد نیست هوش مصنوعی بتواند به‌طور ایمن توسعه یابد.
• کوکوتایلو، که تیمش مقاله‌های معروف هوش مصنوعی ۲۰۲۷ و ۲۰۴۰ را منتشر کرده است، باور دارد که شرکت‌های برتر هوش مصنوعی باید از اختصاص توان پردازشی عظیم خود برای بهبود مدل‌ها خودداری کنند؛ اقدامی که به‌طور قهری موجب کاهش سرعت توسعه خواهد شد.

• او افزود محققان و کارمندان هوش مصنوعی که در فرایند توسعه مدل‌ها نقش دارند، «در حال انجام کار اشتباهی هستند.»

نگاه دقیق‌تر: کوکوتایلو در سال ۲۰۲۴ به دلیل نگرانی‌های امنیتی خود، شرکت OpenAI را ترک کرد.

• از آن زمان، از او برای سخنرانی در جمع کارمندان فعلی درباره تحقیقاتش در زمینه ایمنی هوش مصنوعی دعوت شده است.
• وی تصریح کرد: «شرکت‌ها دائماً درگیر احساسات متناقض و بحث‌های داخلی درباره کارهایی هستند که انجام می‌دهند. آن‌ها از خود می‌پرسند: آیا باید متوقف شویم؟ آیا ما در سمت درست ایستاده‌ایم؟»

بررسی واقعیت: بسیاری دیگر، از جمله دونالد ترامپ، آینده‌ای ایمن را برای هوش مصنوعی متصور هستند و به پتانسیل مسئولیت‌های مدنی یا کیفری در صورت شکست شرکت‌ها در ایمن‌سازی محصولاتشان اشاره می‌کنند.

• ترامپ در شبکه اجتماعی Truth Social نوشت: «هرکس در هوش مصنوعی پیروز شود، برنده است!» و بار دیگر تأکید کرد که قصد محدود کردن یا کاهش سرعت توسعه هوش مصنوعی را ندارد.
• آکشای کریشناسوامی، معمار ارشد شرکت Palantir، با بیان اینکه یکی از راه‌های دستیابی به این هدف استفاده از مدل‌های متن‌باز است، گفت: «اراده انسانی قادر است راهی برای توسعه ایمن این مدل‌ها پیدا کند.»

سخن پایانی: در حالی که صنعت در گردابی از شعارهای کاهش سرعت توسعه هوش مصنوعی گرفتار شده است، مشخص نیست که آیا این هدف در کوتاه‌مدت دست‌یافتنی خواهد بود یا خیر.