جنجال کشیدن ترمز هوش مصنوعی؛ مدیران کسب‌وکار وسط این معرکه دقیقاً چه کار کنند؟

به‌تازگی داریو آمودی، مدیرعامل شرکت آنتروپیک، با اشاره به خطرات ناشی از شتاب سرسام‌آور هوش مصنوعی، به توسعه‌دهندگان مدل‌ها پیشنهاد کرد ترمز این سرعت زیاد را بکشند. بلافاصله پس از این حرف‌ها، چهره‌های تأثیرگذاری مثل سم آلتمن از اوپن‌ای‌آی و ایلان ماسک هم به حمایت از این ایده وارد میدان شدند. همین جرقه‌ها باعث شد زنجیره‌ای از اتفاقات رقم بخورد و رهبران دنیای فناوری در کنار دولت‌ها بحث داغی را پیرامون ایمنی هوش مصنوعی آغاز کنند. کار تا جایی پیش رفت که دولت آمریکا یک مسئول ارشد (AI Czar) برای رهبری کارگروه ارزیابی ریسک‌ها و فرصت‌های هوش مصنوعی تعیین کرد؛ اقدامی که درست به دنبال امضای پیمان ایمنی داوطلبانه میان مدیران غول‌های هوش مصنوعی انجام گرفت. ماجرا به این زودی‌ها تمام نخواهد شد، اما این تحولات برای مدیران کسب‌وکار چه معنایی دارد؟ چه چیز‌هایی را باید بدانید و دقیقاً چه واکنشی نشان دهید؟

پیش از هر چیز: ماجرای دو ترمز متفاوت در دنیای هوش مصنوعی

آنچه گفته شد، تنها یک روی سکه است؛ یعنی همان بحث داغ ایمنی هوش مصنوعی که با اتفاقات اخیر شعله‌ورتر هم شده است. از حمله جنجالی و سر‌و‌صدا به‌پا‌کرده‌ی دسته‌ای از ایجنت‌های اوپن‌ای‌آی به هاگینگ فیس (Hugging Face) گرفته تا استعفای معنادار و بیانیه‌های پژوهشگران ایمنی در آنتروپیک و اوپن‌ای‌آی، همه و همه باعث شدند این سؤال مطرح شود: آیا واقعاً باید روند توسعه مدل‌ها را عمداً کُند کنیم تا فرصتی برای شناخت دقیق‌تر ابعاد ایمنی هوش مصنوعی فراهم شود؟

اما در کنار این موج، ماجرای دومی هم با عنوان ترمز یا کاهش سرعت هوش مصنوعی در جریان است که از زاویه‌ای کاملاً متفاوت به قضیه نگاه می‌کند. با انفجار محبوبیت هوش مصنوعی، شرکت‌های زیادی به این جریان پیوستند و سرشان برای استفاده از آن درد می‌کرد. اما حالا زمزمه‌ها درباره بازگشت سرمایه (ROI) بالا گرفته است؛ عده‌ای معتقدند سوددهی و بازدهی واقعی این فناوری بسیار محدودتر از انتظارات اولیه بوده و در مقابل، گروهی دیگر سرسختانه با این نگاه مخالفت می‌کنند. در این فضا، شرکت‌ها از خود می‌پرسند که آیا نباید ترمز هزینه‌ها را کشید؟ البته این بار نه به خاطر ترس از خطرات ایمنی، بلکه به دلیل برنگشتن هزینه‌های هنگفتی که کرده‌اند!

از آنجا که این دو ماجرا هم‌زمان اتفاق افتاده‌اند، تفکیک کردن تأثیرات آن‌ها از یکدیگر بسیار دشوار است. شک و تردیدها درباره بازگشت سرمایه فقط روی خرید ابزار‌ها اثر نمی‌گذارد، بلکه سرمایه‌گذاری‌های کلان را هم به خطر می‌اندازد. به عنوان مثال، در تاریخ ۱۴ سپتامبر، درست در اولین روز معاملاتی پس از انتشار مقاله آمودی، سهام شرکت‌های مرتبط با هوش مصنوعی سقوط کرد. جالب اینجاست که در همان روز، بانک تسویه‌حساب‌های بین‌المللی هم نسبت به آسیب‌پذیری فزاینده بخش فناوری هشدار داد و از سودآوری نامشخص سرمایه‌گذاری‌ها و اهرم‌های مالی غول‌های فناوری ابراز نگرانی کرد. در واقع، دو موج کاملاً مجزا دست‌به‌دست هم دادند و به یک‌باره ارزش این سهام را پایین کشیدند.

هم‌راستاسازی یا الایمنت (Alignment) چیست؟

هم‌راستا با بالا گرفتن این بحث‌ها، حتماً با اصطلاح «الاینمنت» (Alignment) یا هم‌راستاسازی در مقالات متعددی روبه‌رو می‌شوید. الایمنت یک اصطلاح تخصصی در میان پژوهشگران هوش مصنوعی است و نشان می‌دهد چطور می‌توان رفتار مدل‌ها را طوری تنظیم کرد که دقیقاً با ارزش‌های انسانی، قوانین و فرایندهای ما هم‌جهت و «هم‌راستا» باشند. نکته کلیدی اینجاست که هم‌راستاسازی یک حوزه تحقیقاتی فوق‌العاده پیچیده و پویا به شمار می‌آید؛ هرچند پیشرفت‌های خوبی در آن حاصل شده، اما هنوز راه درازی در پیش است.

دیدگاه مدیران کسب‌وکار؛ چگونه شرایط را بسنجیم؟

اولین چیزی که باید به یاد داشته باشید این است که بحث ایمنی هوش مصنوعی معجونی پیچیده از مسائل فنی، ژئوپلیتیکی و حتی فلسفی است. طبیعتاً اکثر شرکت‌ها و کسب‌وکارها وارد این دعواهای کلان نمی‌شوند و باید مدت‌ها قبل از اینکه این مناقشات به نتیجه برسد، مسیر تجاری خود را تعیین کنند. از سوی دیگر، کاهش سرعت از منظر اقتصادی کاملاً مبتنی بر نتایج ملموس است، اما چون این دو موضوع با هم گره خورده‌اند، به‌سادگی ممکن است یکی را با دیگری اشتباه بگیرید. با این همه، چند راهکار عملی وجود دارد که به کمک آن‌ها می‌توانید از بازگشت سرمایه خود در این آشفته‌بازار محافظت کنید.

در این شرایط چه باید کرد؟ سه اقدام کلیدی

برای نجات از این سردرگمی، سه عامل حیاتی را مد نظر قرار دهید:

1. آیا عمدتاً مصرف‌کننده هوش مصنوعی هستید؟ اگر کسب‌وکار شما صرفاً کاربر ابزار‌های هوش مصنوعی است و به‌ویژه اگر برای افزایش بهره‌وری تیم‌ها از آن استفاده می‌کنید، صادقانه بسنجید که آیا واقعاً نیاز دارید مدل‌های هوش مصنوعی از وضعیت فعلی‌شان جلوتر بروند؟ اگر هنوز میان سطح مهارت و توانمندی تیم شما در استفاده از هوش مصنوعی و امکانات فعلی همین مدل‌های موجود فاصله وجود دارد، تمام تمرکزتان را روی پر کردن این شکاف بگذارید. تا زمانی که نتوانید از پتانسیل مدل‌های امروزی درست استفاده کنید، حتی قوی‌ترین مدل‌های آینده هم تأثیری روی بازگشت سرمایه شما نخواهند گذاشت.
2. آیا درآمدتان به شرکت‌های هوش مصنوعی وابسته است؟ برای مثال، اگر محصول یا خدمات شما به دیتاسنترها یا پروژه‌های توسعه زیرساخت فروخته می‌شود، هرگونه کند شدن روند توسعه هوش مصنوعی مستقیماً فروش شما را تحت‌الشعاع قرار می‌دهد. مشکل اصلی در اینجا «نااطمینانی» است؛ وقتی مشتریان شما با چنین ابهاماتی روبه‌رو شوند، ممکن است دست نگه دارند و در سرمایه‌گذاری‌های سنگین یا توسعه زیرساخت‌ها تعلل کنند. اگر چنین مشتریانی دارید، بازار را زیر ذره‌بین بگذارید و خودتان را برای کاهش سفارش‌ها آماده کنید.
3. آیا در معرض ریسک‌های حقوقی و قانونی قرار دارید؟ اگر شرکت شما یک «ایجنت هوش مصنوعی» بر پایه مدل‌های پایه توسعه داده است، آیا این احتمال وجود دارد که این ایجنت دردسر ایمنی درست کند یا ناخواسته درگیر خطایی بحرانی شود؟ از آنجا که چارچوب‌های قانونی هنوز مبهم و دست‌نخورده‌اند، حتماً این موضوع را با تیم‌های امنیت و استراتژی خود در میان بگذارید. اگر هوش مصنوعی در تاروپود محصول شما تنیده شده، بررسی کنید که مبادا محصولتان حتی به شکل جزئی درگیر چالش‌های ایمنی هوش مصنوعی شود.

بررسی این سه زاویه (که ممکن است کسب‌وکار شما با هر سه آن‌ها هم‌زمان درگیر باشد) به شما کمک می‌کند در حین داغ‌تر شدن بحث‌های ایمنی، تصمیمی هوشمندانه و استراتژیک اتخاذ کنید.

اصل تغییرناپذیر: تبدیل توانمندی به بازگشت سرمایه

آنچه تا اینجا به آن نپرداختیم این است که آیا فرایندهای داخلی کسب‌وکار شما می‌توانند تحت تأثیر خطرات ایمنی هوش مصنوعی قرار بگیرند یا خیر. دلیلش ساده است: بحث ایمنی هوش مصنوعی بر آینده توسعه تمرکز دارد، نه وضعیت مدل‌های فعلی. درس‌هایی که از ماجرای حمله اوپن‌ای‌آی گرفتیم — نظیر لزوم تقویت قابلیت‌های داخلی برای بهبود عملیات یادگیری ماشین (MLOps)، و توانایی شناسایی و پاسخ سریع به تهدیدها — چه قطار هوش مصنوعی با تمام سرعت حرکت کند و چه کلاً متوقف شود، سر جای خود باقی می‌مانند. تقویت این زیرساخت‌ها، گام اول برای محافظت از بازگشت سرمایه فعلی شماست؛ و راهکارهایی که پیش‌تر گفته شد، بازگشت سرمایه شما در آینده را تضمین می‌کنند.