افشای اسناد جنجالی عرضه اولیه آنتروپیک؛ آیا هشدارهای آخرالزمانی سرپوشی برای زیان‌های نجومی است؟

اسناد محرمانه پیش‌نویس عرضه اولیه سهام (IPO) شرکت آنتروپیک (Anthropic) فاش شده و بررسی جزئیات آن حاوی نکات فوق‌العاده جالب و تأمل‌برانگیزی است.

می‌توانید فایل صوتی این میزگرد تحلیلی را از طریق پلتفرم‌های اسپاتیفای (Spotify) یا اپل پادکست (Apple Podcasts) بشنوید.

در وهله اول، حدود یک‌سوم از کل این سند به خطرات اگزیستانسیال و تهدیدهای وجودی هوش مصنوعی برای بشریت اختصاص یافته است! از طرف دیگر، با وجود رشد چشمگیر درآمدها، این شرکت هنوز به هیچ وجه به سودآوری نرسیده است. ترکیب این آمار با پیش‌بینی مخارج سرمایه‌ای (Capex) نجومی نشان می‌دهد با عرضه اولیه‌ای روبه‌رو هستیم که هرچند ادعای ارزش‌گذاری سرسام‌آوری دارد، اما برای رسیدن به سود واقعی مسیری بسیار ناهموار و طولانی در پیش خواهد داشت.

در این نشست تحلیلی، برندون ویگلیارولو به همراه مت روسوف و لیندزی کلارک از تحلیلگران برجسته حوزه فناوری، به موشکافی این افشاگری‌ها پرداخته‌اند؛ اینکه وضعیت فعلی صنعت هوش مصنوعی چگونه است و آنتروپیک چقدر می‌تواند با پررنگ کردن سناریوهای آخرالزمانی، حواس‌ها را از چالش‌ها و مشکلات مالی ملموس خود پرت کند.

در ادامه، مشروح این گفت‌وگوی جذاب را می‌خوانید:

برندون (۰۰:۰۴):

سلام به همه دوستان! این هفته دور هم جمع شده‌ایم تا درباره موضوعی صحبت کنیم که این روز‌ها همه جا حرف از آن است: هوش مصنوعی! به طور مشخص، ماجرای افشای اسناد محرمانه پرونده عرضه عمومی (IPO) شرکت آنتروپیک (Anthropic). اسنادی که طبق گزارش‌ها، پر از پیش‌بینی‌های آخرالزمانی و در عین حال وعده‌های رویایی برای سرمایه‌گذاران است؛ دقیقاً همان چیزی که از پرسروصداترین صنعت این روز‌های دنیا انتظار دارید. در این بحث مت روسوف (Matt Rosoff)، تحلیلگر ارشد، و لیندزی کلارک (Lindsay Clark)، خبرنگار باسابقه فناوری که اخبار این ماجرا را دنبال کرده‌اند، همراه من هستند. ممنون از اینکه در این گفتگو شرکت کردید.

لیندزی کلارک (۰۰:۳۶):

سلام، ممنون از شما.

مت روسوف (۰۰:۳۷):

من هم خوشحالم که در جمع شما هستم.

برندون (۰۰:۳۸):

خب لیندزی، می‌دانیم که این خبر اولین بار توسط فایننشال تایمز (Financial Times) فاش شد. اما بر اساس بررسی‌ها و گزارش‌هایی که دنبال کردی، در این اسناد عرضه اولیه چه چیز‌هایی مطرح شده و این حجم از ترکیب «نگاه آخرالزمانی» با «خوش‌بینی افراطی» چقدر عجیب است؟

لیندزی کلارک (۰۰:۵۳):

ماجرا از این قرار است که با شرکتی مثل آنتروپیک روبه‌رو هستیم که می‌خواهد سهامش را در بورس بفروشد، اما در عین حال به سرمایه‌گذاران می‌گوید فناوری ما خطری اگزیستانسیال و تهدیدی برای بقای بشریت به حساب می‌آید! روش واقعاً عجیبی برای بازاریابی سهام است، ولی طبق گزارش فایننشال تایمز، این موضوع رسماً در پیش‌نویس عرضه عمومی آن‌ها آمده است. علاوه بر این، اسناد لورفته اطلاعات جالبی درباره آمار‌های مالی هم می‌دهند؛ تا جایی که می‌دانیم، آنتروپیک هنوز زیان‌دهی وحشتناکی دارد.

برندون (۰۱:۲۲):

فکر کنم اگر اشتباه نکنم صحبت از زیان ۸ میلیارد دلاری در برابر درآمد ۴.۶ میلیارد دلاری بود، درست است؟

لیندزی کلارک (۰۱:۲۸):

دقیقاً همین‌طور است؛ جالب‌تر اینکه در این اسناد آمده آن‌ها قصد دارند طی چند سال آینده حدود ۵۰۰ میلیارد دلار فقط خرج پردازش ابری کنند! واقعاً نمی‌دانم این ارقام چطور قرار است توجیه شوند و در ذهن من اصلاً این حساب‌وکتاب‌ها با هم جور درنمی‌آید.

برندون (۰۱:۴۰):

اینکه شرکتی هنوز به سودآوری نرسیده و با این حال این‌قدر جدی دنبال ورود به بورس است، واقعاً جای بحث دارد. قبل از شروع برنامه با مت صحبت می‌کردیم؛ نکته جالب اینجاست که آنتروپیک در حالی روند عرضه عمومی را جلو می‌برد که OpenAI فعلاً ترمز ورود به بورس را کشیده است. در حالی که آنتروپیک همیشه ادعای محافظه‌کاری و توجه ویژه به ایمنی را داشت، حالا OpenAI می‌گوید تا زمانی که از ایمنی مدل‌هایمان مطمئن نشویم به بورس نمی‌رویم، اما آنتروپیک تمام‌قد به سمت عرضه عمومی می‌تازد! مت، تو دیدگاه مالی جالبی درباره این ماجرا داشتی؛ می‌خواهی نظرت را برای ما هم بازگو کنی؟

مت روسوف (۰۲:۲۱):

به نظرم اگر آمار‌های مالی OpenAI را هم ببینیم، وضعیت آن‌ها شاید حتی وخیم‌تر از آنتروپیک باشد. بر اساس همین اسناد فاش‌شده، واقعاً به نظر می‌رسد این شرکت‌ها هر چقدر درآمد بیشتری به دست می‌آورند، به همان نسبت باید پول بیشتری هم خرج کنند؛ بنابراین حاشیه سود اصلاً وضعیت خوبی ندارد. البته اخیراً گزارشی آمد که ادعا می‌کرد آن‌ها در سه‌ماهه دوم امسال بر مبنای تعدیل‌شده به سوددهی رسیده‌اند، اما این رقم تنها در صورتی معنا پیدا می‌کند که تمام هزینه‌های آموزش مدل‌ها (Training) را از صورت‌های مالی حذف کنید! یعنی فقط هزینه پردازش و استنتاج (Inference) را بدون هزینه‌های آموزش و تحقیق و توسعه در نظر بگیرید، حاشیه سودشان بد نیست و شاید بتوان گفت مسیری به سوی سودآوری وجود دارد.

اما واقعیت این است که زیان عملیاتی سال گذشته آن‌ها تقریباً دو برابر درآمدشان بوده است. حالا حتی اگر درآمدشان با همین نرخ چشمگیر سالانه ۴ تا ۱۲ برابر رشد کند، تا زمانی که نتوانند هزینه‌های سرسام‌آور را کنترل کنند، این مدل کسب‌وکار منطقی به نظر نمی‌رسد.

با تمام این‌ها، به نظرم آنتروپیک سرعت رشد بالایی دارد چون خیلی زودتر روی بخش سازمانی (Enterprise) متمرکز شد و توانست جای پای خود را در شرکت‌های بزرگ محکم‌تر از OpenAI باز کند. در نقطه مقابل، به نظر می‌رسد OpenAI هنوز در حال دست‌وپنجه نرم کردن با مدل تجاری خود است و شاید با این سرعت رشد نمی‌کند؛ به همین خاطر حدس می‌زنم صورت‌های مالی OpenAI اوضاعی به مراتب نگران‌کننده‌تر داشته باشد.

برندون (۰۴:۰۱):

پس در واقع این بهانه‌های ایمنی و نگرانی‌های اخلاقی، بیش‌تر شبیه یک لایه بتونه و سرپوش روی اوضاع خراب مالی است تا بتوانند صورت‌های مالی آشفته را پشت آن پنهان کنند؛ البته اگر فرضیه تو درست باشد.

مت روسوف (۰۴:۱۲):

این برداشت و فرضیه من است. واقعاً خیلی غیرمنطقی است که یک شرکت بگوید: «ما این‌قدر نگران این پدیده شگفت‌انگیزی که ساخته‌ایم هستیم که فعلاً نمی‌خواهیم دفاتر مالی‌مان را به شما نشان دهیم و تا وقتی همه چیز را نسنجیم وارد بورس نمی‌شویم!» این حرف بیش‌تر شبیه یک بهانه عجیب‌وغریب است.

برندون (۰۴:۳۱):

کاملاً موافقم. حالا که صحبت از تأثیرات اقتصادی شد، لیندزی، در گزارش‌هایت به ابعاد گسترده‌تر اقتصاد صنعت هوش مصنوعی پرداخته بودی. ممکن است کمی بیش‌تر درباره این آمار و ارقام و تصویری که از بازار می‌دهند توضیح بدهی؟

لیندزی کلارک (۰۴:۵۱):

حتماً. چند ماه قبل، یکی از اقتصاددانان سرشناس به نام جیسون فورمن (Jason Furman) تخمین زده بود که ۹۲ درصد از رشد تولید ناخالص داخلی (GDP) آمریکا در نیمه دوم سال ۲۰۲۵ حاصل سرمایه‌گذاری‌ها روی هوش مصنوعی بوده است! البته بعداً این آمار تعدیل شد؛ گروه مالی ING در ماه اوت اعلام کرد این سهم حدود یک‌سوم بوده و طبق آخرین آمارها، اکنون به حدود یک‌پنجم رسیده است. با وجود این افت، همچنان بخش عمده‌ای از رشد اقتصادی آمریکا به هزینه‌کردهای سرسام‌آور در هوش مصنوعی گره خورده است. پیش‌بینی‌های آینده هم هوش از سر آدم می‌پراند؛ مؤسسه بِین (Bain) برآورد کرده که هزینه‌های سرمایه‌ای (Capex) برای دیتاسنترهای هوش مصنوعی تا سال ۲۰۳۱ به ۶ تریلیون دلار می‌رسد و مؤسسه PwC ادعا کرده این هزینه‌ها تا سال ۲۰۵۰ ممکن است مرز ۳۱ تریلیون دلار را رد کند! خدا می‌داند تا سال ۲۰۵۰ چه پیش خواهد آمد، ولی طبق پیش‌بینی PwC قرار است اقیانوسی از پول راهی دیتاسنترها شود.

مت روسوف (۰۶:۰۳):

نکته‌ای که اصلاً برای من هضم نمی‌شود این است: این همه پول دقیقاً قرار است از کجا بیاید؟ کدام منبع سرمایه‌ای حاضر است ۳۱ تریلیون دلار خرج سوبسید دادن به صنعتی کند که در حال حاضر ماهیتی کاملاً زیان‌ده دارد؟

برندون (۰۶:۱۵):

دقیقاً سوال اصلی همین است.

لیندزی کلارک (۰۶:۱۶):

این همان معمای تریلیون دلاری است! در گفت‌وگویی که چندی پیش با تحلیلگران گارتنر (Gartner) داشتم، آن‌ها هنوز نسبت به سرمایه‌گذاری روی فناوری و هوش مصنوعی فوق‌العاده خوش‌بین بودند. در حال حاضر حدود دوسوم از کل مخارج فناوری در دنیا ناشی از سرمایه‌گذاری مستقیم خود غول‌های فناوری در زیرساخت‌های هوش مصنوعی است. قاعدتاً این شرکت‌ها انتظار دارند هزینه‌ها را به شکلی از مشتریان خود بازپس بگیرند و مدل‌ها را در نرم‌افزارها و ابزار‌های سازمانی ادغام کنند. اما دغدغه و علامت سوال بزرگ من اینجاست: ما شاهد هجوم مدل‌های بسیار ارزان‌تر به بازار هستیم؛ مدل‌های متن‌باز (Open-Source)، مدل‌هایی با وزن‌های باز (Open-Weight) و مدل‌های تجاری‌سازی‌شده و به‌صرفه چینی. در مصاحبه با برنامه‌نویسان و دست‌اندرکاران دیتاسنترها، همه بدون استثنا می‌گویند در ساختار داخلی‌شان تا جای ممکن به دنبال کاهش هزینه‌ها هستند و به جای رفتن سراغ گران‌ترین مدل‌های روز، به مدل‌های ارزان‌تر روی می‌آورند. در چنین شرایطی، آنتروپیک و OpenAI میلیاردها دلار به پای ساخت مدل‌های بزرگ‌تر و گران‌تر می‌ریزند؛ در حالی که مشخص نیست اگر بازار با سرعت به سمت عمومی‌سازی و ارزان شدن برود، آن‌ها چطور می‌خواهند هزینه‌های سنگین اشتراک و دسترسی به مدل‌هایشان را به شرکت‌ها تحمیل کنند؟

برندون (۰۸:۰۱):

کاملاً درست است؛ خیلی از کاربردهای تجاری حتی نیازی به این مدل‌های عظیم ندارند و کارشان با یک مدل بومی کوچک هم راه می‌افتد. مثلاً بسیاری از نیازهای هوش مصنوعی در کسب‌وکارها با مدل‌های تصمیم‌گیری ساده برطرف می‌شود و نیازی نیست همیشه یک مدل زبانی غول‌پیکر (LLM) را به کار بگیرید. از طرفی شرکت‌هایی مانند کلودفلر (Cloudflare) نسخه‌های وزن‌باز را ارائه کرده‌اند که می‌توان آن‌ها را مستقیماً روی سخت‌افزار محلی نصب کرد، یا در پلتفرم‌ها به رایگان یا با هزینه‌های ناچیز در دسترس قرار داده‌اند و می‌گویند اگر سخت‌افزارش را دارید، خودتان آن را دانلود و اجرا کنید! یعنی راه‌های فراوانی برای کاهش هزینه‌های هوش مصنوعی پیش پای شرکت‌هاست. به همین خاطر مسیر درآمدزایی و سودآوری غول‌های هوش مصنوعی کاملاً روی اما و اگرهای فراوان سوار شده است.

مت روسوف (۰۹:۰۳):

دقیقاً؛ ایده اولیه آنتروپیک احتمالاً این بوده که در ابتدای راه هزینه‌ها را سوبسید کند، مشتریان سازمانی را به سرویس‌های خود وابسته و معتاد سازد و سپس به مرور و زمانی که دیگر گزینه‌ای جز آنتروپیک ندارند، قیمت‌ها را بالا ببرد. اما نکته اینجاست که اکنون کسب‌وکارها جایگزین‌های فراوانی دارند؛ مسئله‌ای که به احتمال زیاد آنتروپیک اصلاً پیش‌بینی نکرده بود اوضاع این‌چنین پیش برود.

برندون (۰۹:۲۴):

شاید به همین دلیل بود که ظهور دیپ‌سیک (DeepSeek) مثل یک بمب در این صنعت صدا کرد! همه می‌گفتند اگر مدل‌های وزن‌باز قادر به انجام چنین کار‌هایی هستند، دیگر دوران یکه‌تازی آنتروپیک و OpenAI به پایان رسیده است. حالا هم می‌بینیم که سهم چشمگیری از کل اقتصاد آمریکا به پای این فناوری ریخته شده است. لیندزی، در بررسی‌هایت اشاره کرده بودی که این شرایط از جهات زیادی با حباب دات‌کام (.com) در اواخر دهه ۹۰ قابل مقایسه است، اما شاید به مراتب متورم‌تر. به نظرت در مقایسه با حباب دات‌کام، ترکیدن احتمالی این تب‌وتاب چه اثری روی اقتصاد جهان خواهد گذاشت؟

لیندزی کلارک (۱۰:۰۶):

مقایسه عدد به عدد دقیق کار سختی است، اما باید به یاد داشته باشیم که در زمان رونق و سقوط بعدی حباب دات‌کام، با وجود بر باد رفتن صدها میلیارد دلار ارزش بازار سهام، بخش واقعی اقتصاد خیلی زود خودش را بازسازی کرد. آن زمان در دل صنعت فناوری، بخش زیادی از سرمایه‌گذاری‌های مخابراتی سوخت شد؛ بسیاری از شرکت‌ها با دریافت وام‌های نجومی کابل‌های فیبر نوری را در زمین کار گذاشتند، اما تقاضای واقعی به سرعتی که انتظار داشتند رشد نکرد و این شرکت‌ها نتوانستند بدهی‌هایشان را پس بدهند و ورشکست شدند؛ حدود ۵۰۰ میلیارد دلار در آن مقطع سرمایه‌گذاری شده بود. سقوط دات‌کام رکودی موقت ایجاد کرد، اما اثرات آن به بخش واقعی اقتصاد چندان فلج‌کننده نبود و آسیب‌ها بیش‌تر در دل خود بخش فناوری مهار شد. در نهایت هم تمام آن کابل‌های فیبر نوری بعداً کاربرد پیدا کردند و ارزشش را داشت؛ فقط نکته این بود که در این مسیر، شرکت‌های فراوانی ورشکست شدند.

برندون (۱۱:۳۴):

که این پرسش را به وجود می‌آورد: اگر حباب هوش مصنوعی بترکد، آیا این همه دیتاسنتر ساخته‌شده واقعاً به کار خواهند آمد یا نه؟ این حس وجود دارد که شاید بخش زیادی از آن‌ها بی‌استفاده بماند یا نوعی بازتوزیع گسترده در سخت‌افزارها رخ دهد.

لیندزی کلارک (۱۱:۴۴):

در بلندمدت قطعاً به کار خواهند آمد، اما مسئله این است که تا آن زمان احتمالاً شرکت‌های زیادی ورشکست خواهند شد. چیزی که بیش از همه نگران‌کننده است، این چرخه‌های سرمایه‌گذاری دایره‌ای (Circular Investments) است؛ مثلاً می‌بینید OpenAI به اوراکل (Oracle) وعده صدها میلیارد دلار می‌دهد تا برایش دیتاسنتر بسازد، در حالی که OpenAI هنوز خودش چنین پولی در بساط ندارد! بسیاری از این توافق‌ها کاملاً به ارزش سهام و قیمت‌های حبابی بورس گره خورده‌اند.

برندون (۱۲:۱۸):

واقعاً اوضاع پیچیده‌ای است. صحبت از اوراکل شد؛ قبلاً به مشکل آن‌ها در تأمین مالی دیتاسنتر نیومکزیکو اشاره شده بود و اخیراً هم خبر رسید که برای پروژه دیتاسنتر ویسکانسین با چالش‌های مشابهی دست‌به‌گریبان هستند. خیلی‌ها می‌گویند اوراکل می‌تواند نقش همان «قناری در معدن زغال‌سنگ» (نخستین نشانه هشدار بحران) را در این ماجرا بازی کند.

لیندزی کلارک (۱۲:۴۳):

تا حدی بله و خیر؛ شرایط نگران‌کننده است چون اوراکل وام‌های کلانی می‌گیرد، هرچند شرکت‌های دیگری مثل متا (Meta) هم بدهی‌های سنگینی ایجاد کرده‌اند. بخش زیادی از این دردسرها به مجوزهای رگولاتوری و تأمین انرژی و برق این دیتاسنترها مربوط می‌شود؛ درست مثل همان اتفاقی که در پروژه نیومکزیکو با اعلام فورس‌ماژور (شرایط اضطراری) پیش آمد.

برندون (۱۳:۰۹):

پس مشکل بیش‌تر به مسائل تأمین انرژی و تأسیسات زیربنایی مربوط است...

لیندزی کلارک (۱۳:۱۲):

بله، اما این نشان می‌دهد که فاصله ادعای «بیایید کلی دیتاسنتر بسازیم» تا روشن کردن واقعی کلید این مراکز چقدر زیاد و چالش‌برانگیز است؛ فرآیندی که مطمئناً بسیار بیش‌تر از تصورات اوراکل زمان می‌برد.

مت روسوف (۱۳:۲۳):

دقیقاً؛ خیلی راحت است که روی کاغذ بنویسید یا در پیش‌نویس عرضه اولیه ادعا کنید: «ما می‌خواهیم کلی دیتاسنتر بسازیم.» اما در عمل، مکان‌یابی، تأمین برق نجومی، آب و سایر منابع، تهیه تراشه‌های گرافیکی (GPU) کافی و پیاده‌سازی شبکه‌های پیشرفته برای کاهش تاخیر، فرآیندی فوق‌العاده پیچیده است که به سادگی از کنارش عبور می‌کنند. این مراکز مقیاسی به مراتب عظیم‌تر از دیتاسنترهای بیست سال پیش دارند که نسل اول اینترنت را راه انداختند؛ این پروژه‌ها به هیچ وجه ساده نیستند.

برندون (۱۴:۰۱):

قطعاً همین‌طور است.

لیندزی کلارک (۱۴:۰۱):

من هم موافقم. هرچند اوراکل در پیش‌بینی‌هایش اعلام کرده که هزینه‌های سرمایه‌ای سال آینده‌اش از درآمدش بیش‌تر خواهد بود، اما جیب اوراکل پر از پول است! آن‌ها انبوهی از مشتریان شرکتی بزرگ دارند که نرم‌افزارهای دیتابیس اوراکل در تاروپودشان تنیده شده و به این راحتی نمی‌توانند آن را کنار بگذارند. لایسنس‌های نرم‌افزاری اوراکل یک «گاو شیرده» همیشگی است که تا سال‌ها برایشان درآمد مطمئن تولید می‌کند؛ بنابراین بعید می‌دانم اتفاق فاجعه‌باری برای اوراکل رخ دهد.

مت روسوف (۱۴:۳۶):

اگر مشکلی هم پیش بیاید، اوراکل نهایتاً از بخشی از این تعهدات عقب‌نشینی می‌کند و هسته اصلی کسب‌وکارش در امان می‌ماند. از طرفی غول‌هایی مثل گوگل و متا هم دیتاسنترهای عظیمی می‌سازند، اما درآمد و حاشیه سود آن‌ها از بخش‌های اصلی‌شان آن‌قدر نجومی است که این هزینه‌ها برایشان قابل هضم است. با این حال، اگر بدهی‌ها و استقراض‌ها از درآمدها جلو بزند، زمانی می‌رسد که طلبکاران بازپرداخت وام‌ها را طلب می‌کنند و آن موقع ممکن است ورق بازی برگردد.

برندون (۱۵:۱۲):

دقیقاً؛ گوگل، متا یا اوراکل منابع درآمدی مستحکمی دارند که می‌توانند به آن‌ها تکیه کنند، اما در نقطه مقابل، کل موجودیت استارتاپ‌هایی مثل OpenAI و آنتروپیک روی توسعه هوش مصنوعی بنا شده و محصول دومی ندارند که کسری‌هایشان را جبران کند.

یک نکته جالب دیگر در این میان، جلسه اخیر دولت ترامپ با رهبران صنعت هوش مصنوعی بود. همواره درباره این هراس‌افکنی‌ها در هوش مصنوعی صحبت می‌شود که شاید تمام این هشدارها یک ترفند بازاریابی یا تلاشی برای قبضه کردن رگولاتوری به نفع خودی‌ها باشد. نکته جالب جلسه این بود که بسیاری از چهره‌های حاضر، داریو آمودی (مدیرعامل شرکت Anthropic) را به خاطر هشدارهای مداوم و تند آخرالزمانی‌اش به باد انتقاد گرفتند و حسابی از دست او شاکی بودند! نظر شما درباره این ماجرا چیست؟ آیا واقعاً خود اهالی صنعت کم‌تر از آن چیزی که تظاهر می‌کنند می‌ترسند؟ چرا لحن ترسناک آمودی تا این حد برای دیگران آزاردهنده یا حتی مایه تمسخر شده است؟

مت روسوف (۱۶:۳۸):

من مدام بین دو دیدگاه مردد می‌مانم: آیا این افراد واقعاً به این داستان‌ها باور دارند یا تمامش یک ترفند بازاریابی فرصت‌طلبانه است؟ از یک طرف، این سناریوسازی‌ها روشی بی‌نظیر برای بالا بردن ارزش‌گذاری شرکت در عرضه اولیه است؛ اینکه بگویید این شرکت در زمان عرضه اولیه ۲ تریلیون دلار ارزش دارد چون در حال دگرگون کردن تمام دنیاست و خلق آن دست‌کمی از کشف آتش یا اختراع برق ندارد! اگر سرمایه‌گذاران این حرف را باور کنند، چنین ارزش‌گذاری نجومی هم توجیه پیدا می‌کند. برای باورپذیر کردنش هم می‌گویند: «این ساخته آن‌قدر قدرتمند است که حتی خودمان کنترلش را نداریم و خودش دست به اقدام می‌زند!» حتی اسناد و گزارش‌هایی فاش شده که نشان می‌دهد برخی از کارمندان آنتروپیک واقعاً به کلود (Claude) به چشم یک موجود زنده مستقل نگاه می‌کنند! اخیراً نیویورک تایمز هم گزارش داده بود که آن‌ها با رهبران مذهبی مشورت کرده‌اند تا برای اخلاقی‌تر کردن کلود راهنمایی بگیرند و در گفتگوها اشاره کرده بودند که شاید کلود واقعاً موجودی زنده باشد؛ مسائلی که واقعاً عجیب و شبه‌علمی است.

من قبلاً مطمئن بودم که این‌ها یک مانور تبلیغاتی است، اما حالا شک دارم. اخیراً در وال‌استریت ژورنال مقاله‌ای درباره ریشه‌های فکری آمودی منتشر شد؛ او از دل جنبش «دگرخواهی موثر» (Effective Altruism) بیرون آمده که به نظر من—

برندون (۱۸:۲۳):

امان از این فرقه دگرخواهی موثر!

مت روسوف (۱۸:۲۴):

—فلسفه‌ای حاشیه‌ای و افراطی که ادعا می‌کند باید برای بیش‌ترین تعداد انسان‌ها در یک آینده نامعلوم و دوردست، بیش‌ترین خیر را فراهم کرد! اما در عمل، این ایده بیش‌تر شبیه یک بهانه شیک برای رفتارهای غیراخلاقی است؛ یعنی شما می‌توانید اکنون رفتارهای آسیب‌زننده انجام دهید و بگویید نتایج بلندمدت در آینده آن را توجیه می‌کند. جالب است بدانید آمودی و برخی دیگر از پیروان این تفکر، در خانه‌ای مشترک در محله گلن‌پارک سان‌فرانسیسکو با هم زندگی می‌کردند و مدام از این فرضیه‌ها حرف می‌زدند. سم بنکمن-فرید (Sam Bankman-Fried)، بنیان‌گذار صرافی FTX که به جرم کلاهبرداری راهی زندان شد هم از چهره‌های سرشناس همین جنبش دگرخواهی موثر بود!

برندون (۱۹:۱۴):

دقیقاً، سم بنکمن-فرید تبدیل به نماد بارز این شد که این جنبش تا چه حد می‌تواند پوششی برای فریبکاری باشد.

مت روسوف (۱۹:۲۲):

بله، هرچند آنتروپیک تلاش می‌کند از این نگرش فاصله بگیرد، اما مدیرانش عمیقاً در همین محافل رفت‌وآمد داشته‌اند. بحث‌های مربوط به آخرالزمان و پایان دنیا حتی سال‌ها قبل از پیدایش این مدل‌های هوش مصنوعی نقل محافل آن‌ها بود! بنابراین وقتی کسی پیشاپیش در گوشه و کنار جهان به دنبال نشانه‌های آخرالزمان می‌گردد و ناگهان با سیستم‌های هوشمندی روبه‌رو می‌شود که رفتارهای پیش‌بینی‌ناپذیر دارند، فانتزی‌های پایان دنیای خود را روی این فناوری پیاده می‌کند. شاید واقعاً به آن باور دارند! به هر حال این تفکرات عجیب و بی‌پایه است و من در موردی نادر با ترامپ هم‌عقیده می‌شوم که می‌گوید این حرف‌ها بی‌معنی است، ناله و هراس‌افکنی را متوقف کنید و باید با تمام سرعت به توسعه فناوری ادامه دهیم.

برندون (۲۰:۲۴):

همین‌طور است.

مت روسوف (۲۰:۲۵):

البته پیشتازی بدون احتیاط را هم تأیید نمی‌کنم؛ ما واقعاً باید پیامدها و مخاطرات امنیتی و ملموس امروز را جدی بگیریم و راهکارهایی برای ایجاد حصارهای ایمنی (Guardrails) و مهار رفتار مدل‌ها پیدا کنیم. اما رویکردی که مدام فریاد می‌زند: «دنیا به پایان می‌رسد و کاری از دستمان برنمی‌آید»، رویکردی بسیار عجیب و فریبنده است.

برندون (۲۰:۴۷):

دقیقاً، به خصوص وقتی می‌دانیم کلید خاموش و روشن کردن این سرور‌ها دست خود همین شرکت‌هاست!

مت روسوف (۲۰:۵۴):

دقیقاً.

برندون (۲۰:۵۴):

هنوز مدلی ندیده‌ایم که از سرور فرار کند و خودش را روی سروری ناشناخته تکثیر کند که نشود خاموشش کرد! همه چیز کاملاً تحت کنترل ماست و حساس‌ترین سیستم‌ها اصلاً به اینترنت متصل نیستند (Air-gapped). البته ریسک‌های واقعی هم وجود دارد؛ همه دیده‌ایم وقتی محدودیت‌ها برداشته شود، این مدل‌ها چطور می‌توانند به شکل خودمختار راه‌های غیرمتعارف را امتحان کنند. اما اینکه از این چالش‌های فنی نتیجه بگیریم که: «باید میلیاردها دلار پول به حساب ما بریزید تا جلوی نابودی دنیا را بگیریم»، واقعاً یک مغالطه عجیب است و هیچ ربط منطقی بین این دو گزاره وجود ندارد.

مت روسوف (۲۱:۴۹):

دقیقاً همین است.

لیندزی کلارک (۲۱:۴۹):

این حرف‌ها در واقع یک پرده دود برای فرار از قانون‌گذاری‌های ملموس و دقیق است؛ قوانینی که این شرکت‌ها را ملزم می‌کند در برابر فناوری‌هایی که می‌سازند پاسخگو باشند. من پیش‌تر درباره مسئولیت حقوقی استفاده از ایجنت‌های هوش مصنوعی (AI Agents) در تجارت گزارش‌هایی نوشتم؛ این حوزه کاملاً مجهول است. وکلایی که با آن‌ها مصاحبه کردم می‌گفتند تا زمانی که پرونده‌های واقعی در دادگاه‌ها به جریان نیفتد هیچ چیز شفاف نیست. اتحادیه اروپا قوانینی وضع کرده، اما در آمریکا هنوز خبری نیست. این بحث‌های بی‌پایان درباره پایان جهان، راهی عالی برای به تعویق انداختن گفتگوهای جدی حقوقی است؛ حداقل تا زمانی که عرضه اولیه تمام شود و میلیاردها دلار سرمایه به جیب‌هایشان سرازیر شود!

مت روسوف (۲۲:۳۵):

دقیقاً؛ اگر من از یک هوش مصنوعی استفاده کنم و آن ابزار دست به کار ناخواسته‌ای بزند که خسارت بار بیاورد، مقصر کیست؟ آیا من به خاطر پرامپتی که نوشتم مقصرم یا شرکتی که مدل را ساخته؟ این‌ها مسائل واقعی و ملموس دنیای امروز هستند و برای حل آن‌ها نیازی نیست سراغ داستان‌های تخیلی آخرالزمانی برویم.

برندون (۲۲:۵۳):

اگر یک انسان چنین خرابکاری‌هایی می‌کرد، دادگاه او را مسئول می‌شناخت. سوال اصلی این است که چه زمانی قرار است این شرکت‌ها را ملزم به پاسخگویی کنیم؟ شرکت‌هایی که عملاً کل اینترنت و کاربرانش را موش آزمایشگاهی کرده‌اند و می‌گویند: «بیایید ببینیم این هوش مصنوعی چه کار‌هایی می‌تواند بکند!»

لیندزی کلارک (۲۳:۱۸):

موضوع حتی در کار‌های خیلی روزمره‌تر هم صدق می‌کند؛ مثلاً وقتی هوش مصنوعی پرونده پرسنلی کارمندان را خلاصه می‌کند یا برای تصمیم‌گیری‌ها و مشاوره‌های مالی به کار گرفته می‌شود، اگر اشتباه فاحشی رخ دهد چه کسی باید پاسخگو باشد؟ توسعه‌دهنده مدل یا کسی که آن را با داده‌های خاص آموزش داده است؟ این‌ها سوالاتی است که هنوز هیچ پاسخ مشخصی برایشان وجود ندارد.

مت روسوف (۲۳:۴۱):

اخیراً در همایش هوش مصنوعی سان‌فرانسیسکو، صحبت‌های داغی پیرامون «تجارت ایجنتی» (Agentic Commerce) مطرح شد؛ ایده‌ای که در آن ایجنت‌ها به جای شما تصمیم به خرید و خرج کردن پول می‌گیرند. اما واقعیت این است که فناوری اصلاً آماده چنین کاری نیست؛ شما نمی‌توانید تصمیم‌گیری درباره پول واقعی را به یک برنامه غیرقطعی و پیش‌بینی‌ناپذیر بسپارید. از طرفی از نظر فنی، ایجنت‌ها هنوز قادر به انجام برخی بررسی‌های اعتباری و امنیتی بانکی نیستند. همه این‌ها سوالات عینی و مهمی هستند که باید فوراً حل شوند. وقتی در پیش‌نویس عرضه اولیه یک شرکت، صفحه‌ها متن درباره سناریوهای تخیلی نابودی بشر می‌نویسند، این کار فقط یک حواس‌پرتی بزرگ از چالش‌های ملموس و فوری است.

برندون (۲۴:۵۲):

دقیقاً همین‌طور است. باید دید سرنوشت این عرضه عمومی چه خواهد شد. لیندزی، در اسناد فاش‌شده به تاریخ یا بازه زمانی خاصی برای ورود به بورس اشاره شده بود؟

لیندزی کلارک (۲۵:۰۵):

ماه نوامبر.

برندون (۲۵:۰۶):

پس خیلی نزدیک است؛ احتمالاً قبل از پایان سال جاری میلادی.

لیندزی کلارک (۲۵:۰۹):

بله، حداقل خودشان که این‌طور امیدوارند.

مت روسوف (۲۵:۱۲):

من هم گزارش‌هایی مبنی بر پاییز امسال دیده‌ام، بنابراین پیش از پایان سال خواهد بود.

برندون (۲۵:۱۷):

سوال دیگر این است که بعد از عمومی شدن سهام در سال آینده، آیا کسی آن‌ها را پاسخگو نگه خواهد داشت یا نه؟ با این شعار که «با تمام قوا به پیش بروید»، به نظر می‌رسد تنها امیدشان این است که اتفاق فاجعه‌باری نیفتد!

مت روسوف (۲۵:۳۱):

از نظر عملی، این اطلاعات بر اساس اسناد لورفته رویترز و فایننشال تایمز است و هنوز ارقام باجزئیات برای ماه‌های آینده را در دست نداریم. هرچند آنتروپیک مدعی سودآوری تعدیل‌شده در سه‌ماهه دوم شده، اما معلوم نیست این ادعا دقیقاً چه مبنایی دارد. زمانی که اسناد رسمی عرضه عمومی منتشر شود و سرمایه‌گذاران بتوانند آمار دقیق فصل‌به‌فصل هزینه‌ها را بررسی کنند، عیار واقعی ماجرا مشخص خواهد شد. آن وقت است که بازار تصمیم می‌گیرد آیا تبدیل شدن آنتروپیک به شرکتی ۲ تریلیون دلاری منطقی است و راهی به سوی سودآوری عظیم وجود دارد یا خیر. ماجرای عرضه سهام اسپیس‌ایکس (SpaceX) را هم دیدیم که هسته اصلی پرتاب موشک و ماهواره‌هایش خوب کار می‌کرد، هرچند بخش هوش مصنوعی‌اش ضعیف‌تر بود ولی نهایتاً سهامش عملکرد مقبولی داشت. حالا باید منتظر ماند و دید پرواز آنتروپیک در تالار بورس به کجا خواهد رسید.

برندون (۲۶:۵۷):

بدون شک به محض انتشار رسمی اسناد و ورود آنتروپیک به بورس، جزئیات بسیار بیشتری برای بررسی خواهیم داشت و این پرونده جذاب را دقیق‌تر موشکافی خواهیم کرد. از همراهی شما در این تحلیل سپاسگزاریم.