پیام‌های متناقض آمازون درباره هوش مصنوعی؛ هراس مهندسان از معیارهای مبهم ارزیابی عملکرد

یک آزمون بسیار ساده برای تشخیص اینکه آیا دستورالعمل‌های اجباری هوش مصنوعی در یک شرکت حاصل برنامه‌ریزی سنجیده هستند یا صرفاً تصمیماتی شتاب‌زده از سوی مدیران دور از واقعیت به‌شمار می‌روند، وجود دارد: وقتی یک مهندس نرم‌افزار مستند می‌کند که ابزارهای هوش مصنوعی کیفیت یک وظیفه را بدتر کرده‌اند، چه واکنشی دریافت می‌کند؟ آیا گزارش او جدی گرفته می‌شود، یا اینکه به حاشیه رانده شده و در نهایت از سازمان کنار گذاشته می‌شود؟

در همین راستا، آمازون به‌تازگی راهنمای مفصلی به قلم «ترک ترکوویتز» (Terk Terkowitz)، نایب‌رئیس و مهندس ارشد این شرکت، پیرامون جایگاه توسعه‌دهندگان در عصر هوش مصنوعی منتشر کرده است. این متن در اصل یادداشتی داخلی بود که در ماه سپتامبر برای مهندسان نرم‌افزار و مدیران آمازون ارسال شده بود؛ تأخیری تأمل‌برانگیز برای سندی که تا این حد با لحنی قاطعانه نوشته شده است. چالش‌های مطرح‌شده در این سند، شباهت چشمگیری با دغدغه‌های فعلی بسیاری از سازمان‌های فناوری در سراسر جهان دارد.

هرچند این سند حاوی نکات تحسین‌برانگیزی است، اما بررسی دقیق‌تر آن نشان می‌دهد که با تلاشی آشکار برای تلطیف چشم‌انداز تاریک شغل مهندسی نرم‌افزار روبه‌رو هستیم؛ چشم‌اندازی که در حال حاضر برای بسیاری از فعالان این صنعت به‌شدت نگران‌کننده به نظر می‌رسد.

بستر ماجرا چیست؟

این سند در دوران تحولی شگرف منتشر شده است. صنعت فناوری با دگرگونی‌های ناگهانی غریبه نیست، اما روند کنونی نفوذ همه‌جانبه هوش مصنوعی برای بسیاری از کارشناسان، تفاوت بنیادینی با انقلاب‌های پیشین دارد. مهندسان به‌شکل جدی نگران آینده شغلی خود هستند و حتی برخی از توسعه‌دهندگان با ناامیدی این پرسش را مطرح می‌کنند که آیا باید دنیای فناوری را رها کرده و به حرفه‌های سنتی روی بیاورند؟ صنعتی که هم‌اکنون نیز با آشفتگی‌های فراوانی دست‌وپنجه نرم می‌کند، در مواجهه با موج هوش مصنوعی با ابهامات بیشتری روبه‌رو شده است.

این اضطراب صرفاً جنبه نظری ندارد. در ماه مه، آمازون سامانه داخلی KiroRank را متوقف کرد؛ سیستمی که توسط کارکنان ساخته شده بود و افراد را بر اساس میزان مصرف توکن رتبه‌بندی می‌کرد. نتیجه قابل پیش‌بینی این سازوکار، ایجاد تسک‌ها و وظایف ساختگی و بیهوده توسط مهندسان برای بالا رفتن در جدول رتبه‌بندی بود. این پدیده که اکنون «توکن‌ماکسینگ» (مصرف نمایشی و افراطی توکن) نامیده می‌شود، در یادداشت ترکوویتز صراحتاً در تضاد با اصل «صرفه‌جویی و مدیریت هزینه» در آمازون دانسته شده است. متا نیز در همان ایام با پروژه‌ای به نام Claudenomics در میان ۸۵ هزار کارمند خود با وضعیتی مشابه روبه‌رو شد. هم‌زمان، انتشار گزارش‌هایی مبنی بر تعدیل ۲۵۰ نیروی دیگر در آمازون، باعث شده تا اغلب مهندسانی که یادداشت جدید را می‌خوانند، ارتباط معناداری میان این رویدادها احساس کنند.

یادداشت جدید آمازون چه پیامی دارد؟

این سند شامل محورهای ارزشمندی است و جایگاه جامعه مهندسان ارشد آمازون را در درک چالش‌های فنی برجسته می‌کند. رویکرد فنی مطرح‌شده نشان‌دهنده اشراف به جزئیاتی است که معمولاً در بیانیه‌های کلی مدیران اجرایی نادیده گرفته می‌شود.

یادداشت ترکوویتز بر نتایج ملموس برای مشتریان و قدرت قضاوت مهندسی تأکید ویژه‌ای دارد؛ دو عاملی که به این زودی‌ها نمی‌توان آن‌ها را به هوش مصنوعی واگذار کرد (هرچند با سرعت پیشرفت فناوری، ادعاها درباره ناتوانی‌های هوش مصنوعی ممکن است خیلی زود بی‌اعتبار شوند). سند آمازون حوزه‌هایی را مستند می‌کند که ابزارهای کنونی هوش مصنوعی کمکی به بهبود آن‌ها نمی‌کنند. این رویکرد بسیار سنجیده‌تر از آن است که هرگونه انتقاد به هوش مصنوعی را به مقاومت کورکورانه یا ترس از جایگزینی نسبت دهیم. علاوه بر این، در این یادداشت توصیه هوشمندانه‌ای برای سنجش ارائه شده است: تیم‌های پیشتاز در مصرف توکن باید بررسی شوند تا مشخص شود آیا سرعت و کیفیت تحویل محصول در آن‌ها واقعاً ارتقا یافته است یا خیر.

با این حال، تناقض‌های پنهانی در این میان خودنمایی می‌کند.

در این راهنما آمده است: «اگر وظایف شما از ابزارهای فعلی هوش مصنوعی سودی نمی‌برد، این یک یافته تجربی است، نه یک شکست فردی.» به مهندسان توصیه شده چنین مواردی را مستند کنند و موضوع را با مدیر خود در میان بگذارند. اگرچه این منطق روی کاغذ کاملاً درست به نظر می‌رسد، اما واقعیت محیط کار این است که کمتر پرونده ارتقای شغلی با اتکا به چنین توجیهاتی شانس موفقیت خواهد داشت.

تناقض اصلی زمانی آشکار می‌شود که سند اعتراف می‌کند معیارهای ورودی (نظیر میزان استفاده از ابزار) دارای «ایرادات اساسی» هستند، اما بلافاصله در پاراگراف بعدی استفاده محتاطانه از همین معیارها را مجاز می‌داند و هشدار می‌دهد کسانی که از هوش مصنوعی استفاده نمی‌کنند، از جریان رقابت عقب می‌مانند. این سه موضع‌گیری متوالی به هیچ وجه با یکدیگر همخوانی ندارند.

این دوگانگی لزوماً ناشی از سردرگمی نیست، بلکه می‌تواند پوششی محافظه‌کارانه برای مدیران باشد. با چنین دستوری، یک مدیر می‌تواند عدم استفاده مهندسی برجسته از ابزارها را «یک یافته ارزشمند» بداند، اما زمانی که تصمیم به اخراج یا قرار دادن کارمندی در برنامه بهبود عملکرد (PIP) دارد، او را به «عقب ماندن از فناوری» متهم کند. از آنجا که هر دو تفسیر در سیاست‌های شرکت گنجانده شده، دست مدیران برای تصمیم‌گیری‌های سلیقه‌ای باز می‌ماند.

پرسش اساسی این است که مدیران با عدم استفاده موجه از هوش مصنوعی چگونه برخورد خواهند کرد؟ آیا پاداش‌ها و ارتقاهای شغلی واقعاً به دستاوردهای بلندمدت داده می‌شود، یا اینکه مدیران ساده‌ترین مسیر را انتخاب کرده و صرفاً فعالیت‌های کمی و کار با ابزارها را ملاک سنجش قرار می‌دهند؟ بر اساس یک اصل معروف در مدیریت، وقتی معیاری به یک هدف تبدیل شود، اعتبار خود را از دست می‌دهد؛ کارکنان نیز تلاش خود را به سمت بالا بردن همان شاخص معطوف می‌کنند. در چنین شرایطی همه بازنده‌اند و دقیقاً همین سازوکار بود که پدیده‌های بیهوده‌ای مانند KiroRank را به وجود آورد.

تجارت فروش توکن؛ تناقض آشکار در استراتژی آمازون

در رویداد GitHub Universe نیز اعلام شد که امروزه عامل‌های هوش مصنوعی آغازگر حدود ۴۰ درصد از پول‌ریکوئست‌ها (PR) هستند. با این وجود، در سخنرانی اصلی این کنفرانس تأکید شد که خروجی ارزشمند به معنای «تولید کد بیشتر» نیست، بلکه به معنای نتایج ملموس نظیر عرضه قابلیت‌های جدید، رفع باگ‌ها و ارتقای امنیت سیستم‌ها است. با این حال، تناقض بزرگ در اینجاست که کل مدل کسب‌وکار شرکت‌های ابری بر خلاف این ادعا طراحی شده است؛ این غول‌ها هزینه‌ها را بر اساس میزان مصرف منابع و توکن‌ها از مشتریان دریافت می‌کنند، نه بر مبنای ارزش واقعی خروجی. در حال حاضر هیچ سازوکاری وجود ندارد که هزینه‌های پرداختی برای هوش مصنوعی را مستقیماً به نتایج ارزشمند متصل کند.

این موضوع بار دیگر تناقض آمازون را برملا می‌کند. یادداشت داخلی شرکت تأکید دارد که مصرف افراطی توکن در تضاد با صرفه‌جویی مالی است؛ امری که برای هزینه‌های داخلی آمازون کاملاً حقیقت دارد. اما هم‌زمان، واحد ابری آمازون (AWS) بابت استفاده از سرویس‌هایی نظیر Bedrock و Kiro بر اساس تعداد توکن‌ها از مشتریان هزینه می‌گیرد. در حقیقت، مصرف بی‌رویه توکن در داخل ساختمان‌های آمازون مشکلی است که باید ریشه‌کن شود، اما در بیرون از سازمان، دقیقاً همان چیزی است که درآمد شرکت را تضمین می‌کند.