هشدار مهندس Anthropic؛ اتکای بیش‌ازحد به ایجنت‌های هوش مصنوعی قدرت تفکر برنامه‌نویسان را تضعیف می‌کند

ادی عثمانی (Addy Osmani) این روزها عمیقاً به مفهوم «فکر کردن» فکر می‌کند.

عثمانی در تیم Claude Code شرکت Anthropic فعالیت دارد؛ شرکتی که با تمام قوا به سمت برنامه‌نویسی مبتنی بر ایجنت‌ها حرکت کرده و حجم کدنویسی مستقیم توسط انسان را به‌شکل چشمگیری کاهش داده است. او خود به‌عنوان یکی از توسعه‌دهندگان ابزارهای برنامه‌نویسی هوش مصنوعی، نقشی کلیدی در این دگرگونی ایفا می‌کند.

او در یادداشتی در شبکه اجتماعی ایکس نوشت: «اکنون که بخش عمده‌ای از فعالیت‌های روزمره‌ام توسط ایجنت‌ها انجام می‌شود، دیگر تقریباً هیچ عاملی در کارهای روزانه‌ام مرا وادار به تفکر نقادانه نمی‌کند.»

مهندسان نرم‌افزار طی یک سال گذشته نگرانی‌های مشابهی را مطرح کرده‌اند؛ اینکه هوش مصنوعی آن‌ها را به‌جای سازنده و معمار، به اپراتور تبدیل کرده است. یکی از نیروهای پیشین OpenAI نیز پیش‌تر اعلام کرده بود که کدنویسی با هوش مصنوعی روندی ملال‌آور و خسته‌کننده پیدا کرده است.

هدف عثمانی این نیست که توسعه‌دهندگان از هوش مصنوعی استفاده نکنند، بلکه او بر این باور است که مهندسان باید روش عمیق‌تر اندیشیدن را فرا بگیرند.

خطر «تسلیم شناختی» در عصر هوش مصنوعی

عثمانی نظریه خود را این‌گونه مطرح می‌کند: «شما باید تفکر نقادانه را آگاهانه وارد برنامه روزمره خود کنید؛ چراکه در حالت پیش‌فرض، هیچ ابزاری این کار را برای شما انجام نخواهد داد.»

او اشاره می‌کند که استفاده از هوش مصنوعی می‌تواند به سه سطح از کاهش تفکر منجر شود. سطح اول «واگذاری شناختی» (Cognitive Offloading) است؛ یعنی فرآیند سپردن وظایف به هوش مصنوعی در حالی که مالکیت و درک نهایی محصول در اختیار خود فرد باقی می‌ماند. او می‌نویسد: «من در تمام طول روز این کار را انجام می‌دهم و شما هم باید انجام دهید.»

سطح دوم «ارجاع» (Deferral) نام دارد که در آن خروجی هوش مصنوعی مستقیماً به ورودی جدید شما تبدیل می‌شود. سطح سوم «تسلیم شناختی» (Cognitive Surrender) است، اصطلاحی که دو محقق در مدرسه وارتون آن را وضع کردند. این حالت به معنای اعتماد کورکورانه و کامل به خروجی‌های هوش مصنوعی است که عثمانی آن را نشانه‌ای از تنبلی فکری می‌داند. او هشدار می‌دهد که تکرار بیش‌ازحد این رفتار نوعی «بدهی شناختی» به بار می‌آورد.

هنوز به‌طور دقیق مشخص نیست که آیا هوش مصنوعی در حال تضعیف هوش انسان است یا نحوه فکر کردن ما را دگرگون می‌کند. پژوهشگران نشانه‌های نگران‌کننده‌ای را مشاهده کرده‌اند، اما در عین حال هشدار می‌دهند که نباید پیش از موعد نتیجه‌گیری قطعی کرد.

عثمانی پدیده تسلیم تفکر نقادانه را مکرراً در محیط‌های کاری مشاهده می‌کند. با این حال او تأکید دارد که این موضوع لزوماً فاجعه‌بار نیست، بلکه همه چیز به اهمیت و حساسیت کار بستگی دارد.

او در این زمینه توضیح می‌دهد: «در کارهایی که حساسیت و ریسک پایینی دارند، با خیال راحت می‌توانید همه‌چیز را به هوش مصنوعی واگذار کنید؛ اما زمانی که نتوانید پاسخ یک پرسش را حتی به کمک ایجنت خود توضیح دهید، یعنی مالکیت ذهنی آن کار را واگذار کرده‌اید.»

چگونه در کنار ایجنت‌های هوش مصنوعی بیندیشیم؟

عثمانی مجموعه‌ای از پرسش‌هایی را به اشتراک گذاشته که همواره از خود می‌پرسد. این پرسش‌ها مواردی از این دست را شامل می‌شوند: «آیا پیش از پرسیدن از هوش مصنوعی، فرضیه‌ای در ذهن داشتم؟» و «دیگر چه مهارت‌هایی را تمرین نمی‌کنم؟»

او بار دیگر یادآور می‌شود که قرار نیست مهندسان درباره همه‌چیز یا حتی بیشتر امور وسواس فکری داشته باشند. عثمانی در پاسخ به سؤالی درباره تفاوت میان کمک گرفتن از ابزار و برون‌سپاری وظایف می‌نویسد: «هر دو روش مناسب هستند، به شرط آنکه دقیقاً بدانید در حال انجام کدام‌یک هستید.»

عثمانی هم‌چنین تأکید می‌کند که برنامه‌نویسان باید چرخه‌هایی بسازند تا از کارکرد صحیح کد نوشته‌شده توسط هوش مصنوعی مطمئن شوند. او این رویکرد را «راستی‌آزمایی به‌عنوان یک عادت» می‌نامد و به مهندسان توصیه می‌کند همواره از ایجنت هوش مصنوعی بپرسند چه بخش‌هایی از کار را می‌تواند راستی‌آزمایی کند و از اعتبارسنجی چه مواردی ناتوان است.

مهارت‌های انسانی معمولاً در گذر زمان تحلیل می‌روند. پس از فراگیر شدن اپلیکیشن‌های مسیریابی، چند نفر از ما هنوز می‌توانیم با نقشه‌های کاغذی مسیر خود را پیدا کنیم؟ وقتی شماره دوستانمان را در گوشی ذخیره می‌کنیم، چند نفر از ما آن‌ها را حفظ هستند؟ کدنویسی نیز از این قاعده مستثنی نیست.

عثمانی در پایان خاطرنشان می‌کند: «مهارت‌هایی که تمرین کردن آن‌ها را متوقف کنید از بین خواهند رفت و این اتفاق احتمالاً بسیار سریع‌تر از آنچه تصورش را می‌کنید رخ می‌دهد؛ بنابراین مهارت‌هایی را که حاضر نیستید از دست بدهید، همچنان فعالانه تمرین کنید.»