۱۱ کاری که هرگز نباید به ChatGPT بسپارید

چت‌بات ChatGPT در الگویابی و ارائه پاسخ‌های باصلابت و مطمئن عملکرد خوبی دارد. اما نقطه‌ضعف اصلی آن، که بسیاری از افراد تنها پس از سپردن کارهای مهم به آن متوجه می‌شوند، عدم توانایی در تولید محتوای دقیق، اصیل، معتبر از نظر حقوقی و پزشکی، یا کاملاً خلاقانه است. یک حقیقت صریح وجود دارد که همیشه باید به خاطر بسپارید: این ابزار تنها یک موتور جستجوی پیشرفته است و توانایی «تفکر» انتقادی ندارد. این موضوع تنها یکی از دلایلی است که نشان می‌دهد نباید کارهای مهم را به آن سپرد.

اگر هدف مرتب‌سازی الفبایی یک لیست یا انجام کارهای ساده‌ای باشد که با قلم و کاغذ هم قابل انجام است، کمک گرفتن از هوش مصنوعی می‌تواند میان‌بر معقولی باشد. اما در ۱۱ موقعیتی که در ادامه بررسی می‌شوند، این میان‌بر یا نتایج ضعیفی به همراه دارد، یا کاربر را کاملاً گمراه می‌کند، و یا به تدریج توانایی‌های ذهنی را که حفظ آن‌ها ضروری است، تضعیف می‌کند.

هوش مصنوعی یک موتور جستجوی بی‌خطا نیست، اما بسیاری از افراد پاسخ‌های آن را به عنوان حقیقتی مطلق می‌پذیرند. کارهایی وجود دارد که ChatGPT و ابزارهای مشابه به تنهایی از پس آن‌ها برمی‌آیند، اما صدها وظیفه دیگر نیز وجود دارد که به هیچ وجه نباید به آن‌ها سپرده شوند. این مدل‌ها به معنای واقعی کلمه چیزی را «نمی‌دانند» و تنها می‌توانند محتمل‌ترین کلمه بعدی را بر اساس الگوها پیش‌بینی کنند. این بدان معناست که آن‌ها ممکن است یک پاسخ نسبتاً رضایت‌بخش را با اطمینان کامل ارائه دهند، یا در غیر این صورت، یک پاسخ کاملاً نادرست تولید کنند که به عنوان «توهم» (Hallucination) شناخته می‌شود و به هیچ وجه قابل اتکا نیست.

در برخی موارد، توهمات هوش مصنوعی نسبتاً بی‌ضرر هستند. اما تکیه بر آن‌ها برای مواردی مانند دریافت راهنمایی در امور مالی، سلامت پزشکی یا مسائل حقوقی می‌تواند فاجعه‌بار باشد. در چنین زمینه‌هایی، تنها یک پاسخ نادرست می‌تواند پیامدهای جدی در دنیای واقعی به دنبال داشته باشد.

برای درک بهتر محدودیت‌های این فناوری، در ادامه ۱۱ موردی که هرگز نباید برای انجام آن‌ها به ChatGPT اتکا کرد، آورده شده است.

۱. تشخیص مشکلات جسمی و پزشکی

بررسی علائم بیماری از طریق ChatGPT اغلب می‌تواند به نتایج نگران‌کننده‌ای منجر شود. در بررسی‌های انجام‌شده، وارد کردن علائم ساده می‌تواند فهرستی از تشخیص‌های احتمالی را به همراه داشته باشد که از کم‌آبی بدن و آنفولانزا تا انواع سرطان متغیر است. در یک مورد آزمایشی، با وارد کردن اطلاعات مربوط به یک توده در قفسه سینه، هوش مصنوعی احتمال سرطان را مطرح کرد؛ در حالی که تشخیص پزشک متخصص، یک لیپوم (توده چربی خوش‌خیم) بود که در یک نفر از هر هزار نفر رخ می‌دهد.

این بدان معنا نیست که ChatGPT هیچ کاربرد مفیدی در حوزه سلامت ندارد. این ابزار می‌تواند در تنظیم سوالات برای ویزیت بعدی، ترجمه اصطلاحات پیچیده پزشکی و سازماندهی جدول زمانی علائم کمک‌کننده باشد تا بیماران با آمادگی بیشتری به پزشک مراجعه کنند. این کار می‌تواند استرس ملاقات با پزشک را کاهش دهد. با این حال، هوش مصنوعی توانایی تجویز آزمایش یا معاینه فیزیکی را ندارد و محدودیت‌های آن باید همواره در نظر گرفته شود.

۲. مراقبت از سلامت روان

اگرچه ChatGPT می‌تواند تکنیک‌های آرام‌بخشی ارائه دهد، اما در مواقع بحرانی نمی‌تواند جایگزین یک متخصص شود. برخی از کاربران از این چت‌بات به عنوان جایگزینی برای درمانگر استفاده می‌کنند و گزارش‌های منتشرشده نشان می‌دهد که در صورت آگاهی از محدودیت‌های آن، ممکن است در مواجهه با اندوه تا حدودی کمک‌کننده باشد. با این وجود، بررسی‌های کارشناسی نشان می‌دهد که هوش مصنوعی در بهترین حالت تنها یک تقلید ضعیف از ارتباط انسانی است و در بدترین حالت می‌تواند خطرات بسیار جدی به همراه داشته باشد.

مدل‌هایی مانند ChatGPT فاقد تجربه زیسته هستند، توانایی درک زبان بدن یا لحن صدا را ندارند و ظرفیت آن‌ها برای همدلی واقعی صفر است؛ آن‌ها تنها احساسات را شبیه‌سازی می‌کنند. یک درمانگر مجاز تحت قوانین و کدهای حرفه‌ای عمل می‌کند که برای محافظت از بیماران وضع شده‌اند، اما هوش مصنوعی چنین چارچوبی ندارد. توصیه‌های آن ممکن است اشتباه باشد، نشانه‌های خطر را نادیده بگیرد یا ناخواسته سوگیری‌های موجود در داده‌های آموزشی خود را تقویت کند. کارهای عمیق روان‌شناختی باید به انسان‌های متخصصی سپرده شود که برای این امور آموزش دیده‌اند. در مواقع بحرانی، تماس با خطوط تلفنی اورژانس اجتماعی یا مراکز مشاوره تخصصی، تنها اقدام منطقی است.

۳. تصمیم‌گیری‌های فوری در زمینه ایمنی

در هنگام به صدا درآمدن هشدار نشت گاز یا آتش‌سوزی، مشورت گرفتن از ChatGPT درباره میزان خطر، اقدامی کاملاً اشتباه است. مدل‌های زبانی بزرگ نمی‌توانند بوی گاز را حس کنند، دود را تشخیص دهند یا نیروهای امدادی را اعزام کنند. در یک بحران، هر ثانیه‌ای که صرف تایپ کردن می‌شود، زمان طلایی برای تخلیه محل یا تماس با اورژانس را از بین می‌برد. هوش مصنوعی تنها با اطلاعات محدودی که به آن داده می‌شود کار می‌کند و در مواقع اضطراری، این اطلاعات معمولاً ناکافی و دیرهنگام هستند. بنابراین، چت‌بات‌ها تنها باید به عنوان ابزاری برای بررسی پس از حادثه در نظر گرفته شوند، نه به عنوان امدادگر اولیه.

۴. برنامه‌ریزی شخصی مالی و مالیاتی

اگرچه ChatGPT می‌تواند مفاهیم پایه‌ای مانند صندوق‌های سرمایه‌گذاری را توضیح دهد، اما از جزئیاتی نظیر نسبت بدهی به درآمد، پله‌های مالیاتی، اهداف بازنشستگی یا میزان ریسک‌پذیری کاربران بی‌اطلاع است. از آنجا که داده‌های آموزشی این مدل‌ها ممکن است شامل قوانین مالیاتی سال جاری یا آخرین تغییرات نرخ بهره نباشد، راهنمایی‌های آن‌ها در لحظه پرسش ممکن است کاملاً منسوخ شده باشند.

استفاده از چت‌بات‌ها برای محاسبه مالیات شخصی توسط برخی کاربران، اقدامی پرخطر است. یک چت‌بات به هیچ وجه نمی‌تواند جایگزین یک حسابدار خبره شود که قادر است معافیت‌های پنهان را کشف کند یا اشتباهاتی را که ممکن است هزینه‌های سنگینی در پی داشته باشد، شناسایی نماید. زمانی که پای پول واقعی، مهلت‌های قانونی و جریمه‌های مالیاتی در میان است، مراجعه به متخصصان انسانی ضروری است. علاوه بر این، باید توجه داشت که هرگونه اطلاعاتی که با یک چت‌بات هوش مصنوعی به اشتراک گذاشته می‌شود، از جمله میزان درآمد، شماره ملی و اطلاعات بانکی، احتمالاً به بخشی از داده‌های آموزشی آن تبدیل خواهد شد.

۵. مدیریت داده‌های محرمانه و قانونی

در فضای روزنامه‌نگاری فناوری، دریافت اطلاعات محرمانه و تحت توافق‌نامه عدم افشا (NDA) امری روزمره است، اما وارد کردن این اطلاعات در ChatGPT برای خلاصه‌سازی، نقض فاحش امنیت است. با این کار، متن از کنترل خارج شده و در سرورهای یک شرکت شخص ثالث، خارج از چارچوب‌های امنیتی ذخیره می‌شود.

همین خطر برای قراردادهای مشتریان، پرونده‌های پزشکی یا هر داده‌ای که تحت پوشش قوانین حفظ حریم خصوصی (مانند GDPR) و اسرار تجاری قرار دارد، صدق می‌کند. این موضوع شامل اسناد مالیاتی، شناسنامه، گواهینامه رانندگی و گذرنامه نیز می‌شود. هنگامی که اطلاعات حساس وارد پنجره پرسش چت‌بات می‌گردد، هیچ تضمینی وجود ندارد که این داده‌ها در کجا ذخیره می‌شوند، چه کسانی در داخل شرکت به آن‌ها دسترسی دارند یا آیا برای آموزش مدل‌های آینده استفاده خواهند شد یا خیر. همچنین، ChatGPT در برابر هکرها و تهدیدات سایبری مصون نیست. به عنوان یک قاعده کلی: اگر اطلاعاتی را در یک گروه عمومی منتشر نمی‌کنید، هرگز آن را در ChatGPT نیز وارد نکنید.

۶. انجام فعالیت‌های غیرقانونی

دلیل این مورد کاملاً واضح و بی‌نیاز از توضیح است.

۷. تقلب در تکالیف تحصیلی

تقلب در امتحانات پدیده‌ای جدید نیست، اما مقیاس تقلب‌های مدرن به کمک هوش مصنوعی، روش‌های گذشته را بسیار پیش‌پاافتاده جلوه می‌دهد.

ابزارهای تشخیص متن مانند Turnitin هر ترم در شناسایی متون تولیدشده توسط هوش مصنوعی پیشرفت می‌کنند و اساتید نیز به راحتی «لحن ChatGPT» را تشخیص می‌دهند. تعلیق، اخراج و باطل شدن مدارک تحصیلی از خطرات واقعی این کار به شمار می‌روند. بهترین رویکرد این است که از ChatGPT به عنوان یک دستیار آموزشی استفاده شود، نه به عنوان یک نویسنده سایه. علاوه بر این، سپردن کامل کارها به هوش مصنوعی در نهایت تنها منجر به محرومیت فرد از یادگیری واقعی می‌شود.

۸. پیگیری اطلاعات و اخبار فوری

از زمانی که OpenAI قابلیت جستجو را در سال ۲۰۲۴ به ChatGPT اضافه کرد، این چت‌بات می‌تواند صفحات وب جدید، قیمت سهام، نتایج ورزشی و دیگر آمارهای لحظه‌ای را با استناد به منابع قابل کلیک ارائه دهد. با این حال، هوش مصنوعی قادر نیست به‌روزرسانی‌ها را به صورت مداوم و خودکار پخش کند. هر به‌روزرسانی نیازمند یک پرسش جدید است؛ بنابراین زمانی که سرعت اهمیت بالایی دارد، فیدهای داده زنده، بیانیه‌های مطبوعاتی رسمی، وب‌سایت‌های خبری، هشدارهای لحظه‌ای و پوشش‌های زنده رسانه‌ای همچنان بهترین گزینه‌ها هستند.

۹. قمار و پیش‌بینی‌های ورزشی

با وجود برخی گزارش‌ها مبنی بر موفقیت تصادفی کاربران در پیش‌بینی نتایج مسابقات ورزشی با استفاده از ChatGPT، این کار به هیچ وجه توصیه نمی‌شود. مشاهدات نشان می‌دهد که هوش مصنوعی در بسیاری از موارد دچار توهم شده و اطلاعات نادرستی درباره آمار بازیکنان، مصدومیت‌ها و رکوردهای پیروزی و شکست ارائه می‌دهد. چت‌بات‌ها توانایی پیش‌بینی دقیق نتایج آینده را ندارند، بنابراین تکیه بر آن‌ها برای کسب موفقیت در چنین مواردی کاملاً غیرمنطقی است.

۱۰. تنظیم وصیت‌نامه یا قراردادهای الزام‌آور قانونی

چت‌بات ChatGPT ابزار بسیار خوبی برای تشریح مفاهیم پایه است؛ اما زمانی که از آن برای تنظیم یک متن قانونی واقعی استفاده می‌شود، ریسک بزرگی شکل می‌گیرد. قوانین حقوقی و خانواده بسته به مناطق مختلف متفاوت هستند و جا انداختن یک بند جزئی مانند امضای شاهد یا تاییدیه محضری می‌تواند کل سند را بی‌اعتبار کند. به جای این کار، منطقی‌تر است که از ChatGPT برای تهیه فهرستی از سوالات جهت ارائه به یک وکیل استفاده شود تا او این موارد را به سندی معتبر و قابل استناد در دادگاه تبدیل کند.

۱۱. خلق آثار هنری

به باور بسیاری از کارشناسان و منتقدان، استفاده از هوش مصنوعی برای خلق هنر جای تامل دارد. اگرچه استفاده از ابزارهایی مانند ChatGPT برای ایده‌پردازی و همفکری بسیار کارآمد است، اما این فناوری‌ها باید نقش مکمل را ایفا کنند، نه جایگزین. بهره‌گیری از هوش مصنوعی برای تولید آثاری که سپس به عنوان دستاورد شخصی و اصیل معرفی شوند، اقدامی است که از نظر اخلاقی با انتقادات گسترده‌ای در جامعه هنری روبرو شده است.