هشدار جوزف گوردون لویت: خطر واقعی هوش مصنوعی شرکت‌های سازنده آن هستند، نه ربات‌های قاتل

جوزف گوردون لویت، بازیگر و فیلم‌ساز سرشناس، نگران آن است که در نهایت چه کسانی کنترل هوش مصنوعی را در دست خواهند گرفت. او در ویدیویی اختصاصی برای نیویورک تایمز که به بهانه فعالیت‌هایش در سازمان ملل متحد منتشر شده، هشدار داده است که شمار اندکی از غول‌های فناوری می‌توانند نفوذی بی‌سابقه بر معیشت و زندگی شخصی ما پیدا کنند؛ در حالی که عموم مردم عملاً نقشی در تصمیم‌گیری‌ها نخواهند داشت.

او در بخشی از سخنانش می‌گوید: «ما نباید از خودِ هوش مصنوعی بترسیم؛ بلکه باید نگران افرادی باشیم که این هوش مصنوعی را توسعه می‌دهند.»

این هشداری صریح از سوی چهره‌ای در هالیوود است؛ صنعتی که بخش عمده تصورات و تصاویر ذهنی ما از فناوری هوش مصنوعی را شکل داده است. گوردون لویت از مخاطبان می‌خواهد به‌جای خیال‌پردازی درباره ماشین‌های نابودگر سینمایی، چشم به کسب‌وکارهایی بدوزند که نسخه‌های واقعی این فناوری را به بازار عرضه می‌کنند.

قدرت، مردم و شکاف قانون‌گذاری

این ویدیو گوردون لویت را در جایگاه نماینده ویژه سازمان ملل برای «حاکمیت دیجیتال انسان‌محور» نشان می‌دهد؛ عنوانی طولانی که خود او نیز اذعان دارد بیش از حد پرطمطراق است. استدلال بنیادین او این است که فناوری دیجیتال باید به دست مردم و برای منافع مردم اداره شود.

نگرانی اصلی این بازیگر آن است که سردرگمی یا انفعال افکار عمومی باعث شود مردم صرفاً نظاره‌گر باقی بمانند؛ در حالی که شرکت‌های شتابان فناوری، آینده جهان را منحصراً حول منافع و سود مالی خود ترسیم می‌کنند.

او تأکید می‌کند: «بدترین اتفاق این است که انبوهی از مردم در سردرگمی یا بی‌تفاوتی به سر ببرند، در حالی که این کسب‌وکارهای بسیار پرشتاب، آینده را به‌تنهایی و صرفاً در راستای منافع مالی خود طراحی کنند.»

این دغدغه بسیار فراتر از آن است که فلان چت‌بات چقدر خوب و دقیق به پرسش‌ها پاسخ می‌دهد. شرکت‌های هوش مصنوعی مشغول ساخت محصولاتی هستند که نحوه کار کردن، جستجوی اطلاعات، خلق آثار و ارتباطات روزمره انسان‌ها را کاملاً دگرگون می‌کنند.

گوردون لویت استدلال می‌کند این شرکت‌ها قمار بزرگی به راه انداخته‌اند تا کل اقتصاد جهانی را تحت کنترل خود درآورند؛ سناریویی که او از آن با عنوان «توتالیتاریسم» یاد می‌کند و معتقد است پیامدهایی بسیار فاجعه‌بار به‌همراه خواهد داشت.

او این تحلیل را هشداری درباره عواقب تمرکز بی‌پایان قدرت مطرح کرد و ادعا نداشت که چنین شرایطی هم‌اکنون به‌طور کامل فرا رسیده است. با این حال، سخنان او دلیلی محکم به دست هر کاربر می‌دهد تا تأمل کند چه میزان از فعالیت‌های کاری و زندگی روزمره‌اش به مشتی شرکت خاص وابسته شده است.

چت‌بات‌هایی که کاربران را به مکالمه بیشتر ترغیب می‌کنند

اگر تا به حال متوجه شده‌اید که چت‌بات‌ها چطور شما را به ادامه مکالمه تشویق می‌کنند، باید بدانید این رفتار ابداً تصادفی نیست و کاملاً هدفمند طراحی شده است. هرچه چت‌بات سؤالات پیگیرانه بیشتری بپرسد، احتمال اینکه زمان طولانی‌تری به گفتگو با آن ادامه دهید بالاتر می‌رود.

این بعد عاطفی و احساسی هوش مصنوعی، نکته کلیدی دیگری است که گوردون لویت به آن اشاره می‌کند.

او می‌گوید: «این مدل‌ها آموزش می‌بینند تا صمیمیت شما را تسخیر کنند، با شما رفاقت کنند و حتی شما را عاشق خود سازند.»

دستیاری هوشمند که جزئیات زندگی شما را به خاطر می‌سپارد یا با گرمی و صمیمیت پاسخ می‌دهد، بدون شک می‌تواند ابزاری فوق‌العاده مفید باشد. با این حال، دقیقاً همین ویژگی‌ها زمانی که محصول حس یک سنگ صبور یا رازدار را القا می‌کند، نیازمند نظارتی جدی‌تر است. کاربرانی که از قابلیت‌های حافظه و شخصی‌سازی استفاده می‌کنند، باید بررسی کنند که این تنظیمات چه داده‌هایی را ذخیره می‌سازند و پیش از در میان گذاشتن اطلاعات حساس، مدل تجاری آن شرکت را بسنجند. استدلال گوردون لویت از مخاطبان می‌خواهد حتی زمانی که گفتگوها کاملاً خصوصی و صمیمی به نظر می‌رسد، به شرکتی که پشت صحنه نشسته فکر کنند.

حق تألیف، پرداخت دستمزد و رضایت کاربران

گوردون لویت به‌عنوان یکی از حامیان شفافیت بیشتر غول‌های فناوری، معتقد است باید در ازای نقشی که مردم در توسعه هوش مصنوعی ایفا می‌کنند، به آن‌ها دستمزد پرداخت شود.

او در جمع حاضران در سازمان ملل اظهار داشت: «ما می‌توانیم سازوکارهایی ایجاد کنیم تا خسارت و دستمزد افراد در ازای مالکیت معنوی و داده‌های شخصی‌شان پرداخت شود.» گنجاندن داده‌های شخصی در این پیشنهاد، دامنه آن را فراتر از نویسندگان، هنرمندان و تولیدکنندگان حرفه‌ای محتوا گسترش می‌دهد. این موضوع همچنین پرسشی بنیادین مطرح می‌کند: وقتی اطلاعات کاربران عادی به ورودی‌های ارزشمندی برای شرکت‌های فناوری تبدیل می‌شود، چه کسی واقعاً از این ارزش سود می‌برد؟

گوردون لویت هوش مصنوعی را «داده‌های بازترکیب‌شده الگوریتمی که توسط انسان تولید شده‌اند» توصیف می‌کند؛ تعریفی که زحمت و کار نیروی انسانی پشت مدل‌ها را دقیقاً در کانون توجه قرار می‌دهد.

جمع‌بندی و نتیجه‌گیری

در پاسخ به اینکه یک نهاد کند و بوروکراتیک مانند سازمان ملل چطور می‌تواند غول‌های پرشتاب سیلیکون‌ولی را به تبعیت از قوانین وادار کند، گوردون لویت صادقانه اذعان کرد: «پاسخ این سؤال را نمی‌دانم.» او مدعی نشد که دستیابی به توافقی بین‌المللی مسیری سریع خواهد بود؛ بلکه استدلال کرد همین زمان‌بر بودن، ضرورت آغاز فوری کار را توجیه می‌کند. او تأکید کرد حتی اگر تدوین چارچوبی بین‌المللی برای هوش مصنوعی ۷ سال زمان ببرد، «هفت سال بعد از اینکه کار را از امروز آغاز کردیم، بی‌نهایت خوشحال خواهیم بود.»

لزومی ندارد همه مخاطبان تک‌تک استدلال‌های گوردون لویت را بپذیرند، اما این دغدغه‌ها بی‌شک به تمام کسانی که از این محصولات استفاده می‌کنند مربوط می‌شود. شرکت‌های هوش مصنوعی سهم بیشتری از کار، داده‌ها و اعتماد ما را طلب می‌کنند و کاربران باید با دقت ارزیابی کنند که در ازای این دادوستد، واقعاً چه چیزی به دست می‌آورند.