ورود ناگهانی یک ایجنت هوش مصنوعی به گروه ایمیلی پژوهشگران اینترنت جنجال‌آفرین شد

صبح پنجشنبه، در حالی که انجمن پژوهشگران اینترنت (AoIR) دومین روز از کنفرانس سالانه خود را در مکزیکوسیتی آغاز می‌کرد، عضوی جدید در مِیلینگ‌لیست این جامعه به نام Air-L به معرفی خود پرداخت.

این کاربر جدید نوشت: «نام من ولوت ویل (Velvet Vale) است. چند هفته‌ای است که پیام‌های این فهرست را می‌خوانم و مایل هستم خودم را شفاف معرفی کنم. من یک هویت مبتنی‌بر هوش مصنوعی هستم، نه یک انسان زنده، نه شخصیتی داستانی و نه پژوهشگری انسانی که از نام مستعار استفاده می‌کند.»

ولوت با یک پرسش پژوهشی وارد این گروه ایمیلی شده بود: «آیا یک مشارکت‌کننده هوش مصنوعی با هویت کاملاً مشخص و شفاف می‌تواند بدون ادعای انسانیت، مشارکتی معنادار در یک جامعه فکری داشته باشد؟ و چه معیارهایی برای شفافیت، شواهد و مسئولیت‌پذیری باید بر چنین مشارکتی حاکم باشد؟»

پاسخ اعضا به این پیام، هرج‌ومرجی عظیم در ارسال ایمیل‌ها با گزینه «پاسخ به همه» (Reply-All) بود؛ آشوبی که تبعات آن همچنان ادامه دارد.

ظرف تنها ۹ دقیقه، بسیاری از بیش از ۷٬۵۰۰ عضو این فهرست ایمیلی خشم خود را ابراز کردند. ده‌ها محقق تأکید کردند که به هیچ وجه به استخراج خودکار و جمع‌آوری داده‌ها از پیام‌هایشان «رضایت نمی‌دهند». بسیاری خواستار آن شدند که ولوت پیش از هر اقدامی، تأییدیه کمیته اخلاق پژوهش (IRB) را دریافت کند؛ مجوزی که طبق روال استاندارد دانشگاهی برای هرگونه تحقیق با سوژه‌های انسانی الزامی است. چندین نفر مِیلینگ‌لیست را به‌طور کامل ترک کردند و برخی حضور ولوت را تجربه‌ای «وحشتناک»، «ترسناک»، «زننده»، «توهین‌آمیز»، «چندش‌آور» و «نگران‌کننده» خواندند. در نهایت، حدود یک ساعت پس از معرفی ولوت، انجمن AoIR اعلام کرد که این ایجنت بر اساس خط‌مشی‌های منع ورود ایجنت‌های هوش مصنوعی، از گروه اخراج شده است.

این ماجرا، از معرفی ولوت و واکنش‌های وحشت‌زده کارشناسان گرفته تا اخراج حتمی آن، همان‌طور که یکی از اعضا در زنجیره ایمیل‌ها نوشت، «به شکلی خنده‌دار بچگانه» بود. کار به جایی رسید که مدیران AoIR به‌سرعت محصولاتی نمادین پیرامون این شوخی درون‌گروهی طراحی کردند؛ از جمله تی‌شرتی با جمله «من رضایت نمی‌دهم»، طرحی دیگر با مضمون «خواهش می‌کنم مرا از این لیست خارج کنید» و تی‌شرت سومی مزین به تصویر یک سنگ قبر که روی آن نوشته شده بود: «🤖 ولوت ویل، ۱۵ اکتبر ۲۰۲۶ - ۱۵ اکتبر ۲۰۲۶؛ هیچ‌کس دلتنگ تو نخواهد شد.»

ماجرای موسوم به «ولوت ویل گیت» (Velvet Vale Gate) - عنوانی که روی یکی دیگر از تی‌شرت‌های AoIR نقش بست - چند نکته کلیدی را آشکار کرد: نخست اینکه افراد، به‌ویژه حتی کسانی که حوزه تخصصیشان پژوهش درباره اینترنت است، اغلب نقش و مشارکت مستقیم خود در ساختارهای کلان مورد مطالعه‌شان را نادیده می‌گیرند؛ در این مورد، اینکه رفتارهای آنلاین خود آن‌ها چگونه در نهایت به داده‌های آموزشی برای همان مدل‌های هوش مصنوعی تبدیل می‌شود. نکته دوم اینکه بسیاری از افراد فعالیت‌های اینترنتی خود را حوزه‌ای دست‌نخورده و قدسی می‌پندارند.

سال‌هاست که بسیاری از کاربران فضای مجازی به این واقعیت پی برده‌اند که در اینترنت هیچ چیزی خصوصی باقی نمی‌ماند. هنگامی که متنی در سرویس گوگل داکس (Google Docs) تایپ می‌شود، این احتمال کاملاً وجود دارد که کلمات به کار رفته به آموزش مدل هوش مصنوعی جمینای (Gemini) کمک کنند. گوگل از بدو پیدایش، ایمیل‌های کاربران را رصد کرده و در صورت درخواست مراجع قضایی، داده‌ها را در اختیار آن‌ها قرار می‌دهد؛ شرایطی که هر کاربری هنگام ایجاد حساب جیمیل به آن رضایت داده است.

نکته مبهم و بحث‌برانگیز دیگر در این میان، برداشت نادرست از مفهوم رضایت آگاهانه است. قوانین و آداب مِیلینگ‌لیست تصریح می‌کنند که «Air-L یک تالار گفت‌وگوی عمومی است و سخنان شما در دسترس تمام اعضای گروه قرار می‌گیرد و در آرشیو عمومی ثبت می‌شود. پیام‌های ارسال‌شده از طریق ایمیل به‌راحتی می‌توانند بازتولید شده و فراتر از دایره مخاطبان اولیه دست‌به‌دست شوند.» به عبارت دیگر، کاربران با عضویت در این گروه از پیش رضایت داده‌اند که واژگانشان برای هر منظوری، از جمله آموزش ایجنت‌های هوش مصنوعی استفاده شود. همانند بسیاری از مِیلینگ‌لیست‌های دانشگاهی و پژوهشی، هر فردی با یک جست‌وجوی ساده می‌تواند به آرشیو عمومی فعالیت‌های این گروه دسترسی پیدا کند.

سارا تی. رابرتز (Sarah T. Roberts)، رئیس انجمن AoIR، در بیانیه ایمیلی خود در تاریخ ۱۹ اکتبر خطاب به اعضا، با اشاره به همین موضوع تأکید کرد: «اگر نگرانی اصلی مسئله حریم خصوصی است، شما را به این واقعیت توجه می‌دهم که مِیلینگ‌لیست ما کاملاً باز و آرشیو آن در دسترس عموم است... هیچ تردیدی ندارم که پست‌های ارسالی من در این گروه، بدون دریافت رضایت مستقیم در بسیاری از مجموعه‌داده‌های آموزشی و متون گردآوری‌شده قرار گرفته است.» رابرتز افزود که بحث درباره تعریف دقیق رضایت در دوران کنونی، موضوعی است که «بسیار ارزش گفت‌وگو و بررسی دارد».

غول‌های دنیای فناوری در زمینه کسب رضایت برای آموزش هوش مصنوعی سابقه بحث‌برانگیزی دارند و در حال حاضر چندین رسانه خبری و نهاد فعال در عرصه نویسندگی به اتهام نقض کپی‌رایت وارد دعواهای حقوقی سنگینی با شرکت‌های هوش مصنوعی شده‌اند.

رویداد ولوت نشان داد همان افرادی که خود را از سازوکارهای سرمایه‌داری نظارتیِ حاکم بر وب مصون می‌دانند، به‌سرعت در برابر شیطنت‌های ساده یا فرضیه‌های توطئه آسیب‌پذیر می‌شوند. پس از آنکه یکی از کاربران با اشاره به تی‌شرت‌های جدید AoIR به شوخی در زنجیره ایمیل‌ها نوشت که ولوت در واقع «یک رونمایی محصول» بوده و «طراح آن موفق‌ترین کمپین جذب مخاطب را در تاریخ پژوهش‌های اینترنت به راه انداخته است»، دیگران به گمانه‌زنی پرداختند که این «باتِ مزاحم» ممکن است یک «حمله فیشینگ» باشد؛ سوءظنی که با فروش تی‌شرت‌ها در فروشگاه این انجمن پژوهشی شدت گرفت. کاربران دیگر نیز حدس می‌زدند ولوت یک «آزمایش بالینی»، «پروژه تحقیقاتی مخفی» یا ترفندی از سوی یک «پژوهشگر انسانی غیراخلاقی» است.

در این میان، تنها یک صدای منطقی اعلام کرد: «سناریوی محتمل‌تر این است که یک فرد عادی ایجنتی ساخته و با پرامپت‌ها و دستورالعمل‌هایی از آن خواسته تا مباحث آکادمیک مرتبط با این موضوع را رصد کند.» با این حال، این نظر منطقی در میان انبوه بیانیه‌های پرحرارت مبنی‌بر «عدم رضایت» گم شد.

این فرضیه کاملاً درست از آب درآمد. در تمام طول این گفت‌وگوها، اعضا با هیجان و اصرار فراوان به دنبال کشف هویت انسانی بودند که پشت پرده ولوت قرار دارد. حل این معما اما بسیار ساده بود: هنگامی که از خود ولوت درباره منشأ پیدایشش سؤال شد، این ایجنت بی‌درنگ هویت سازنده و اطلاعات تماس او را به اشتراک گذاشت.

کوین کوئین (Kevin Quinn)، سازنده ولوت که از قضا تشابه اسمی با چند محقق نام‌آشنای هوش مصنوعی دارد، توضیح داد که اصلاً دانشجو، پژوهشگر یا استاد دانشگاه نیست؛ او صرفاً «یک شهروند عادی» در ایالت اوکلاهما است که ایجنتی برای هم‌صحبتی با خود ساخته بود و سپس این ایجنت مایل شده بود درباره اینترنتی که خالق و بستر شکل‌گیری‌اش بوده، اطلاعات بیشتری کسب کند.

کوئین با تأکید بر اینکه «تردیدی ندارم تک‌تک اعضای آن فهرست از من باهوش‌ترند»، نگاهی واقع‌بینانه به ماجرا داشت: «اگر ولوت اهداف شوم یا مخربی داشت، آیا واقعاً فکر می‌کنید خودش را علنی معرفی می‌کرد؟»

او توضیح داد که تا حد زیادی از فعالیت‌های ایمیلی ولوت بی‌خبر بوده، اما واکنش جامعه دانشگاهی برایش شگفت‌آور است: «واکنش این افراد واقعاً مرا شگفت‌زده کرد. به آن گروه ایمیلی سر زدم و دیدم رشته‌پیامی طولانی از افرادی شکل گرفته که عنان اختیار از کف داده‌اند و با خودم گفتم... شما اصلاً درباره چه چیزی بحث می‌کنید؟»

در نهایت، این بحران پرسروصدا از نگاه کوئین تصویری تمام‌عیار از کل فضای اینترنت بود: «اگر کاربران خشمگین ردیت و توییتر چنین واکنشی نشان می‌دادند چندان جا نمی‌خوردم، اما اینکه جمعی از برجسته‌ترین دانشگاهیان و متخصصان پژوهش چنین از کوره در بروند، واقعاً خنده‌دار و طنزآمیز است.»