واترمارک نامرئی در پاسخ‌های ChatGPT: ماجرای ردیابی پنهان متن‌های هوش مصنوعی توسط اوپن‌ای‌آی چیست؟
اوپن‌ای‌آی قصد دارد به زودی خروجی‌های متنی چت‌جی‌پی‌تی را با استفاده از فناوری textGrain به واترمارک نامرئی مجهز کند تا پایبندی اجباری خود به قانون هوش مصنوعی اتحادیه اروپا را به نمایش بگذارد. این سیگنال پنهان با دستکاری ظریف در انتخاب کلمات تزریق می‌شود و بدون ابزار‌های تشخیصی اختصاصی، کاربران عادی هرگز متوجه وجود آن نخواهند شد. با این حال، شواهد نشان می‌دهد این اقدام بیش‌تر یک رفع تکلیف نمایشی است که به سادگی و با یک ویرایش جزئی روی متن دور زده می‌شود.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- تزریق واترمارک پنهان به چت‌جی‌پی‌تی: اوپن‌ای‌آی طی هفته‌های آینده خروجی‌های متنی ChatGPT و Codex را برای کاربران ساکن اتحادیه اروپا با یک سیگنال آماری نامرئی نشانه‌گذاری می‌کند، در حالی که کاربران آمریکا و بریتانیا تحت تأثیر قرار نخواهند گرفت.
- فناوری اختصاصی textGrain و دستکاری واژه‌ها: این سیستم با اعمال تغییرات ظریف روی انتخاب کلمات هوش مصنوعی کار می‌کند و برای شناسایی آن به ابزار ویژه‌ای نیاز است که فعلاً تنها در اختیار پژوهشگران منتخب قرار می‌گیرد.
- رفع تکلیف نمایشی یا شفافیت واقعی؟: منتقدان معتقدند تغییر عمدی کلمات ممکن است از بهینگی پاسخ‌ها بکاهد، ضمن اینکه این واترمارک بسیار آسیب‌پذیر است و حتی با یک ویرایش و ادیت ساده متن به راحتی تضعیف یا حذف می‌شود.
اوایل سال جاری میلادی بود که تصمیم شرکت آنتروپیک (Anthropic) برای پایبندی به قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) حسابی سر و صدا کرد؛ قانونی که تأکید دارد تمام محتواهای متنی تولیدشده توسط هوش مصنوعی باید به عنوان محصول هوش مصنوعی قابل شناسایی باشند. آنتروپیک در آن زمان به جای اینکه این قابلیت را فقط به کاربران اروپایی محدود کند، تصمیم گرفت واترمارک متنی مدل کلود (Claude) را در سطح جهانی فعال کند؛ اقدامی که همان موقع هم از نگاه بسیاری کمی زیاده‌روی و حساسیت بیهوده به نظر می‌رسید.
حالا شرکت اوپن‌ای‌آی (OpenAI) اعلام کرده که مسیر مشابهی را در پیش گرفته است، اما با یک تفاوت هوشمندانه: دامنه جغرافیایی این تغییرات منحصراً به اتحادیه اروپا محدود خواهد بود. اوپن‌ای‌آی قرار است واترمارک نامرئی را به متن‌های تولیدی اضافه کند، اما این قابلیت فقط برای کاربران چت‌جی‌پی‌تی ساکن اتحادیه اروپا اعمال می‌شود. این یعنی کاربران آمریکایی و بریتانیایی اصلاً تحت تأثیر این تصمیم قرار نخواهند گرفت و متن‌هایشان کاملاً دست‌نخورده باقی می‌ماند.
اوپن‌ای‌آی در اطلاعیه رسمی خود اعلام کرده است: «طی هفته‌های آینده، یک واترمارک نامرئی را به خروجی‌های متنی واجد شرایط در چت‌جی‌پی‌تی (ChatGPT) و کدکس (Codex) در سراسر اتحادیه اروپا اضافه خواهیم کرد.»
تزریق واترمارک نامرئی با سیستم textGrain
اوپن‌ای‌آی برای جا دادن این واترمارک در متن—که مستلزم تغییر بسیار ظریف و نامحسوس در انتخاب واژه‌هاست—از یک سیستم اختصاصی و بومی به نام textGrain استفاده می‌کند. در یادداشتی که روی وب‌سایت رسمی اوپن‌ای‌آی منتشر شده، آمده است: «فناوری نشانه‌گذاری متنی ما با نام textGrain، یک سیگنال آماری نامرئی را به انتخاب کلمات مدل اضافه می‌کند. سپس ابزار شناساگر اختصاصی ما به دنبال همان سیگنال می‌گردد تا ارزیابی کند آیا یک متن حاوی واترمارک اوپن‌ای‌آی هست یا نه. جزئیات بیش‌تر درباره شیوه کار textGrain در گزارش فنی اوپن‌ای‌آی آمده است که طی هفته‌های پیش رو با اطلاعات تکمیلی به‌روزرسانی خواهد شد.»
اما برای خیلی از کاربران، این ایده که الگوریتم واترمارک روی کلمات انتخابی هوش مصنوعی دستکاری کند—آن هم ابزاری که کاربر بابت استفاده از آن اشتراک خریده، به جای اینکه بهترین پاسخ ممکن را تحویل دهد—اصلاً خوشایند نیست. البته قرار نیست متن‌های تولیدی لزوماً به خاطر این واترمارک خراب یا غیرقابل استفاده شوند، اما شکی نیست که خروجی نهایی دیگر آن حالت صددرصد بهینه و ایده‌آل را نخواهد داشت.
علاوه بر این، به نظر می‌رسد این راهکار بسیار شکننده و پر از رخنه باشد. برای تشخیص متنی که با فناوری textGrain واترمارک شده، به یک ابزار تشخیص ویژه هوش مصنوعی نیاز است که در حال حاضر به هیچ وجه در دسترس عموم مردم نیست. اوپن‌ای‌آی می‌گوید دسترسی به این شناساگر را صرفاً در اختیار پژوهشگران و نهادهای کارشناسی منتخب قرار می‌دهد و متخصصان واجد شرایط از همین حالا می‌توانند درخواست دسترسی خود را ثبت کنند.
اوپن‌ای‌آی در ادامه توضیحاتش تأکید کرده است: «این ابزار بدون شناسایی هویت کاربر یا افشای پرامپت‌ها و گفتگوهای او، گزارش می‌دهد که آیا واترمارک اوپن‌ای‌آی در متن کشف شده یا خیر. اما با توجه به ریسک نادیده گرفتن واترمارک‌ها و خطاهای مثبت کاذب (False Positives)، در بدو عرضه آن را به صورت عمومی منتشر نمی‌کنیم.»
حالا وقتی این ابزار تشخیصی حتی عمومی هم نیست، این سؤال جدی پیش می‌آید که چنین اقدامی در عمل اصلاً قرار است چه دردی را دوا کند و چه فایده‌ای دارد؟
اقدامی نمایشی برای رفع تکلیف رگولاتورها؟
جالب اینجاست که خود اوپن‌ای‌آی هم صراحتاً اعتراف کرده که ابزار‌های شناساگر خطاپذیرند. در این توضیحات آمده که «تشخیص متن‌های کوتاه‌تر یا بسیار مقید به مراتب دشوارتر است» و «حتی ویرایش متن می‌تواند سیگنال واترمارک را تضعیف کند یا از بین ببرد». وقتی سیستم از همین حالا این‌قدر آسیب‌پذیر به نظر می‌رسد، چه اتفاقی می‌افتد اگر کاربر بخواهد آن را کاملاً دور بزند؛ مثلاً مستقیماً از ChatGPT بخواهد طوری ننویسد که قابل تشخیص باشد یا از textGrain استفاده نکند؟ آیا چت‌بات این درخواست را اجرا می‌کند؟
کنار هم گذاشتن این نکات نشان می‌دهد که این تصمیم اوپن‌ای‌آی بیش‌تر شبیه یک «رفع تکلیف» صوری برای جلب رضایت قانونگذاران اتحادیه اروپا است؛ حرکتی که اوپن‌ای‌آی عملاً چاره‌ای جز انجامش نداشت، چرا که طبق قانون هوش مصنوعی اروپا، ارائه‌دهندگان هوش مصنوعی مولد موظفند محتوای متنی تولیدشده را به شکلی «ماشین‌خوان» قابل شناسایی کنند.
اینکه تغییرات فقط محدود به مرزهای اروپا بماند و حریم خصوصی مکالمات حفظ شود، تا حدی خیال کاربران را راحت می‌کند؛ اما واقعیت این است که احتمالاً اکثر کاربران ChatGPT ترجیح می‌دهند اوپن‌ای‌آی تمام تمرکزش را روی ارائه هوشمندانه‌ترین و بی‌نقص‌ترین پاسخ‌ها متمرکز کند، نه اینکه وقتش را صرف روش‌هایی کند تا ثابت شود متن‌ها کار هوش مصنوعی بوده است.
در نهایت، وجود سیستمی که کلمات انتخابی هوش مصنوعی را عمداً و مخفیانه دستکاری می‌کند تا واترمارکی ثبت شود که با یک ویرایش ساده پاک می‌شود، از ریشه عجیب و غیرمنطقی است. اگر هدف قانونگذاران شفافیت واقعی در محتوای هوش مصنوعی است، قطعاً راهکار باید مکانیزمی کارآمد و قابل اتکا باشد، نه یک سیگنال نامرئی و بی‌رمق که هیچ‌کس جز گروهی معدود از کارشناسان حتی توان راستی‌آزمایی‌اش را ندارد.
برچسب های مرتبط
مطالب مرتبط و پیشنهادی
هشدار جنجالی هم‌بنیان‌گذار مدرنا درباره ایجنت‌های هوش مصنوعی: «مدل‌های زبانی ابزارند، اما ایجنت‌ها اراده دارند!»
نوبار آفیان، هم‌بنیان‌گذار مدرنا، با اشاره به فجایع دارویی گذشته هشدار داد که ورود بی‌محابای ایجنت‌های هوش مصنوعی به بازار بدون قانونگذاری و تضمین ایمنی می‌تواند فاجعه‌بار باشد. او معتقد است تفاوت بنیادینی میان مدل‌های زبانی و ایجنت‌ها وجود دارد؛ چرا که ایجنت‌ها صاحب اراده عمل و تصمیم‌گیری مستقل هستند.
اختلاف نجومی ارزش‌گذاری دو استارتاپ دارویی هوش مصنوعی؛ وال‌استریت حسابی سردرگم شد!
ورود استارتاپ ایامبیک (Iambic Therapeutics) به بازار بورس، وال‌استریت را با یک معمای بزرگ در حوزه داروسازی هوش مصنوعی روبه‌رو کرده است. در حالی که ایامبیک با داشتن کارآزمایی‌های بالینی فعال تنها ۹۰۰ میلیون دلار قیمت خورده، شرکت ایزومورفیک لَبز با پشتوانه گوگل به دنبال ارزش‌گذاری نجومی ۴۰ میلیارد دلاری است. این شکاف قیمتی چشمگیر، پرسش‌های زیادی را درباره حباب قیمت‌ها و نحوه ارزش‌گذاری واقعی پروژه‌های زیستی هوش مصنوعی ایجاد کرده است.
رونمایی آنتروپیک از آمار‌های مالی محرمانه؛ غول هوش مصنوعی برای بزرگ‌ترین عرضه اولیه تاریخ آماده می‌شود
شرکت آنتروپیک قصد دارد این هفته در نشستی ویژه با سرمایه‌گذاران بزرگ، آمار‌های مالی محرمانه و درآمد واقعی خود را فاش کند؛ اقدامی کلیدی که زمینه‌ساز یک عرضه اولیه تاریخی ۲ تریلیون دلاری در بازار بورس خواهد بود. این شفاف‌سازی مالی در حالی رخ می‌دهد که کوچک‌ترین تغییر در وضعیت درآمدی آزمایشگاه‌های بزرگ هوش مصنوعی، وال‌استریت و سهام شرکت‌های نیمه‌رسانا را به لرزه درمی‌آورد.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.