مهار توهم در مدل‌های هوش مصنوعی بینایی؛ راهکار جدید C3PO زنجیره استدلال را اصلاح می‌کند

مدل‌های استدلالی بینایی و زبان می‌توانند توضیحات مفصل و پیچیده‌ای تولید کنند، اما هم‌زمان توجه کمتری به خود تصویر دارند. پژوهشگران دانشگاه چینهوا در شنژن و مؤسسه فناوری هاربین متوجه شدند که پنج مدل استدلالی متن‌باز در رده ۷ میلیارد پارامتری، اغلب حتی بیشتر از مدل‌های پایه و غیراستدلالی دچار توهم بصری می‌شوند و جزئیاتی ساختگی درباره تصویر بیان می‌کنند. پژوهش C3PO ریشه این چالش را در زنجیره‌های استدلال متورم و پرخطا می‌داند و یک روش آموزشی دو مرحله‌ای را برای کاهش این خطاها در بنچمارک‌های ارزیابی پیشنهاد می‌کند.

مدل‌های بزرگ استدلالی چندوجهی (MLRM)، با استفاده از یادگیری تقویتی یا تنظیم دقیق نظارت‌شده، قابلیت تولید زنجیره تفکر را به وظایف بینایی اضافه می‌کنند. این زنجیره میانی به مدل اجازه می‌دهد تا پیش از رسیدن به پاسخ نهایی، گام‌های تفکر را بررسی کند. با این حال، سیستم‌های شاخصی مانند R1-Onevision و MM-Eureka در آزمون‌های استاندارد، توهمات شدیدتری را نسبت به مدل پایه Qwen2.5-VL نشان دادند. در این ارزیابی‌ها، توهم به این معناست که مدل شیء، ویژگی یا رخدادی بصری را توصیف می‌کند که در تصویر واقعی اصلاً وجود ندارد.

وقتی استدلال جای داده‌های بصری را می‌گیرد

1. کاهش توجه دیداری در طول فرایند تولید: این مدل‌های استدلالی در مقایسه با نسخه‌های پایه و غیراستدلالی خود، توجه کمتری به توکن‌های بصری (که محتوای تصویر را کدگذاری می‌کنند) و توجه بیشتری به توکن‌های متنی معطوف می‌کنند. استدلال متنی تولیدشده مدام پیش‌بینی‌های بعدی را جهت‌دهی می‌کند و باعث می‌شود الگوهای زبانی آموخته‌شده بر پاسخ نهایی غلبه کنند. هرچند نحوه تخصیص توجه به‌تنهایی ارتباط دقیق مدل با تصویر را اثبات نمی‌کند، اما شاخص تشخیصی مهمی به‌شمار می‌رود.
2. خطا در مراحل میانی به معنای خطا در پاسخ نهایی است: اغلب پاسخ‌هایی که بر پایه یک زنجیره تفکر اشتباه شکل می‌گیرند، خود نیز حاوی توهم هستند و این میزان خطا به‌مراتب بیشتر از مدل‌های پایه بدون استدلال است. در مقابل، پاسخ‌هایی که از زنجیره‌های قابل اعتماد حاصل می‌شوند، تقریباً هیچ توهم بصری ندارند. همین پیوستگی نشان می‌دهد که زنجیره‌های استدلال میانی، به‌جای تمرکز صرف بر پاسخ نهایی، هدف بسیار کارآمدتری برای آموزش و بهینه‌سازی هستند.

روش C3PO چگونه زنجیره استدلال را بازآموزی می‌کند؟

روش C3PO که مخفف فشرده‌سازی زنجیره تفکر و بهینه‌سازی ترجیحات متضاد (Chain-of-Thought Compression and Contrastive Preference Optimization) است، در دو مرحله آموزشی جداگانه به رفع مشکل طولانی بودن بیش از حد استدلال و عدم دقت آن می‌پردازد.