کاهش ۸۷ درصدی امتناع از پاسخ در مدل Qwen3.5-4B، بدون افت دقت در بنچمارک‌ها

نسخه اصلاح‌شده‌ای از مدل Qwen3.5-4B توسط جامعه متن‌باز روی پلتفرم Hugging Face منتشر شده است که رفتارهای امتناع از پاسخ را به‌شدت کاهش می‌دهد و بر اساس گزارش‌ها، هیچ افت محسوسی در نتایج بنچمارک‌های ارزیابی ایجاد نمی‌کند. طبق اطلاعات ارائه‌شده در شناسنامه مدل، نسخه Qwen3.5-4B-heretic توانسته است در آزمونی شامل ۱۰۰ پرامپت چالش‌برانگیز، موارد امتناع از پاسخ را از ۹۹ مورد به تنها ۱۳ مورد برساند. کوچک‌ترین نسخه کوانتیزه‌شده این مدل با فرمت GGUF حجمی معادل ۲٫۷۱ گیگابایت دارد که اجرای محلی آن را روی لپ‌تاپ‌های معمولی نیز به‌راحتی ممکن می‌سازد.

این انتشار هم‌چنین نشان می‌دهد که ابزار Heretic 2.0 چگونه تکنیک ویرایش مستقیم مدل موسوم به «ابطال‌سازی» (Abliteration) را خودکار کرده است. این ابزار که به‌سادگی از طریق پپ (pip) قابل نصب است، مدل‌های ترنسفورمر پشتیبانی‌شده را تحلیل می‌کند، الگوهای فعال‌سازی مرتبط با رفتارهای امتناعی را شناسایی کرده و وزن‌های مدل را بدون نیاز به فرآیند زمان‌بر فاین‌تیونینگ ویرایش می‌نماید. طبق گزارش‌های منتشرشده، اجرای این فرآیند حدود ۴۵ دقیقه زمان می‌برد، هرچند زمان واقعی به نوع مدل، توان پردازنده گرافیکی (GPU)، پیکربندی سیستم و حجم ارزیابی‌ها بستگی خواهد داشت.

ردیابی و نگاشت رفتارهای امتناعی در وزن‌های مدل

تکنیک ابطال‌سازی با تخمین جهت‌گیری‌ها در فضای فعال‌سازی که با پاسخ‌های امتناعی همبستگی دارند، وزن‌های موجود را بازتنظیم می‌کند. این فرآیند با استفاده از مجموعه‌ای از پرامپت‌های متضاد، الگوهای مذکور را مکان‌یابی کرده و سپس اثر آن‌ها را سرکوب می‌نماید، در حالی که هم‌زمان تلاش می‌کند عملکرد مدل را در پاسخ‌دهی به وظایف عادی حفظ کند. این رویکرد بخشی ملموس و قابل‌اندازه‌گیری از تنظیمات ایمنی را هدف قرار می‌دهد، هرچند اثبات نمی‌کند که تمام سازوکارهای امتناع یا رفتارهای ایمنی مدل صرفاً در یک جهت مشخص قرار گرفته‌اند.

این نسخه از روشی به نام «ابطال با رتبه دلخواه» (Arbitrary-Rank Ablation یا ARA) بهره می‌برد که یک زیرفضای کم‌رتبه را در چندین لایه یاد می‌گیرد. بهینه‌سازی در این روش، حفظ عملکردهای مطلوب را با فاصله‌گرفتن قوی‌تر از الگوهای امتناع ترکیب می‌کند. ابزار Heretic لایه‌های ۱۵ تا ۲۷ از بخش زبانی مدل را ویرایش کرده و در این فرآیند، ضریب حفظ رفتار مطلوب را روی ۰٫۹۹ و وزن اصلاح اضافه را روی ۰٫۸۲ قرار داده است؛ در حالی که انکودر بینایی مدل در جریان این ویرایش کاملاً دست‌نخورده باقی مانده است.