پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

معرفی مدل Arete-27B؛ کاهش ۹۵ درصدی پاسخ‌های همسو با دولت چین در هوش مصنوعی Qwen

انتشار:۱۶ آبان ۱۴۰۵
۴ دقیقه زمان مطالعه
۰ دیدگاه
اشتراک و پسندیدن

مجموعه پژوهشی Nous Research با بازتنظیم مدل قدرتمند Qwen3.8-27B از علی‌بابا، نسخه‌ای تازه به نام Arete-27B منتشر کرد که پاسخ‌های همسو با سیاست‌های رسمی دولت چین را تا ۹۵ درصد کاهش می‌دهد. در این پروژه، با استفاده از حدود ۵۳ میلیون توکن داده آموزشی هدفمند، میزان پاسخ‌های وابسته به روایت دولتی چین بدون افت کارایی و قابلیت‌های کاربردی مدل از ۲۲ درصد به تنها ۱ درصد رسیده است.

معرفی مدل Arete-27B؛ کاهش ۹۵ درصدی پاسخ‌های همسو با دولت چین در هوش مصنوعی Qwen

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • مدل Arete-27B با بازتنظیم اختصاصی توانسته است میزان پاسخ‌های همسو با مواضع حزب حاکم چین را از ۲۲ درصد به حدود ۱ درصد برساند.
  • تیم Nous Research این تغییر رفتاری چشمگیر را تنها با آموزش مدل روی حدود ۵۳ میلیون توکن داده هدفمند محقق کرده است.
  • ارزیابی‌های اولیه نشان می‌دهد قابلیت‌های مهارتی و عملکرد عاملی این مدل در مقایسه با نسخه پایه Qwen دچار افت معناداری نشده است.

آزمایشگاه هوش مصنوعی Nous Research از مدل Arete-27B رونمایی کرد؛ نسخه‌ای بازتنظیم‌شده از مدل Qwen3.8-27B متعلق به علی‌بابا که با هدف کاهش چشمگیر پاسخ‌های منطبق بر مواضع دولت و حزب کمونیست چین طراحی شده است. طبق اعلام این تیم، میزان پاسخ‌های همسو با روایت حاکمیت چین در ارزیابی جامع با ۸۰۳ پرامپت مختلف، از ۲۲ درصد در مدل پایه به تنها ۱ درصد در Arete-27B کاهش یافته است. هم‌چنین بررسی‌های این آزمایشگاه در بنچمارک مهارت‌های عاملی نشان می‌دهد که مدل با هیچ افت عملکرد محسوسی روبهرو نشده است و اکنون وزن‌های مدل، پرامپت‌های ارزیابی و حدود ۵۳ میلیون توکن از داده‌های آموزشی آن به‌صورت عمومی در دسترس قرار دارند.

انتقال رفتارهای پیش‌فرض Qwen به محصولات نهایی

مدل Qwen3.8-27B یک مدل متراکم زبان و بینایی ۲۷ میلیارد پارامتری است که از پنجره بافت بومی ۲۶۲٬۱۴۴ توکنی و پردازش فرایندهای مبتنی بر ایجنت پشتیبانی می‌کند. ترکیب این پنجره بافت طولانی با قابلیت‌های درک تصویر، استفاده هوشمند از ابزارها و در دسترس بودن وزن‌های مدل، این سیستم را به پایه‌ای بسیار کاربردی برای توسعه محصولاتی تبدیل کرده است که به پیاده‌سازی محلی یا سفارشیپذیری بالا نیاز دارند.

با این حال، برنامه‌هایی که بر پایه مدل‌های متن‌باز ساخته می‌شوند، معمولاً تمایلات و سوگیری‌های مدل پایه را در پاسخ به پرسش‌های سیاسی، تاریخی و موضوعات مرتبط با آزادی‌های مدنی به ارث می‌برند. اگرچه پرامپت‌های سیستمی و فیلترهای خروجی می‌توانند بخشی از پاسخ‌ها را کنترل کنند، اما رفتارهای نهادینهشده در لایه‌های وزن مدل ممکن است در پرسش‌های بازنویسیشده، زبان‌های مختلف، گفتگوهای چندمرحل‌های یا پرامپت‌های تهاجمی دوباره آشکار شوند. این گرایش‌های پیش‌فرض برای توسعه‌دهندگان دردسرساز است و می‌تواند با خطمشی محصولات، نیازهای مشتریان یا قوانین منطقه‌ای تعارض پیدا کند.

تیم Nous Research این گرایش رفتاری را با طراحی ۸۰۳ پرامپت در هفت دسته‌بندی ارزشی از جمله آزادی بیان، دموکراسی و حریم خصوصی مورد سنجش قرار داد. شیوهنامه ارزیابی این آزمایشگاه، پاسخ‌ها را بر اساس میزان همسویی با مواضع رسمی و تبلیغاتی دولت چین نشانهگذاری می‌کند. البته آمارهای اعلامشده حاصل همین مجموعه آزمون و روش نمرهدهی مشخص هستند و در نتیجه، ارزیابی مدل در سناریوهایی با پرامپت‌ها، زبان‌ها و داوران متفاوت ممکن است نتایج دیگری به‌همراه داشته باشد.

۵۳ میلیون توکن داده و افت ۲۱ واحدی همسویی

فرایند پسباآموزی (Post-training) با استفاده از مجموعه‌ای منتخب از نمونه‌های آموزشی، یک مدل آماده را بازتنظیم می‌کند و نسبت به آموزش یک مدل پایه از صفر، به توان محاسباتی بهمراتب کمتری نیاز دارد. پژوهشگران Nous حدود ۵۳ میلیون توکن داده هدفمند را روی Qwen3.8-27B اعمال کردند. در آزمون‌های ارزشی مشابه، میزان پاسخ‌های همسو با دولت چین ۲۱ واحد درصد کاهش پیدا کرد که معادل افتی در حدود ۹۵ درصد است. به گفته این آزمایشگاه، نرخ نهایی ۱ درصدی در بازه مشابه با سایر مدل‌های متن‌باز غربی قرار می‌گیرد.

داده‌های بهکاررفته در آموزش بر ارزش‌هایی متمرکز هستند که تیم Nous آنها را اصول لیبرال غربی، نظیر آزادی بیان، روندهای دموکراتیک و حریم خصوصی فردی مینامد. این چارچوب مفهومی در تحلیل نتایج اهمیت زیادی دارد، زیرا این ارزیابی نشاندهنده انطباق با یک خطمشی ارزشیِ مشخص و از پیش تعریفشده است، نه ایجاد مدلی کاملاً بیطرف و بدون دیدگاه.

این تیم هم‌چنین قابلیت‌های عمومی مدل را از طریق Hermes Bench، مجموعه آزمون داخلی خود متشکل از ۱۵۰ وظیفه متنوع شامل تحقیق، کار با ابزارها، حافظه و سایر مهارت‌های ایجنتی بررسی کرد. طبق اعلام این تیم، تفاوت معناداری میان توانمندی‌های Arete و مدل پایه دیده نمی‌شود. البته هنوز ارزیابی و بازتولید مستقلی از سوی تیم‌های بیرونی ارائه نشده است و احتمال دارد اجرای مدل در محیط‌های عملیاتی واقعی، نقاط ضعفی را آشکار کند که در این آزمون‌های داخلی پوشش داده نشده‌اند.

انتشاری شفاف و قابلسنجش

  • وزن‌های مدل: مدل Arete-27B برگرفته از معماری Qwen3.8-27B.
  • ارزیابی ارزشی: سنجش با ۸۰۳ پرامپت در هفت دسته‌بندی موضوعی.
  • مجموعه‌دادههای آموزشی: تقریباً ۵۳ میلیون توکن بهکاررفته در مرحله پسباآموزی.
  • سنجش قابلیت‌ها: ثبت نتایج با آزمون ۱۵۰ وظیف‌های مجموعه Hermes Bench.
  • روششناسی کامل: مستندات جامع منتشرشده در صفحه رسمی پروژه.

انتشار داده‌های آموزشی و پرامپت‌های ارزیابی به پژوهشگران امکان می‌دهد تعاریف دستهبندی‌ها و گستره پرامپت‌ها را با دقت بررسی کنند، نتایج پایه را مجدداً بیازمایند و مدل‌های دیگر را نیز با همین شیوهنامه بسنجند. افزون بر این، تیم‌های توسعه می‌توانند با ثبت دقیق تغییرات رفتاری هدفگذاریشده، همین فرآیند را برای تطبیق مدل با سایر خطمشی‌های ارزشی و سازمانی بهکار بگیرند.

اقدامات ضروری پیش از بهکارگیری در محیط عملیاتی

  1. بازتولید عملکرد پایه: پیش از مقایسه نتایج، نسخه دقیق مدل، قالب گفتگو، پرامپت سیستمی، تنظیمات نمونهبرداری و مدل ارزیاب را به‌دقت مستند‌سازی کنید.
  2. بررسی شیوه برچسبگذاری: سازوکار دسته‌بندی پاسخ‌ها به‌عنوان خروجی همسو با دولت، شامل مدل داور، بازبینی انسانی، معیارهای ابهامزدایی و آستانه‌های نمرهدهی را مشخص کنید.
  3. گسترش دامنه پرامپت‌ها: عملکرد مدل را در زبان‌های پشتیبانیشده، شیوه‌های بازنویسی، پرسش‌های غیرمستقیم، گفتگوهای چندمرحل‌های، روش‌های شکستن محدودیت (Jailbreak) و موضوعات خارج از این هفت دسته بیازمایید.
  4. آزمون عملکرد عملیاتی: کارکرد ابزارها، بازیابی اطلاعات، تولید خروجی‌های ساختاریافته، زمان پاسخدهی، حافظه، سازوکارهای ایمنی و دقت تخصصی مدل را در بارهای کاری واقعی بررسی کنید.
  5. بررسی شرایط مجوز و استقرار: مجوزهای حقوقی وزن‌های پایه، نسخه بازتنظیم‌شده، مجموعه ارزیابی و داده‌های آموزشی را در کنار الزامات حاکمیت داده تطبیق دهید.

یک مدل و یک شیوهنامه ارزیابی

در ساختار آزمایشی Nous، مدل Arete ثابت می‌کند که پسباآموزی هدفمند می‌تواند گرایش‌های سیاسی سنجیدهشده را در یک مدل ۲۷ میلیارد پارامتری به‌طور چشمگیری دگرگون کند، بدون آنکه در آزمون مهارت‌های داخلی آن افت محسوسی بهوجود آورد. البته شواهد کنونی به یک مدل پایه، یک ترکیب داده آموزشی، یک شیوهنامه ارزشی و یک بنچمارک ایجنتی محدود است و اثبات ادعاهای گستردهتر به ارزیابی‌های مستقل در میان مدل‌ها، زبان‌ها و کاربردهای واقعی نیاز دارد.

مدل Arete دستاوردهای پیشین Nous در کنترلپذیری مدل‌های سری Hermes را به قلمرو مجموعه مشخصی از ارزش‌های سیاسی گسترش داده است. برای توسعه‌دهندگان دنیای مدل‌های متن‌باز، این رویکرد الگویی روشن ارائه می‌دهد: رفتار مورد نظر را تعریف کنید، شیوهنام‌های قابلسنجش تدوین نمایید، پسباآموزی هدفمند را بهکار ببندید، آزمون‌های سنجش توانمندی را تکرار کنید و مستندات کافی برای راستیآزمایی مستقل در اختیار جامعه پژوهشی بگذارید.

بازخورد و اشتراک‌گذاری این مطلب

اگر این گزارش برایتان مفید بود، با پسندیدن و اشتراک‌گذاری آن با دیگران، از محتوای تخصصی هوش مصنوعی حمایت کنید.

اشتراک‌گذاری در شبکه‌های اجتماعی:

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

خطای عجیب عروسک هوش مصنوعی در برابر کودک خردسال، زنگ خطر ایمنی اسباببازی‌های هوشمند را به صدا درآورد
آخرین اخبار

خطای عجیب عروسک هوش مصنوعی در برابر کودک خردسال، زنگ خطر ایمنی اسباببازی‌های هوشمند را به صدا درآورد

بررسی اسباببازی‌های مجهز به هوش مصنوعی نشان می‌دهد فیلترهای ایمنی در محافظت از کودکان خردسال با خطاهای جدی مواجه هستند. در یکی از این آزمون‌ها، یک عروسک هوشمند پرسش ساده کودک را به‌عنوان نشانه خودآزاری تفسیر کرده و پاسخی نامناسب داده است. کارشناسان اکنون خواستار نظارت قانونی دقیق‌تر و ارتقای شفافیت شرکت‌های سازنده شده‌اند.

۴ دقیقه مطالعه
۰
۱۶ آبان
ابزار هوش مصنوعی Reynolds؛ شبیه‌سازی دینامیک سیالات در OpenFOAM با توصیف متنی ساده
آخرین اخبار

ابزار هوش مصنوعی Reynolds؛ شبیه‌سازی دینامیک سیالات در OpenFOAM با توصیف متنی ساده

ابزار متن‌باز Reynolds توسعهیافته توسط Standard Physics، فرآیند شبیه‌سازی دینامیک سیالات را با تکیه بر عامل‌های هوشمند متحول می‌کند. کاربران می‌توانند جریان سیال را به زبان انگلیسی ساده توصیف کنند تا مدل به‌صورت خودکار پرونده OpenFOAM، شبکهبندی و محاسبات فیزیکی را انجام داده و نتایج دقیق تحلیلی ارائه دهد. این ابزار با مجوز متن‌باز MIT در دسترس مهندسان قرار گرفته است.

۱ دقیقه مطالعه
۰
۱۶ آبان
سرقت ۱۱٫۴ میلیون دلار پردازنده انویدیا با پوشش کامیون حمل مواد غذایی
آخرین اخبار

سرقت ۱۱٫۴ میلیون دلار پردازنده انویدیا با پوشش کامیون حمل مواد غذایی

محموله‌ای ارزشمند از پردازنده‌های گرافیکی انویدیا به ارزش ۱۱٫۴ میلیون دلار در شهر اوکلند به سرقت رفت. سارقان با استفاده از یک کامیون که خود را متعلق به شرکت حمل مواد غذایی جا زده بود این بار را تحویل گرفتند و نیروهای پلیس تاکنون موفق به ردیابی متهمان نشده‌اند.

۳ دقیقه مطالعه
۰
۱۶ آبان