معرفی خانواده مدل‌های Axion 1.0؛ رویکرد نوین بایتدنس برای ساخت ایجنت‌های پژوهشی متن‌باز

مقدمه

خانواده مدل‌های Axion 1.0 یک مجموعه‌مدل پایه و متن‌باز برای ایجنت‌های هوشمند است که توسط شرکت بایتدنس توسعه یافته است. جزئیات این دستاورد در مقاله‌ای با عنوان Axion 1.0: Open Agent Foundation Models, Simplified منتشر شده و توجه گسترده‌ای را در جامعه پژوهشی هوش مصنوعی به خود جلب کرده است.

این مدل در دو پیکربندی اصلی عرضه می‌شود:

• مدل Axion 1.0-35B (مجموعاً ۳۵ میلیارد پارامتر با ۳ میلیارد پارامتر فعال، مبتنی بر نسخه اولیه Qwen3.6-35B-A3B)
• مدل Axion 1.0-122B (مجموعاً ۱۲۲ میلیارد پارامتر با ۱۰ میلیارد پارامتر فعال، مبتنی بر نسخه اولیه Qwen3.5-122B-A10B)

پژوهشگران در این مقاله هم‌چنین از توسعه نسخه‌های ۴ و ۹ میلیارد پارامتری خبر داده‌اند که منحصراً با تنظیم دقیق نظارت‌شده (SFT) آموزش دیده‌اند. پیام اصلی این پروژه سادگی در فرایند آموزش است؛ به‌طوری‌که تنها با حدود ۱۸ هزار نمونه آموزشی SFT، دو مرحله تنظیم دقیق و یک مرحله یاد‌گیری تقویتی (RL)، بدون نیاز به مراحل سنگین پیش‌آموزش میانی، روش DPO یا تقطیر دانش، نتایجی بسیار رقابتی در بنچمارک‌های علمی و جست‌وجوی ایجنت‌ها مانند HLE، SEAL-0، FrontierScience، BioMysteryBench و HiPhO به ثبت رسیده است. کدها و دستورالعمل پیاده‌سازی این پروژه در مخزن گیت‌هاب bytedance/axion1_0 در دسترس قرار دارد و نسخه بازتولیدشده مدل ۳۵ میلیاردی توسط جامعه کاربری نیز در پلتفرم Hugging Face با شناسه Axion1-0/Axion-1.0-35B تحت مجوز Apache 2.0 منتشر شده است.

بررسی ابعاد فنی

این مدل چه مشکلی را حل می‌کند؟

توسعه یک مدل ایجنت پژوهشی توانمند که بتواند در وب جست‌وجو کند، صفحات را مرور نماید، کدهای پایتون را به اجرا درآورد و از منابع علمی معتبر پاسخ بگیرد، معمولاً نیازمند فرایندهای پیچیده و بسیار پرهزینه‌ای مانند پیش‌آموزش میانی، بهینه‌سازی ترجیحات مستقیم (DPO) و تقطیر دانش است. پروژه Axion 1.0 ثابت می‌کند که حجم اندکی از داده‌های باکیفیت و قابل تأیید، در کنار یک فرایند آموزشی ساده و سه‌مرحله‌ای، برای دستیابی به عملکردی هم‌تراز با بهترین مدل‌های روز دنیا کاملاً کافی خواهد بود.

آمار و ارقام کلیدی عملکرد (جدول رسمی مقاله)

• در مقایسه با مدل هم‌اندازه Agents-A1، نسخه ۳۵ میلیاردی Axion 1.0 به برتری ۴٫۶+ امتیازی در آزمون HLE و ۵٫۸+ امتیازی در بنچمارک SEAL-0 دست یافته است.
• نسخه ۱۲۲ میلیاردی این مدل در بخش پژوهش بنچمارک FrontierScience امتیاز ۶۶٫۷ را کسب کرده است، در حالی که مدل GPT-5.6 Sol در ارزیابی داخلی تیم پژوهشی امتیاز ۶۳٫۳ را به دست آورد.

دستورالعمل آموزش

1. دو مرحله تنظیم دقیق نظارت‌شده (SFT) با آموزش کامل تمام پارامترها و بسته‌بندی هوشمند نمونه‌ها.
2. یاد‌گیری تقویتی ناهمگام با الگوریتم GRPO شامل ۸ اجرای هم‌زمان به ازای هر پرسش و آموزش در سطح نشست در خلال رویدادهای فشرده‌سازی بافت متنی.
3. تقویت مسائل استدلالی با استفاده از بازخورد مدل پایه و طراحی تسک‌های ابزارمحور بر بستر داده‌های عمومی با پاسخ‌های مرجع برنامه‌نویسی‌شده.

ملاحظات و محدودیت‌ها

• مخزن رسمی بایتدنس در درجه اول مقاله و دستورالعمل آموزش را ارائه می‌دهد؛ وزن‌های منتشرشده نسخه ۳۵ میلیاردی در پلتفرم Hugging Face یک بازتولید مستقل توسط جامعه کاربری است و چک‌پوینت رسمی سازنده محسوب نمی‌شود.
• مدل‌های مقایسه‌شده از منابع گوناگون از ابزارها و تنظیمات متفاوتی استفاده کرده‌اند، بنابراین نتایج تطبیقی بیشتر جنبه نشان‌دهنده دارند.
• تمرکز اصلی این مدل بر استدلال علمی و بازیابی اطلاعات است و برای گفت‌وگوهای عمومی روزمره یا برنامه‌نویسی جامع طراحی نشده است.

کاربردها

این مدل مناسب چه کسانی است؟

• تیم‌های پژوهشی که قصد دارند مدل‌های ایجنت مخصوص جست‌وجو و تحقیق علمی را بازتولید کنند یا آموزش دهند.
• توسعه‌دهندگانی که به دنبال یک ساختار پایه قدرتمند برای ایجنت‌های پژوهشی عمیق هستند تا بتوانند مدلی با حدود ۳ میلیارد پارامتر فعال را روی سخت‌افزار شخصی خود اجرا نمایند.

راهنمای شروع به کار

1. صفحه رسمی پروژه به نشانی axion1-0.github.io و فایل مقاله علمی را مطالعه کنید.
2. برای دسترسی به اسکریپت‌های پالایش داده، پرامپت‌ها، مراحل SFT و RL و هم‌چنین کدهای ارزیابی، مخزن گیت‌هاب bytedance/axion1_0 را بررسی فرمایید.
3. برای استفاده عملی، می‌توانید نسخه بازتولیدشده جامعه کاربری را با فراخوانی AutoModelForCausalLM.from_pretrained("Axion1-0/Axion-1.0-35B") آزمایش کنید یا آن را با استفاده از موتور vLLM درون یک چارچوب ReAct به‌همراه ابزارهای جست‌وجو، مشاهده صفحات وب و اجرای کدهای پایتون به کار بگیرید.
4. هنگام اجرای بنچمارک‌ها و آزمون‌های سنجش عملکرد، مانند نویسندگان مقاله دسترسی به وب‌سایت‌های مرجع (نظیر Hugging Face) را محدود کنید تا از نشت پاسخ‌ها جلوگیری شود.