مدل هوش مصنوعی Ornith 1.5 معرفی شد؛ استدلال قدرتمند با ۹ میلیارد پارامتر و پشتیبانی از NVFP4

حضور مدل ۹ میلیارد پارامتری Ornith 1.5 در فرمت NVFP4 شرکت NVIDIA

صفحه مدل Ornith در پلتفرم Hugging Face از مرز ۸۵۰ هزار بار دانلود عبور کرده است. این نسخه، یک مدل استدلال متراکم با ۹ میلیارد پارامتر را با فرمت NVFP4 شرکت NVIDIA ترکیب می‌کند و به‌طور ویژه بارهای کاری کدنویسی و ایجنت‌ها را روی یک پردازنده گرافیکی با معماری Blackwell هدف قرار می‌دهد. البته شمارشگر Hugging Face درخواست‌های فایلی را ثبت می‌کند و بنابراین یک کاربر یا یک فرایند خودکار می‌تواند چند بار دانلود ثبت کند.

مدلی کوچک با چرخه آموزشی نامتعارف

بر اساس توضیحات توسعه‌دهندگان، Ornith 1.5 فرایند آموزشی نسل پیشین خود یعنی Ornith 1.0 را گسترش داده است؛ مدلی که توسعه اولیه آن با بهره‌گیری از Qwen3.5 و Gemma 4 در کنار پیش‌آموزش مداوم، آموزش میانی و پس‌آموزش انجام شده بود. پایپ‌لاین جدید این مدل وظایف مختلف را تولید و انتخاب می‌کند، ساختارهای زیربنایی ایجنت را که مدل را به ابزارها متصل می‌سازند تنظیم می‌نماید و نتایج نهایی را از طریق یادگیری تقویتی ارتقا می‌دهد.

• معماری: مدل متراکم ۹ میلیارد پارامتری (9B dense)
• بارهای کاری اصلی: استدلال، کدنویسی، جست‌وجوی وب و استفاده از ابزارها
• زمینه بومی (Native Context): ۲۶۲٬۱۴۴ توکن
• کوانتایزیشن: NVIDIA NVFP4
• مجوز: MIT
• هدف استقرار دیگر: نسخه مجزای Ornith-1.5-9B-Mobile برای سخت‌افزارهای موبایل

در دقت محاسباتی BF16، یک مدل با ۹ میلیارد پارامتر صرفاً برای نگهداری وزن‌ها به حدود ۱۸ گیگابایت حافظه نیاز دارد و گزارش انتشار نیز ردپای حافظه‌ای نزدیک به ۱۹ گیگابایت را نشان می‌دهد. با این حال، مصرف حافظه در زمان اجرا به‌دلیل حافظه نهان KV، پردازش دسته‌ای و سربار فریم‌ورک‌ها به‌ویژه در نزدیکی حداکثر طول زمینه افزایش می‌یابد. در این شرایط، یک شتاب‌دهنده ۸۰ گیگابایتی فضای عملیاتی قابل‌توجهی در اختیار سیستم قرار می‌دهد، در حالی که پردازنده‌های گرافیکی کوچک‌تر نیازمند محدودسازی دقیق‌تر طول زمینه و هم‌روندی خواهند بود.

فرمت NVFP4 معادلات مصرف حافظه را تغییر می‌دهد

فرمت NVFP4 وزن‌های مدل را به‌صورت مقادیر ممیز شناور ۴ بیتی ذخیره می‌کند. در این روش، دسته‌های ۱۶تایی از مقادیر، یک مقیاس FP8 مشترک دارند و یک مقیاس مجزای FP32 نیز بزرگی کلی تانسور را ثبت می‌کند. این ساختار سلسله‌مراتبی در مقایسه با نمایش ساده اعداد صحیح ۴ بیتی، دامنه پویاتری از اعداد را حفظ کرده و هم‌زمان فایل‌های وزن مدل را فشرده نگه می‌دارد.