مدل هوش مصنوعی GLM-4.5-Air رونمایی شد؛ قدرت استدلال ۱۰۶ میلیاردی با مصرف بهینه پردازش
شرکت Z.ai مدل وزنباز جدیدی به نام GLM-4.5-Air را با معماری ترکیبی از متخصصان (MoE) و مجوز MIT منتشر کرد. این مدل ۱۰۶ میلیارد پارامتری با فعال‌سازی تنها ۱۲ میلیارد پارامتر در هر توکن، امکان استدلال پیشرفته و هدایت ایجنتها را با هزینه‌ای بسیار کمتر فراهم می‌کند.
در یک نگاه (نکات کلیدی خبر)
خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع
- مدل وزنباز GLM-4.5-Air با ۱۰۶ میلیارد پارامتر کل تحت لایسنس تجاری و آزاد MIT منتشر شده است و پنجره زمینه ۱۲۸ هزار توکنی ارائه می‌دهد.
- با معماری ترکیبی از متخصصان (MoE)، در هر توکن تنها حدود ۱۲ میلیارد پارامتر فعال می‌شود که محاسبات پردازشی را به‌شدت کاهش می‌دهد.
- این مدل دو حالت استدلال عمیق و پاسخگویی سریع را در دل یک فایل وزنی فراهم کرده است و توسعه‌دهندگان می‌توانند نوع خروجی را بر اساس نیاز خود تنظیم کنند.
صفحه اختصاصی مدل جدید شرکت Z.ai در مخزن هاگینگ فیس در بدو انتشار با استقبال چشمگیری روبه‌رو شد و نزدیک به ۸۰۰ هزار بار دانلود و بیش از ۳٬۹۰۰ لایک دریافت کرد. مدل GLM-4.5-Air توانمندی‌های پیشرفته این شرکت در حوزه استدلال، کدنویسی و استفاده از ابزارها را در قالب برادر کوچک‌تر مدل پرچمدار GLM-4.5 ارائه می‌دهد.
توسعه‌دهندگان در این مدل به وزن‌های قابل دانلود تحت لایسنس کاملاً آزاد MIT، پنجره زمینه (کانتکست) ۱۲۸ هزار توکنی و دو حالت مختلف در لحظه پاسخگویی (استنتاج) در قالب یک چک‌پوینت واحد دسترسی دارند. با این حال، چالش اصلی این معماری به حافظه رم مربوط می‌شود؛ هرچند مسیریابی تنک (Sparse Routing) میزان محاسبات ریاضی را به ازای هر توکن کاهش می‌دهد، اما اجرای مدل همچنان نیازمند بارگذاری تمام ۱۰۶ میلیارد پارامتر در حافظه است.
مسیریابی تنک؛ راز بازدهی بالای پردازش
مدل GLM-4.5-Air یک ترنسفورمر مبتنی بر معماری ترکیبی از متخصصان (MoE) است که در مجموع ۱۰۶ میلیارد پارامتر دارد، اما برای پردازش هر توکن تنها حدود ۱۲ میلیارد پارامتر فعال را به کار می‌گیرد. سیستم مسیریاب داخلی مدل، هر توکن را فقط به بخش کوچکی از کارشناسان پیش‌خور (Feed-forward) هدایت می‌کند که این امر حجم محاسبات ریاضی را در مقایسه با یک مدل متراکم ۱۰۶ میلیاردی به‌شدت پایین می‌آورد.
البته رقم ۱۲ میلیارد پارامتر فعال صرفاً حجم محاسبات پردازشی را نشان می‌دهد، نه فضای ذخیره‌سازی مورد نیاز یا عملکرد دقیق یک مدل متراکم. در عمل، تمام کارشناسان تخصصی مدل باید همواره در حافظه گرافیکی در دسترس باشند و عواملی نظیر تبادل داده میان چند پردازنده گرافیکی، لایه‌های توجه (Attention)، سازوکار مسیریابی و حافظه موقت کلید-مقدار (KV Cache) همگی بر میزان تأخیر پاسخگویی اثرگذار هستند.
مشخصه فنی | توضیحات |
|---|---|
مجموع پارامترها | ۱۰۶ میلیارد |
پارامترهای فعال | حدود ۱۲ میلیارد به ازای هر توکن |
لایه‌های ترنسفورمر | ۴۶ لایه |
مسیریابی متخصصان | ۸ کارشناس مسیریابی‌شده به‌همراه یک کارشناس مشترک برای هر توکن |
مکانیزم توجه (Attention) | ۹۶ هد Query و ۸ هد Key/Value |
اندازه پنهان (Hidden size) | ۴٬۰۹۶ |
تعداد واژگان (Vocabulary) | حدود ۱۵۱٬۶۰۰ توکن |
توابع فعال‌سازی و نرمال‌سازی | تابع SwiGLU و پیش‌نرمال‌سازی با RMSNorm |
پنجره زمینه (Context Window) | ۱۲۸ هزار توکن |
حداکثر خروجی اعلام‌شده | ۹۶ هزار توکن (مشروط به سقف تعیین‌شده در محیط اجرا) |
لایسنس | MIT (متن‌باز و تجاری) |
دو شیوه استدلال در دل یک مدل
حالت استدلال فکری (Thinking mode) توکن‌های خروجی بیشتری را به تفکر چندمرحله‌ای، کدنویسی و انتخاب ابزارها اختصاص می‌دهد تا دقت به بالاترین سطح برسد. در مقابل، حالت غیراستدلالی پاسخ‌هایی مستقیم و سریع تولید می‌کند که برای گفتگوهای زنده و حساس به تأخیر زمانی، استخراج داده‌ها، دسته‌بندی متن و سایر وظایفی که نیازی به ردپای استدلال طولانی ندارند، ایده‌آل است.
برنامه‌ها و سرویس‌های هوش مصنوعی می‌توانند بدون نیاز به بارگذاری مجدد مدل دیگری، در هر درخواست به‌سادگی این دو حالت را جابه‌جا کنند. در قالب چت رسمی هاگینگ فیس، متغیر enable_thinking وظیفه کنترل این رفتار را بر عهده دارد:
prompt = tokenizer.apply_chat_template(
messages,
tokenize=False,
add_generation_prompt=True,
enable_thinking=True,
)برچسب های مرتبط
مطالب مرتبط و پیشنهادی
سرمایه‌گذاری اوپنای‌آی روی ایمپلنت مغزی جدیدی که سرطان را با هوش مصنوعی شناسایی و درمان می‌کند
شاخه سرمایه‌گذاری خطرپذیر اوپنای‌آی به‌همراه صندوق پیتر تیل در استارتاپ کوهرنس سرمایه‌گذاری کردند؛ شرکتی نوپا که با توسعه ایمپلنت مغزی مجهز به هوش مصنوعی، به دنبال تشخیص زودهنگام و درمان تومورهای سرطانی است. این اقدام نشان‌دهنده علاقه فزاینده غول‌های فناوری به استفاده از داده‌های عصبی مغز برای آموزش مدلهای پیشرفته است.
تارگت با چتبات هوش مصنوعی Ask Target به رقابت با آمازون و والمارت پیوست
فروشگاه زنجیره‌ای تارگت از نسخه آزمایشی چتبات هوش مصنوعی Ask Target رونمایی کرد تا به مشتریان در خریدهای سال نو کمک کند. این دستیار هوشمند با تکیه بر داده‌های اختصاصی، تارگت را وارد رقابت مستقیم با سرویس‌های هوش مصنوعی والمارت و آمازون می‌کند.
دیپسیک با آپدیت جدید V4.1 Flash و فریمورک DeepInfer هزینه اجرای هوش مصنوعی را کاهش می‌دهد
شرکت دیپسیک با معرفی به‌روزرسانی جدید مدل V4.1 Flash و انتشار فریمورک متن‌باز DeepInfer، گام بلندی برای کاهش هزینه‌های اجرای هوش مصنوعی برداشته است. این راهکارها با کوتاه‌تر کردن پاسخ‌ها و بهینه‌سازی پردازش، اجرای مدلهای زبانی را برای توسعه‌دهندگان به‌صرفه‌تر و سریع‌تر می‌کنند.
دیدگاه ها و گفتگوی تخصصی
نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید
هنوز دیدگاهی برای این مطلب ثبت نشده است
اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.