میرا موراتی کاری را که سم آلتمن نکرد انجام داد؛ رونمایی از مدل ۹۷۵ میلیارد پارامتری Inkling

اگر این روزها در بازار هوش مصنوعی به دنبال یک مدل پیشرو و وزنباز (Open-weight) باشید، گزینه‌های شما در خارج از آزمایشگاه‌های چینی بسیار انگشت‌شمار و محدود است.

با رونمایی از مدل جدیدی موسوم به «Inkling»، استارتاپی به نام تینکینگ ماشینز لب (Thinking Machines Lab) قصد دارد این معادله را برای همیشه تغییر دهد.

تینکینگ ماشینز که در اوایل سال ۲۰۲۵ توسط میرا موراتی، مدیرفنی سابق اوپنای‌آی تأسیس شد، در نخستین قدم مدلی بسیار عظیم به میدان آورده است. مدل Inkling با ۹۷۵ میلیارد پارامتر، برای اجرا با دقت پیش‌فرض ۱۶ بیتی به بیش از ۲ ترابایت حافظه گرافیکی (VRAM) نیاز دارد؛ یعنی حجمی که تقریباً در ۸ شتاب‌دهنده B300 انویدیا یا ۱۶ تراشه H200 یافت می‌شود. البته اگر این رقم فراتر از توان سخت‌افزار شما است، تینکینگ ماشینز یک نسخه کوانتایزشده بر پایه فرمت NVFP4 نیز منتشر کرده که با نیمی از این تعداد پردازنده گرافیکی هم اجرا می‌شود.

این ویژگی‌ها Inkling را به بزرگ‌ترین مدل وزنباز آمریکایی تا به امروز تبدیل می‌کند که از نظر ابعاد و قابلیت‌ها با مدل‌های پیشتاز چینی نظیر دیپسیک V4، مدل GLM 5.2 و Kimi K2.6 برابری می‌کند. هرچند معمولاً باید به ادعاهای مطرح‌شده در بنچمارک‌ها با احتیاط نگریست، شرکت تینکینگ ماشینز اعلام کرده که Inkling در بارهای کاری گوناگون شانه به شانه این مدل‌ها رقابت می‌کند؛ هرچند نمودارهای بنچمارک نشان می‌دهند که عملکرد آن هنوز یک پله پایین‌تر از مدل‌های اختصاصی و بسته‌ای چون کلود (Claude) آنتروپیک و سری GPT اوپنای‌آی قرار دارد.

تینکینگ ماشینز این مدل را بسیار انعطاف‌پذیر توصیف می‌کند؛ مدلی که در وهله نخست برای توسعه‌دهندگان اپلیکیشن‌های هوش مصنوعی طراحی شده، اما برای کاربردهای عمومی مانند چت‌بات‌ها نیز کاملاً مناسب است. از آنجا که Inkling تحت مجوز بسیار آزاد آپاچی ۲٫۰ (Apache 2.0) عرضه می‌شود، کاربران نهایی برای فاین‌تیون و بهینه‌سازی اختصاصی آن برای کاربردهای خاص خود کاملاً آزادند. پلتفرم اختصاصی این شرکت به نام تینکر (Tinker) نیز ابزارهای لازم را دقیقاً برای همین منظور در اختیار افراد قرار می‌دهد.

جالب اینکه تینکینگ ماشینز مدعی است این مدل توانایی شگفت‌انگیزی در نوشتن اسکریپت‌های فاین‌تیون شخصی دارد؛ یعنی می‌تواند با کدنویسی برای خودش، رفتارهایش را اصلاح کند، اسکیل‌ها و مهارت‌های تازه بیاموزد و عملکرد خود را مورد ارزیابی قرار دهد.

از دیگر ویژگی‌های شاخص این مدل، پشتیبانی از پنجره زمینه (کانتکست) ۱ میلیون توکنی است که می‌توان آن را شبیه حافظه کوتاه‌مدت مدل در نظر گرفت. این حجم از حافظه موقت به Inkling کمک می‌کند تا به تجزیه‌وتحلیل پایگاه‌های کد بسیار بزرگ و جستجوی پیچیده اطلاعات بپردازد.

اگرچه تینکینگ ماشینز اذعان می‌کند که معماری ترکیبی از متخصصان (MoE) در این مدل با الهام از دیپسیک V3 پیاده‌سازی شده، اما تأکید دارد که Inkling را از پایه با بهره‌گیری از سیستم‌های انویدیا GB300 NVL72 و با پردازش ۴۵ تریلیون توکن متشکل از متن، تصویر، صوت و ویدیو آموزش داده است.

در مجموع، این مدل از ۲۵۶ متخصص هدایت‌شده (Routed Experts) و ۲ متخصص مشترک تشکیل شده است. در زمان پاسخگویی، Inkling هر توکن را با همکاری ۶ متخصص با مجموع ۴۱ میلیارد پارامتر تولید می‌کند. بنابراین با وجود ابعاد بزرگ مدل، سرعت تولید توکن‌های آن در سخت‌افزار مشابه تقریباً هم‌اندازه مدلی چون دیپسیک V4 خواهد بود.

مشابه بسیاری از مدل‌های زبانی بزرگ امروزی، Inkling نیز یک «مدل استدلالی» (Reasoning Model) به شمار می‌رود؛ به این معنا که با استفاده از یادگیری تقویتی (RL) آموزش دیده تا پیش از ارائه پاسخ، با استفاده از زنجیره تفکر (Chain of Thought) روی درخواست کاربر فکر و استدلال کند.

سازنده مدل ادعا می‌کند Inkling را طوری تنظیم کرده که از این توکن‌های تفکر بهینه‌تر از رقبا بهره ببرد؛ به طوری که در بنچمارک Terminal Bench 2.1، تنها با مصرف حدود یک‌سوم تعداد توکن‌ها، به عملکردی هم‌تراز با مدل ۵۵۰ میلیارد پارامتری Nemotron 3 Ultra انویدیا (که تا پیش از این بزرگ‌ترین و توانمندترین مدل وزنباز آمریکایی محسوب می‌شد) دست می‌یابد.

هرچند توکن‌های تفکر توانمندی مدل را بالا می‌برند و از احتمال توهم هوش مصنوعی می‌کاهند، اما این قابلیت رایگان تمام نمی‌شود. این توکن‌ها درست مانند سایر توکن‌ها محاسبه می‌شوند؛ بنابراین هر چقدر زمان استدلال مدل طولانی‌تر باشد، هزینه و قبض نهایی کاربران نیز سنگین‌تر خواهد شد.

در بخش دسترسی به API، مدل Inkling از امروز روی پلتفرم تینکر تینکینگ ماشینز در دسترس قرار دارد؛ سامانه‌ای که علاوه بر دسترسی مستقیم به مدل، ابزارهایی برای شخصی‌سازی و فاین‌تیون نیز ارائه می‌دهد. این شرکت همچنین مشغول همکاری با ارائه‌دهندگان ثالث خدمات API از جمله TogetherAI، فایروورکس (Fireworks)، مودال (Modal)، دیتا بریکس (Databricks) و بیس‌تن (Baseten) است تا این مدل را به زودی در دسترس توسعه‌دهندگان این پلتفرم‌ها نیز بگذارد.

چنانچه ترجیح می‌دهید مدل را روی سخت‌افزار شخصی خود اجرا و ارزیابی کنید، وزن‌های آن در مخازن محبوبی نظیر هاگینگ فیس (Hugging Face) برای دانلود قرار گرفته است. سازندگان اعلام کرده‌اند که این مدل در زمان عرضه از طیف وسیعی از موتورهای استنتاج و پاسخگویی از جمله vLLM، موتور SGLang، مایلس (Miles)، توکن‌اسپید (TokenSpeed) و Llama.cpp به‌طور کامل پشتیبانی می‌کند.

مدل Inkling تنها نخستین عضو از خانواده مدل‌های در دست ساخت تینکینگ ماشینز است. این شرکت در کنار مدل پرچم‌دار خود، پیش‌نمایشی از مدل Inkling-Small را نیز ارائه داده است؛ مدلی مبتنی بر معماری MoE با ۲۷۶ میلیارد پارامتر و ۱۲ میلیارد پارامتر فعال که به‌طور ویژه برای کاربرانی طراحی شده که سرعت پاسخ‌دهی و تأخیر پایین را به بیشترین حجم خروجی و بالاترین دقت ترجیح می‌دهند.

تینکینگ ماشینز هم‌اکنون در حال نهایی‌سازی این مدل کوچک‌تر است و قصد دارد پس از تکمیل آزمایش‌ها، وزن‌های آن را نیز به‌صورت عمومی منتشر کند.