خرید استارتاپ Moondream توسط Prime Intellect: سرعت پردازش مدل‌های بینایی دو برابر می‌شود!

خرید Moondream توسط Prime Intellect با هدف ارتقای سرعت استنتاج هوش مصنوعی

شرکت Prime Intellect، یکی از ارائه‌دهندگان مطرح زیرساخت هوش مصنوعی در سانفرانسیسکو با ارزش بیش از ۱ میلیارد دلار، رسماً استارتاپ Moondream را تصاحب کرد؛ آزمایشگاه کوچک و متن‌بازی که سازنده خانواده‌ای بسیار محبوب و پردانلود از مدل‌های بینایی-زبانی است. این توافق، وزن‌های متن‌باز Moondream، موتور استنتاج قدرتمند Photon و کامپایلر اختصاصی پردازنده‌های گرافیکی (GPU) آن‌ها را مستقیماً وارد پلتفرم آموزش و سرویس‌دهی Prime Intellect می‌کند.

این خرید بزرگ فناوری‌های پیشرفته‌ای در اختیار Prime Intellect قرار می‌دهد تا مدل‌های آموزش‌دیده را با تأخیر کم‌تر و توان پردازشی بسیار بالاتری اجرا کند. چنین پیشرفتی نه‌تنها هزینه‌های سرویس‌دهی ابری را کاهش می‌دهد، بلکه سرعت پاسخ‌دهی را در حوزه‌های حساسی مثل رباتیک، پردازش ویدیو و ایجنت‌های کار با کامپیوتر (computer-use agents)—جایی که مدل‌ها باید جریانی مداوم از تصاویر یا وضعیت صفحه‌نمایش را در کسری از ثانیه پردازش و تحلیل کنند—به‌طور چشمگیری بهبود می‌بخشد.

پیوستن بنیان‌گذاران به شرکت جدید؛ جزئیات مالی محرمانه ماند

استارتاپ Moondream کم‌تر از ۱۰ کارمند داشت و پیش از این خرید، ۴.۵ میلیون دلار سرمایه جذب کرده بود. حالا ویک کورا‌پات (Vik Korrapat) و جی آلن (Jay Allen)، هم‌بنیان‌گذاران این استارتاپ، به Prime Intellect ملحق می‌شوند تا رهبری تحقیقات استنتاج و هوش مصنوعی چندوجهی را به عهده بگیرند.

شرکت Prime Intellect که در ژانویه ۲۰۲۴ تأسیس شده، در تاریخ ۸ ژوئیه ۲۰۲۶ از جذب سرمایه ۱۳۰ میلیون دلاری سری A خبر داد تا مجموع سرمایه‌اش به بیش از ۱۵۰ میلیون دلار برسد. این شرکت در همان ماه، درآمد سالانه تکرارشونده خود را بیش از ۱۰۰ میلیون دلار اعلام کرد. وینسنت وایسر (Vincent Weißer)، مدیرعامل Prime Intellect، اعلام کرده که این خرید تازه مسیر گسترش به دنیای رباتیک و ایجنت‌های کار با کامپیوتر را هموار می‌کند؛ بازارهایی که نیازمند استنتاج بصری فوق‌العاده سریع هستند.

موتور Photon؛ درمان گلوگاه سرویس‌دهی مدل‌ها

شهرت اصلی استارتاپ Moondream به مدل‌های بینایی-زبانی جمع‌وجور و سبک آن برمی‌گردد که مجموعاً بیش از ۵ میلیون بار در ماه دانلود می‌شوند. در پشت صحنه این مدل‌ها، موتور سرویس‌دهی Photon قرار دارد؛ موتوری کارآمد که وظیفه زمان‌بندی درخواست‌ها، پردازش تصاویر و اجرای عملیات روی پردازنده‌های گرافیکی را بر عهده دارد.

فوتون (Photon) از زمان‌بندی اختصاصی برای هر مدل، پردازش محلی تصاویر و کرنل‌های سفارشی کوئدا (CUDA kernels) بهره می‌برد. شرکت Prime Intellect این نتایج را برای عملکرد Moondream گزارش کرده است:

البته این آمار و ارقام مستقیماً از بیانیه رسمی این دو شرکت آمده است. در محیط واقعی، عملکرد نهایی به اندازه مدل، دقت محاسباتی (Precision)، اندازه دسته‌ها (Batch size)، رزولوشن تصاویر، الگوی درخواست‌ها و پیکربندی سخت‌افزاری بستگی دارد؛ بنابراین توسعه‌دهندگان باید این بنچمارک‌ها را با حجم کاری واقعی خودشان ارزیابی کنند.

کامپایلر Photon نوعی مگاکرنل اختصاصی برای هر مدل می‌سازد که چندین عملیات مجزای GPU را درون یک واحد پردازشی بزرگ‌تر ترکیب می‌کند. این نوآوری سربار ناشی از فراخوانی مکرر کرنل‌ها و جابه‌جایی داده‌ها در حافظه میانی را کاهش می‌دهد و ظرفیت پردازنده گرافیکی را حین استنتاج به شکلی بهینه پر نگه می‌دارد. خودکارسازی این فرایند باعث می‌شود زمان بهینه‌سازی مدل‌ها حسابی کوتاه شود؛ کاری که در حالت عادی نیازمند ساعت‌ها تنظیم دستی توسط مهندسان متخصص CUDA است.

ادغام دو پلتفرم از همین حالا آغاز شده است

شرکت Prime Intellect حتی قبل از اعلام رسمی این معامله، بخشی از فناوری خریداری‌شده را ادغام کرده بود! در حال حاضر نسخه Moondream 3.1 روی سرویس Prime Inference در دسترس قرار دارد و اجرای آن مستقیماً بر دوش Photon است. علاوه بر این، مدل‌های Clef و Clef Flash نیز از طریق Prime Inference و OpenRouter در دسترس هستند.

شرکت Prime Intellect نقشه راه محصول خود را در سه بخش اصلی خلاصه کرده است:

• برند Moondream: تداوم توسعه مدل‌های چندوجهی جمع‌وجور و سبک تحت همین برند.
• موتور Photon: گسترش محیط اجرا (Runtime) و بهینه‌سازی کرنل‌ها برای پشتیبانی از مدل‌های متن‌باز و ورودی‌های متنوع‌تر.
• سرویس Prime Inference: اضافه شدن پشتیبانی از ویدیو، صوت، مدل‌های تصمیم‌گیری، رباتیک و ایجنت‌های کار با کامپیوتر.

نکاتی که توسعه‌دهندگان باید بررسی کنند

توسعه‌دهندگانی که قصد استفاده از Moondream یا Photon را دارند، بهتر است این ۵ نکته مهم و کاربردی را قبل از هر اقدامی ارزیابی کنند:

1. آزمایش روی ترافیک واقعی: به جای تکیه بر ارقام تبلیغاتی توان پردازشی، سیستم را با ابعاد واقعی تصاویر، الگوهای دسته‌ای، پردازش هم‌زمان، دقت محاسباتی و زمان تأخیر مدنظر خودتان بنچمارک کنید.
2. بررسی پشتیبانی سخت‌افزاری: به گفته Prime Intellect، نخستین نسخه Photon از مدل‌های Moondream، Qwen و Gemma روی پردازنده‌های گرافیکی انویدیا H100 پشتیبانی می‌کند؛ اما وضعیت پشتیبانی از سایر شتاب‌دهنده‌ها و محیط‌های استقرار هنوز نامشخص است.
3. بررسی دقیق مجوزها و لایسنس‌ها: اگرچه لایسنس مدل‌های فعلی Moondream بدون تغییر باقی مانده، اما کامپایلر این سیستم مالکیتی (Proprietary) است و هنوز شرایط دسترسی گسترده‌تر به Photon اعلام نشده است.
4. بررسی گزینه‌های استقرار: تیم‌هایی که به پردازش در لبه شبکه (Edge) یا سرور‌های اختصاصی درون‌سازمانی (On-premises) نیاز دارند، باید مطمئن شوند که آیا امکان اجرای Photon خارج از پلتفرم ابری Prime Intellect وجود دارد یا خیر.
5. دنبال کردن تداوم به‌روزرسانی‌ها: کاربرانی که از وزن‌های متن‌باز استفاده می‌کنند، باید روند انتشار به‌روزرسانی‌ها، فعالیت مخازن کد، تضمین‌های سازگاری و سیاست‌های توقف پشتیبانی را در طول فرایند ادغام با دقت زیر نظر بگیرند.

این خرید جدید دسترسی مستقیم و ابری به مدل‌های Moondream را در کنار یک محیط اجرای بهینه‌سازی‌شده برای استنتاج چندوجهی برای توسعه‌دهندگان فراهم می‌کند. با این حال، قابلیت جابه‌جایی Photon، عملکرد پایدار آن در حجم‌های کاری گوناگون، گستره پشتیبانی از سخت‌افزارهای مختلف و سیاست‌های بلندمدت انتشار، مهم‌ترین جزئیاتی هستند که باید در ادامه مسیر به تماشای آن‌ها نشست.