اجرای محلی مدلهای زبانی فشرده PrismML روی عینکهای هوشمند مجهز به تراشه Qualcomm

آزمایشگاه هوش مصنوعی PrismML که توسط پژوهشگران Caltech تأسیس شده و با مشاوره یون استویکا (Ion Stoica) از دانشگاه UC Berkeley فعالیت می‌کند، نسخه‌ای اختصاصی از مدل‌های زبانی کوچک خود را برای عینک‌های هوشمند مجهز به تراشه‌های Snapdragon شرکت Qualcomm طراحی کرده است.

در جریان رویداد Snapdragon Summit، شرکت Qualcomm از مدل ۱ بیتی Bonsai LLM متعلق به استارتاپ PrismML رونمایی کرد؛ مدلی فوق‌سبک که می‌تواند به‌صورت کاملاً محلی روی عینک‌های هوشمند مبتنی بر پلتفرم Snapdragon AR1 Gen 1 اجرا شود.

بر اساس گزارش‌های فنی، شهرت اصلی PrismML به توانایی چشمگیر آن در کوچک‌سازی مدل‌های هوش مصنوعی (در این نمونه تا ۴ برابر) ضمن حفظ عملکرد بالا در بنچمارک‌های استاندارد بازمی‌گردد. نسخه ارائه‌شده برای عینک‌های هوشمند یک مدل ۲ میلیارد پارامتری بهینه‌سازی‌شده برای بینایی ماشین و پردازش زبان است که به کاربران امکان می‌دهد درباره آنچه در همان لحظه می‌بینند، سؤال بپرسند و پاسخ فوری دریافت کنند.

چشم‌انداز وسیع‌تر PrismML، توسعه مدل‌های هوش مصنوعی با وزن‌های باز است که مستقیماً روی سخت‌افزار دستگاه‌ها اجرا شوند و از توان پردازشی موجود استفاده بهینه‌تری داشته باشند. این استارتاپ رویکرد خود را راهکاری کاربردی برای رفع نگرانی‌های حریم خصوصی در مدل‌های اختصاصی ابری و پایان دادن به نیاز بی‌پایان به زیرساخت‌های محاسباتی عظیم معرفی می‌کند.

پشتیبانی از پردازنده‌های Qualcomm گام مهمی در جهت تحقق این هدف به شمار می‌رود، بااین‌حال هنوز هیچ عینک هوشمند تجاری مجهز به مدل‌های PrismML به‌طور رسمی معرفی نشده است.