تبدیل پلی‌استیشن ۵ به سرور هوش مصنوعی؛ اجرای مدل ۲۷ میلیاردی روی کنسول جیلبریک‌شده!

پروژه جذاب PS5LM با دسترسی مستقیم به پردازنده گرافیکی از طریق رابط ولکان (Vulkan)، موفق شده مدل ۲۷ میلیارد پارامتری Qwen3 را با سرعت خیره‌کننده ۲۰ توکن بر ثانیه روی کنسول‌های جیلبریک‌شده پلی‌استیشن ۵ اجرا کند.

شاید فکر کنید پلی‌استیشن ۵ شما فقط برای رندر کردن دنیاهای بازی‌های ویدیویی یا شبیه‌سازی فیزیک تایر در بازی‌های مسابقه‌ای ساخته شده؛ اما واقعیت این است که همین پردازنده گرافیکی قدرتمند می‌تواند مدل‌های بزرگ زبانی را هم به‌صورت کاملاً محلی اجرا کند، بدون اینکه حتی یک کلمه از پرامپت‌های شما به سرور‌های ابری ارسال شود.

این دقیقاً همان چیزی است که پروژه PS5LM به نمایش گذاشته است. این پروژه متن‌باز توانسته ابزار محبوب llama.cpp را روی پلی‌استیشن ۵ جیلبریک‌شده پورت کند و فرایند استنتاج هوش مصنوعی را از طریق ولکان (Vulkan) به دوش پردازنده گرافیکی کنسول بیندازد؛ همان رابط گرافیکی سطح پایینی که بازی‌های سنگین کامپیوتر و موبایل از آن بهره می‌برند.

نتیجه کار؟ یک کنسول بازی خانگی که رسماً به یک ماشین پردازش محلی هوش مصنوعی تبدیل شده است.

جزئیات عملکرد و بنچمارک‌ها

در مهم‌ترین آزمایش، یک مدل ۲۷ میلیارد پارامتری به مصاف پردازنده گرافیکی پلی‌استیشن ۵ رفته است؛ رقابتی که نتایج آن بسته به نوع فشرده‌سازی مدل و اینکه کدام پردازنده کار را دست گرفته، تفاوت چشمگیری دارد.

این بنچمارک اصلی با مدل Qwen3.8-27B انجام شده که حدود ۲۷ میلیارد پارامتر دارد. بر اساس نتایج پروژه، دو نسخه کوانتیزه‌شده (فشرده‌شده) از این مدل توانسته‌اند بسته به فرمت فایل و تنظیمات متن ورودی، سرعتی در حدود ۲۰.۳ تا ۲۰.۷ توکن بر ثانیه ثبت کنند.

جالب اینجاست که طبق گزارش رسانه allnight.city، اگر شتاب‌دهنده گرافیکی غیرفعال باشد، همین مدل روی پردازنده اصلی (CPU) پلی‌استیشن ۵ تنها به سرعت حلزونی یک توکن در دقیقه می‌رسد! این اختلاف فاحش به خوبی نشان می‌دهد که اجرای روان این مدل‌ها چقدر به قدرت خام پردازنده گرافیکی وابسته است.

وقتی سراغ مدل‌های سبک‌تر و جمع‌وجورتر بروید، این اعداد به مراتب بالا‌تر هم می‌روند. طبق مستندات پروژه PS5LM Plus، مدل Gemma 4 E4B به سرعت تقریبی ۶۱ توکن بر ثانیه و مدل کوچک‌تر Llama 3.2 3B به سرعت فوق‌العاده ۱۲۴ توکن بر ثانیه دست یافته است.

آمار‌های سخت‌افزاری در جریان آزمایش مدل ۲۷ میلیاردی هم در نوع خود جالب است؛ گزارش‌ها حاکی از آن است که پردازنده گرافیکی با لود ۱۰۰ درصدی زیر فشار کاری رفته، مصرف برق تراشه اصلی (SoC) حدود ۸۶ وات بوده و دمای گرافیک هم در حوالی ۵۴ درجه سانتی‌گراد کاملاً خنک و پایدار مانده است.

پستی در شبکه اجتماعی ایکس به قلم وایبهاو سیسینتی (Vaibhav Sisinty) هم به این مقایسه جالب پرداخته و تفاوت پردازنده اصلی و گرافیکی (حدود یک توکن در دقیقه در برابر ۲۰ توکن در ثانیه) را به عنوان نکته کلیدی این آزمایش برجسته کرده است. البته ارتباط مستقیمی میان سیسینتی و تیم توسعه‌دهنده PS5LM تأیید نشده و این پست صرفاً یک بررسی و بازتاب مستقل از نتایج پروژه به شمار می‌رود.

نسخه توسعه‌یافته این پروژه با نام PS5LM Plus ظاهراً باز هم امکانات بیشتری اضافه کرده؛ از جمله یک داشبورد مناسب تلویزیون، کتابخانه مدیریت مدل‌ها روی خود کنسول و یک رابط برنامه‌نویسی (API) سازگار با OpenAI که به سایر دستگاه‌های حاضر در شبکه خانگی اجازه می‌دهد درخواست‌های هوش مصنوعی خود را به پلی‌استیشن ۵ بفرستند و پاسخ دریافت کنند.

این کار در عمل به چه پیش‌نیازهایی نیاز دارد؟

اجرای مدل‌های هوش مصنوعی روی پلی‌استیشن ۵ نیازمند سخت‌افزار جیلبریک‌شده، نسخه فریم‌ور سازگار و مدیریت حساب‌شده حافظه محدود کنسول است.

بدیهی است که این راه‌اندازی روی کنسول‌های عادی و دست‌نخورده موجود در بازار ممکن نیست. برای این کار به کنسولی با نسخه فریم‌ور سازگار (معمولاً نسخه‌های ۷.۰۰ تا ۱۳.۶۰) به همراه جیلبریک و ابزار بارگذاری پی‌لود نیاز است.

حافظه رم اصلی‌ترین محدودیت و چالش فنی در این سناریو است. پلی‌استیشن ۵ از ۱۶ گیگابایت حافظه یکپارچه اشتراکی بهره می‌برد، اما سیستم‌عامل و رابط گرافیکی بخش زیادی از آن را اشغال می‌کنند و فضای آزاد در دسترس برای پردازش هوش مصنوعی را کاهش می‌دهند. پس از کوانتیزه‌سازی، اندازه فایل مدل‌های تست‌شده حدود ۶.۸ و ۹.۲ گیگابایت اندازه‌گیری شده؛ البته این ارقام صرفاً حجم فایل هستند و کل حافظه مورد نیاز در زمان اجرا، با احتساب بار اضافه کش متن (Context Cache)، به مراتب بیش‌تر می‌شود.

فرایند کوانتیزه‌سازی (Quantization) با کاهش تعداد بیت‌های مورد استفاده برای ذخیره وزن‌های مدل، مصرف حافظه را به شدت کاهش داده و سرعت استنتاج را بیش‌تر می‌کند. البته ممکن است دقت خروجی و کیفیت استدلال در مقایسه با نسخه اصلی و با دقت کامل کمی تحت تأثیر قرار بگیرد، هرچند میزان این تغییر بسته به نوع مدل، متد فشرده‌سازی و کاربری مورد نظر متفاوت خواهد بود.

باید به یاد داشت که سرعت‌های اعلام‌شده حاصل بنچمارک‌های خود پروژه است، نه آزمایش‌های رسمی در آزمایشگاه‌های مستقل. فرمت کوانتیزه‌سازی، طول متون ورودی، دمای دستگاه و فعالیت‌های پس‌زمینه سیستم همگی می‌توانند روی عملکرد واقعی در دنیای واقعی تأثیر بگذارند.

با سرعت ۲۰ توکن بر ثانیه روی یک مدل بسیار فشرده، پلی‌استیشن ۵ همچنان نمی‌تواند رقیبی برای ورک‌استیشن‌های مدرن هوش مصنوعی باشد. محیط نرم‌افزاری و حافظه این کنسول بسیار محدودتر از یک کامپیوتر مجهز به کارت‌های گرافیک اختصاصی است.

جیلبریک کردن هم خطرات واقعی خودش را دارد: از باگ‌های امنیتی و ناپایداری سیستم گرفته تا باطل شدن رسمی گارانتی. علاوه بر این، کاربران با خطر مسدود شدن دسترسی به شبکه پلی‌استیشن (PSN) روبه‌رو هستند و این کار ممکن است با قوانین سونی یا مقررات حقوقی در برخی کشور‌ها در تضاد باشد.

این تجربه جذاب در عمل چه پیامی دارد؟

این پروژه نشان می‌دهد وقتی هکرها و توسعه‌دهندگان مستقل قفل سد فریم‌ور را بشکنند و مستقیماً به دل سخت‌افزار نفوذ کنند، پردازنده گرافیکی پلی‌استیشن ۵ چه پتانسیل پنهانی از خود نشان می‌دهد.

معماری پردازنده گرافیکی PS5 که اساساً برای محاسبات موازی دنیای بازی‌ها طراحی شده، هماهنگی فوق‌العاده‌ای با عملیات ماتریسی مورد نیاز در هوش مصنوعی دارد. وقتی برنامه‌نویسان مستقل به رابط‌های سطح پایین گرافیکی دسترسی مستقیم پیدا می‌کنند، سخت‌افزاری که سونی هرگز آن را به عنوان یک بستر پردازش هوش مصنوعی معرفی نکرده بود، توانایی‌های شگفت‌انگیزی را به نمایش می‌گذارد.

البته قبل از اینکه این طرح از یک نمایش فنی جذاب فراتر برود، به ارزیابی‌های مستقل درباره پایداری حرارتی طولانی‌مدت، کیفیت خروجی‌ها و بازده مصرف انرژی در نسخه‌های مختلف کنسول نیاز خواهد بود. علاوه بر این، یک ریسک همیشگی هم وجود دارد: هر به‌روزرسانی امنیتی از طرف سونی می‌تواند پنجره جیلبریک‌های فعلی را ببندد و این مسیر را مسدود کند.