مدل هوش مصنوعی Mistral Large 4 با یک دستور متنی، شبیه‌ساز تعاملی شیمی کوانتومی ساخت

شرکت Mistral ویدیوی نمایشی جدیدی از مدل پرچمدار خود به نام Mistral Large 4 (با لقب Le Chonk) منتشر کرده است که توانایی ساخت یک شبیه‌ساز تعاملی شیمی کوانتومی را تنها با یک پرامپت کوتاه نشان می‌دهد. بر اساس گزارش این شرکت، مدل توانسته است یک حل‌کننده محاسباتی میدان خودسازگار (SCF) را از پایه بنویسد، خروجی‌های عددی آن را اعتبارسنجی کند و محاسبات را به یک رابط بصری سه‌بعدی از فرایند تفکیک مولکول متصل سازد.

روش‌های میدان خودسازگار یا همان SCF، ساختار الکترونی مولکول‌ها را از طریق محاسبات تکرارشونده و تقریب‌های مرحله‌به‌مرحله به دست می‌آورند. در این فرایند، الگوریتم حل‌کننده کار خود را با تخمین چگالی الکترون آغاز می‌کند، معادلات تک‌الکترونی مؤثر را می‌سازد، آن‌ها را حل می‌کند و چگالی را تا زمان رسیدن انرژی و چگالی به نقطه همگرایی بازبینی می‌نماید. پیاده‌سازی چنین فرایندی بدون بهره‌گیری از کتابخانه‌های آماده‌ای مانند PySCF، نیازمند کدنویسی عددی بسیار دقیق شامل محاسبات ماتریسی، مدیریت همگرایی و اطمینان از منطقی بودن نتایج از نظر قوانین فیزیک است.

تبدیل یک پرامپت به منحنی تجزیه مولکولی

• برنامه‌ریزی: انتخاب یک پیوند شیمیایی معنادار برای افزایش طول و برگزیدن اوربیتال‌های مولکولی مناسب جهت نمایش بصری؛ بر اساس اعلام Mistral، این تصمیم‌گیری‌ها کاملاً بر عهده خود مدل گذاشته شده بود.
• محاسبات: پیاده‌سازی و اجرای فرایند محاسباتی SCF در طول پیوندهای مختلف.
• اعتبارسنجی: بررسی انرژی‌های به‌دست‌آمده از نظر دستیابی به همگرایی و داشتن رفتاری مطابق با اصول فیزیک.
• نمایش بصری: رسم نمودار انرژی و رندر کردن اوربیتال‌هایی که با کشیده شدن پیوند، به بخش‌های تفکیک‌شده مولکول منتقل می‌شوند.
• یکپارچه‌سازی: افزودن یک اسلایدر تعاملی که شکل هندسی، نمایش اوربیتال‌ها، پیوندها و نمودار انرژی را به‌طور هم‌زمان به‌روزرسانی می‌کند.

اجرای کامل این توالی، نیازمند توانمندی در برنامه‌ریزی، برنامه‌نویسی محاسباتی، اجرای کد، اعتبارسنجی و ساخت رابط کاربری در قالب یک جریان کاری واحد است. این مهارت‌ها برای ایجنت‌های کدنویسی اهمیت حیاتی دارند؛ چراکه از آن‌ها انتظار می‌رود آزمایش‌های مختلف را اجرا کنند، خروجی‌ها را بسنجند و با بهره‌گیری از ابزارهای گوناگون به اصلاح کدهای خود بپردازند.

البته باید در نظر داشت که نمایش‌های منتخب شرکت‌ها تنها یک نمونه اجرای موفق را نشان می‌دهند. مواردی هم‌چون تکرارپذیری، نرخ خطا، دقت محاسبات عددی، کیفیت کدهای تولیدشده و میزان راهنمایی‌های پشت صحنه، همگی مسائلی هستند که باید به‌صورت مستقل بررسی شوند. استفاده واقعی در محیط‌های علمی نیازمند بازتولید محاسبات در مقایسه با ابزارهای معتبر و آزمودن سناریوهای پیچیده‌تر با همگرایی ناپایدار، مجموعه‌های پایه بزرگ‌تر و چندین حالت الکترونی مختلف خواهد بود.

یک تریلیون پارامتر با فعال‌سازی بخشی محدود

سیستم مسیریابی در معماری ترکیبی از متخصصان، هر توکن را تنها از میان حدود ۵۲ میلیارد پارامتر عبور می‌دهد که در مقایسه با یک مدل متراکم ۱٫۰۵ تریلیون پارامتری، بار محاسباتی را به‌شدت کاهش می‌دهد. با این حال، پیاده‌سازی و استقرار مدل همچنان نیازمند ذخیره‌سازی یا تقسیم کل فایل چک‌پوینت است. با دقت محاسباتی FP8، وزن‌های مدل به‌تنهایی پیش از احتساب حافظه زمان اجرا، حافظه کَش و سربارهای پردازشی، حدود ۱ ترابایت فضا اشغال می‌کنند.

پشتیبانی از پنجره زمینه ۱ میلیون توکنی تبلیغ‌شده نیز نیازمند حافظه بسیار زیادی برای کش کلید و مقدار (KV Cache) است. طول پنجره زمینه قابل استفاده در دنیای واقعی به فریمورک استنتاج، اندازه بسته پردازشی، ساختار سخت‌افزاری، روش‌های کوانتیزه‌سازی و زمان تاخیر مورد نظر بستگی خواهد داشت.

سه مسیر برای راه‌اندازی و استفاده

بر پایه قیمت‌های اعلام‌شده در API، درخواستی شامل ۱۰۰ هزار توکن ورودی و تولید ۱۰ هزار توکن خروجی، بدون در نظر گرفتن هزینه‌های جانبی ارائه‌دهنده حدود ۰٫۰۹۱ دلار هزینه خواهد داشت. تیم‌های توسعه هنگام برآورد هزینه‌های نهایی محصولات خود، باید مصرف توکن‌های استدلال، تلاش‌های مجدد، فراخوانی ابزارها و خطاهای احتمالی در عملکرد ایجنت‌ها را نیز در محاسبات خود بگنجانند.

مجوز ارائه‌شده امکان دسترسی به وزن‌ها و راه‌اندازی محلی را فراهم می‌کند؛ با این حال، شرکت‌هایی که قصد دارند Large 4 را به‌عنوان یک سرویس ابری تجاری به کاربران عرضه کنند، به توافقنامه‌ای جداگانه با Mistral نیاز خواهند داشت. تیم‌های توسعه محصولات داخلی و ارائه‌دهندگان خدمات میزبانی باید پیش از پیاده‌سازی، شرایط این مجوز را متناسب با الگوی توزیع و خدمات خود بازبینی کنند.

بررسی بنچمارک‌ها بر پایه نوع وظیفه

نتایج منتشرشده از سوی Mistral بیش از هر چیز بر مهارت در کدنویسی و امنیت سایبری تدافعی تمرکز دارد و ادعاهایی نیز درباره امور حقوقی مطرح شده است. با این حال، ارزیابی جامع‌تری توسط پلتفرم DataCamp، مدل Large 4 را در رتبه ۳۲ در میان ۴۴ مدل ارزیابی‌شده در شاخص کلی خود قرار می‌دهد؛ هرچند این پلتفرم نیز نتایج قدرتمند مدل در وظایف مربوط به امنیت سایبری و امور حقوقی و عملکرد متوسط آن در بخش مالی را تأیید می‌کند.

رتبه‌بندی‌های تجمیعی، قابلیت‌های نامرتبط را در قالب یک امتیاز واحد فشرده می‌کنند و این موضوع می‌تواند کارآمدی واقعی مدل برای یک کاربرد خاص را پنهان سازد. افزون بر این، نتایج بسته به نسخه چک‌پوینت، حالت استدلال، ساختار پرامپت، تنظیمات استنتاج، دسترسی به ابزارها و بودجه توکن تغییر می‌کنند. یک ارزیابی محلی و دقیق برای سامانه‌های کدنویسی مبتنی بر ایجنت باید شاخص‌های زیر را بسنجد:

• نرخ تکمیل وظایف در سطح کل مخزن کد و قبولی در آزمون‌های نرم‌افزاری
• موفقیت در کامپایل، اجرا و بازیابی پس از بروز خطاهای ابزاری
• دقت بررسی‌ها و اعتبارسنجی‌های عددی ایجادشده توسط مدل
• تاخیر زمانی، توان عملیاتی، میزان مصرف حافظه و هزینه کل توکن‌ها
• میزان ثبات عملکرد در دفعات تکرار یک وظیفه مشخص
• رفتار مدل تحت همان ساختار کوانتیزه‌سازی و سیستم ارائه‌ای که برای محیط واقعی در نظر گرفته شده است

به گفته Mistral، چک‌پوینت قابل دانلود این مدل نسبت به نسخه پیش‌نمایش، سه هفته آموزش یاد‌گیری تقویتی بیشتری دریافت کرده است. این شرکت اشاره می‌کند که روند بهبود کارایی هنوز به مرحله اشباع نرسیده بود؛ بنابراین مقایسه‌ها باید با ذکر دقیق نسخه چک‌پوینت انجام شود و نتایج نسخه پیش‌نمایش با نسخه نهایی ترکیب نشود.

جایگاه واقعی Large 4 در اکوسیستم هوش مصنوعی

مدل Large 4 گزینه‌ای قابل اعتنا برای تیم‌هایی است که به دسترسی کامل به وزن‌های مدل، امکان استقرار محلی، همکاری با ارائه‌دهنده‌ای مستقر در اتحادیه اروپا، یا عملکرد تخصصی در حوزه‌های کدنویسی و امنیت تدافعی نیاز دارند. محل ذخیره‌سازی داده‌ها در نسخه ابری به منطقه انتخابی و قرارداد تجاری بستگی دارد؛ در حالی که میزبانی محلی، کنترل کاملی روی محل نگهداری پرامپت‌ها، وزن‌های مدل و داده‌های تولیدشده به توسعه‌دهندگان می‌دهد.

تیم‌هایی که در حال حاضر از مدل‌های DeepSeek یا GLM استفاده می‌کنند، بهتر است پیش از مهاجرت، عملکرد Large 4 را روی مخازن کدهای خود و حلقه‌های ایجنتی اختصاصی بیازمایند. مفیدترین ملاک‌ها برای تصمیم‌گیری عبارتند از: اجرای موفق، بازیابی پس از خطا، صحت خروجی‌ها پس از اعتبارسنجی، منابع سخت‌افزاری مورد نیاز و هزینه تمام‌شده کلی. ویدیوی نمایشی شیمی توسط Mistral نشان داد که این مدل توانایی انجام یک فرایند علمی سنگین را دارد؛ اما پذیرش آن در خطوط تولید عملیاتی، به تکرارپذیری این دستاورد در آزمون‌های واقعی و قابل بازبینی وابسته خواهد بود.