معرفی ابزار FlashProve توسط Anthropic؛ راستی‌آزمایی پاسخ‌های هوش مصنوعی بدون افشای وزن‌های مدل

مقدمه

پروژه FlashProve یک پیش‌نمایش تحقیقاتی در زمینه استنتاج قابل‌اثبات است که توسط تیم قرمز مرزی (Frontier Red Team) در شرکت Anthropic و با همکاری پژوهشگرانی از دانشگاه‌های EPFL و MIT توسعه یافته و در تاریخ ۲ نوامبر ۲۰۲۶ به‌صورت متن‌باز منتشر شده است. در این سازوکار، ارائه‌دهنده خدمات هوش مصنوعی ابتدا به وزن‌های مدل متعهد می‌شود و سپس اثبات‌های رمزنگاری دانش‌صفر (zkSNARK) را ضمیمه پاسخ می‌کند تا کاربران بتوانند حتی روی یک پردازنده مرکزی (CPU) معمولی بررسی کنند که پاسخ دقیقاً از همان وزن‌های متعهدشده تولید شده است، بدون آنکه نیازی به افشای وزن‌های مدل باشد.

بر اساس گزارش Anthropic، این سیستم در اجرای مدل Llama 4 Maverick (مدل تخصصی MoE با حدود ۴۰۰ میلیارد پارامتر و کوانتیزاسیون ۴ بیتی) روی یک پردازنده گرافیکی H100 به‌سرعت تولید اثبات حدود ۱۱۰ توکن در ثانیه و حجم اثبات تقریبی ۱۹ مگابایت به ازای هر درخواست ۱۰۲۴ توکنی دست یافته است. این مجموعه شامل ابزار تولید اثبات، یک اعتبارسنج سریع مبتنی بر زبان ++C، اعتبارسنج زبان Lean و گزارش فنی کامل است. مخزن گیت‌هاب این پروژه نیز رسماً به‌عنوان یک دستاورد پژوهشی آزمایشی تحت مجوز Apache-2.0 عرضه شده است.

توضیحات و صورت مسئله

چالش اصلی

کاربران و توسعه‌دهندگانی که از API مدل‌های هوش مصنوعی استفاده می‌کنند، به‌ندرت متوجه می‌شوند که آیا ارائه‌دهنده سرویس به‌صورت پنهانی یک مدل ارزان‌تر و ضعیف‌تر را جایگزین مدل اصلی کرده است یا خیر. ابزار FlashProve پرسش «پاسخ دقیقاً توسط چه مدلی تولید شده است؟» را از طریق تعهدات رمزنگاری و اثبات‌های استنتاج، به یک ادعای قابل راستی‌آزمایی ریاضی تبدیل می‌کند.

محدودیت‌های اعلام‌شده

• طول پنجره زمینه در این نسخه حدود ۱۰۲۴ توکن است و عمدتاً از مسیرهای تولید متن قطعی یا حریصانه پشتیبانی می‌کند.
• هزینه محاسباتی و زمان مورد نیاز پردازنده گرافیکی برای تولید اثبات، حدود ۷۰ تا ۹۵ برابر استنتاج عادی در فریمورک vLLM است.
• معماری مدل پنهان نمی‌شود، بررسی حملات کانال جانبی خارج از دامنه این پژوهش است و پروژه همچنان یک نمونه اولیه تحقیقاتی بدون پشتیبانی فنی مداوم به‌شمار می‌رود.

این ابزار در حال حاضر برای پژوهشگران حوزه امنیت، رمزنگاری و حاکمیت مدل‌های هوش مصنوعی بهترین کاربرد را دارد و هنوز برای استفاده مستقیم در سیستم‌های محاسبه هزینه و صدور صورت‌حساب در محیط‌های سازمانی آماده نیست.

کاربردها

این ابزار برای چه کسانی مناسب است؟

• تیم‌های امنیتی که در حوزه هوش مصنوعی قابل‌راستی‌آزمایی، اثبات‌های zkSNARK و اعتماد به سرویس‌های میزبانی مدل‌ها پژوهش می‌کنند.
• پلتفرم‌هایی که می‌خواهند فرآیند حسابرسی و اطمینان از «اجرای دقیق مدل متعهدشده» را به بوته آزمایش بگذارند.

راهنمای شروع به کار

1. مطالعه گزارش فنی و صفحه اختصاصی پژوهش در نشانی anthropic.com/research/provable-inference.
2. کلون کردن مخزن گیت‌هاب github.com/anthropics/FlashProve و اجرای جریان کاری اثبات‌کننده و فرآیند cp_verify.
3. آزمایش و بازتولید نرخ تأخیر و حجم اثبات روی پیکربندی مستندشده مدل‌های MoE، پیش از تصمیم‌گیری برای ادغام آن در زیرساخت میزبانی سرویس خود.