کشف غافلگیرکننده محققان پرینستون: کاهش ۱۰۰ برابری نرخ یادگیری، جلوی خطاهای میلیاردی آموزش هوش مصنوعی را می‌گیرد!

نرخ یادگیری بسیار پایین؛ کلید نجات مدل‌های آزمایشی

تیم‌هایی که مدل‌های زبانی بزرگ را آموزش می‌دهند، معمولاً برای ارزیابی مجموعه‌داده‌ها به سراغ مدل‌های آزمایشی کوچک و کم‌هزینه (Proxy Models) می‌روند و سپس بهترین فرمول را برای آموزش مدل نهایی در مقیاس بزرگ به کار می‌گیرند. حالا در مقاله پیش‌نویسی با عنوان «آیا دوره‌های آموزشی کوچک می‌توانند راهنمای قابل‌اعتمادی برای دست‌چین کردن داده‌ها باشند؟»، پژوهشگرانی از دانشگاه‌های پرینستون، چینهوا (تسینگهوا)، استنفورد، یوسی برکلی و ویرجینیا تک در یک مقاله پژوهشی جدید نشان داده‌اند که تغییرات جزئی در نرخ یادگیری (Learning Rate) می‌تواند رتبه‌بندی دیتاست‌ها را کاملاً زیرورو کند! پیشنهاد این پژوهشگران ساده اما بسیار کارساز است: اجرای مدل‌های آزمایشی با نرخ یادگیری ۱۰ تا ۱۰۰ برابر کم‌تر از حد معمول.

اگر ارزیابی این مدل‌های واسط اشتباه از آب دربیاید، ممکن است میلیون‌ها دلار هزینه آموزش نهایی صرف داده‌هایی کاملاً اشتباه شود. این بررسی نشان می‌دهد که اجرای مدل‌های آزمایشی با نرخ یادگیری بسیار کوچک، تطابق بسیار بالاتری با نتایج مدل‌های بزرگ نهایی دارد؛ یعنی همان مدل‌هایی که ابرپارامترهای آن‌ها به‌طور اختصاصی برای هر دیتاست بهینه‌سازی شده‌اند.

تنظیمات ثابت چطور می‌توانند برنده رقابت را جابه‌جا کنند؟

در آزمایش‌های مرسوم غربال‌گری داده، عواملی مثل معماری مدل، بودجه پردازشی و تنظیمات بهینه‌ساز (Optimizer) برای تمام دیتاست‌های کاندید، ثابت نگه داشته می‌شوند. این روش باعث می‌شود دیتاست‌ها فقط در یک شرایط خاص ارزیابی شوند؛ در حالی که بهترین نرخ یادگیری و تنظیمات بهینه ممکن است برای هر دیتاست متفاوت باشد. در خطوط تولید واقعی هوش مصنوعی، معمولاً پس از انتخاب داده‌ها، مدل نهایی را جداگانه بهینه‌سازی می‌کنند و دقیقاً همین‌جا است که بین ارزیابی مدل آزمایشی و آموزش نهایی یک تضاد بزرگ شکل می‌گیرد.

پژوهشگران برای اثبات این بی‌ثباتی، دیتاست معروف DataComp-LM (موسوم به DCLM) را با نسخه‌ای که پاکسازی شدیدتری روی داده‌های تکراری آن انجام شده بود، روی مدل GPT-2 Small مقایسه کردند. در نرخ یادگیری پایین‌تر، دیتاست DCLM خطای اعتبارسنجی کم‌تر و امتیازات بسیار بهتری در بنچمارک‌های بعدی به دست آورد؛ اما کافی بود نرخ یادگیری کمی بالا‌تر برود تا نسخه دیگر ناگهان در هر دو معیار جلو بیفتد و برنده کاذب شود!