سیستم جدید Pando در OpenAI؛ کاهش ۸۰ درصدی تاخیر گیت و انتقال روزانه یک پتابایت داده

شرکت OpenAI جزئیات سیستم Pando را منتشر کرد؛ بک‌اند توزیع‌شده‌ای که اکنون مدیریت مخزن یکپارچه کد (مونورپو) این شرکت را بر عهده دارد. مهندسان و ایجنت‌های هوش مصنوعی Codex همچنان از دستورات آشنایی مانند git push، git fetch و git clone استفاده می‌کنند، اما در پشت صحنه این رابط، Pando اجزای سنتی سرور گیت را با سرویس‌هایی جایگزین کرده است که عملیات نوشتن، متادیتا و ذخیره‌سازی اشیا را به‌شکل افقی مقیاس‌پذیر می‌کنند.

بر اساس گزارش OpenAI، سیستم Pando تاخیر میانه در ثبت تغییرات (پوش) را نزدیک به ۸۰ درصد کاهش داده که معادل پنج برابر بهبود سرعت است؛ این سامانه هم‌چنین با بهره‌گیری از تعداد اندکی هسته پردازشی، روزانه نزدیک به یک پتابایت داده گیت را منتقل می‌کند. پایداری بک‌اند قبلی به زیر ۹۰ درصد سقوط کرده بود؛ زیرا فعالیت هم‌زمان ایجنت‌ها و مهندسان انسانی باعث کندی دریافت اطلاعات، شکست در ادغام کدها و رقابت سنگین برای ثبت داده‌ها می‌شد.

گیت همچنان روی رایانه توسعه‌دهندگان باقی می‌ماند

شرکت OpenAI ریشه مشکلات پایداری خود را در معماری سرور شناسایی کرد، بنابراین تصمیم گرفت رفتار کلاینت و پروتکل تبادل داده گیت را دست‌نخورده حفظ کند. این تفکیک هوشمندانه باعث می‌شود یکپارچگی گیت با ویرایشگرهای کد، اسکریپت‌ها، سیستم‌های یکپارچه‌سازی مداوم (CI) و ایجنت‌های کدنویسی که از پیش با گیت هماهنگ بودند، حفظ شود.

این شرکت نسخه اختصاصی بیلد گیت را روی سیستم توسعه‌دهندگان و درون اپلیکیشن دسکتاپ ChatGPT عرضه می‌کند. کلاینت سفارشی این شرکت می‌تواند فایل‌های فشرده مستقل را به‌صورت هم‌زمان و موازی دانلود و ایندکس کند؛ امری که روند دریافت داده‌ها را به‌شدت تسریع می‌کند، در حالی که تمام دستورات مورد استفاده مهندسان دست‌نخورده باقی می‌مانند.

پایان قفل مشترک برای شاخه‌های مختلف

هر شاخه در گیت با یک مرجع یا اصطلاحاً «Ref» شناخته می‌شود که به یک کامیت مشخص اشاره دارد. سیستم Pando این امکان را فراهم می‌کند که ارسال تغییرات به شاخه‌های گوناگون به‌طور هم‌زمان صورت گیرد، در حالی که ثبت تغییرات روی یک شاخه واحد همچنان به‌صورت متوالی و پشت‌سر‌هم انجام می‌شود تا تاریخچه شاخه دچار تناقض و تداخل نشود.

علاوه بر این، Pando این مراجع را به‌شکل توالی منظمی از نسخه‌ها ثبت می‌کند. این سامانه فرایند تبادل وضعیت «داشته‌ها» و «خواسته‌ها» در گیت را با همین نسخه‌بندی تطبیق می‌دهد و به سرویس اجازه می‌دهد حتی در شرایطی که چندین شاخه به‌شکل هم‌زمان به جلو پیش می‌روند، تاریخچه گمشده و مورد نیاز را بدون اتلاف وقت محاسبه کند.

ظرفیت نوشتن در این ساختار با افزودن نمونه‌های سرور Pando، واحدهای مقیاس‌پذیر ذخیره متادیتا یا فضاهای ذخیره‌سازی داده‌های حجیم (Blob) افزایش می‌یابد. چنین معماری پیشرفته‌ای محدودیت‌های سرور منفرد را که گلوگاه سامانه قبلی بود، به‌کلی برطرف می‌سازد.

فایل فشرده گیت (Packfile) بسته‌ای بهینه‌شده از کامیت‌ها، محتوای فایل‌ها و اشیای مرتبط است. سرورهای سنتی معمولاً برای هر بار درخواست دریافت اطلاعات (Fetch)، یک بسته تازه تولید می‌کنند که این کار بار پردازشی سنگینی به پردازنده تحمیل می‌کند؛ حتی اگر درخواست‌های متعددی تاریخچه‌ای یکسان را طلب کرده باشند.

هنگام دریافت داده‌ها در Pando، کلاینت ابتدا کامیت‌های موجود و کامیت‌های درخواستی را اعلام می‌کند. سپس سرور لینک فایل‌های فشرده ذخیره‌شده‌ای را برمی‌گرداند که دقیقاً تاریخچه ناموجود و وابستگی‌های شاخه را پوشش می‌دهند. بدین ترتیب کلاینت‌های متعدد می‌توانند مجدداً از همان فایل‌ها استفاده کنند؛ رویکردی که فرایند خواندن داده را درست شبیه سازوکار یک شبکه توزیع محتوا (CDN) سازماندهی می‌کند.

ارسال مکرر تغییرات در گام نخست فایل‌های فشرده کوچکی می‌سازد، اما پردازش‌های پس‌زمینه به‌مرور آنها را ادغام کرده و لایه‌های بزرگ‌تری ایجاد می‌کنند. این روند شباهت زیادی به الگوریتم تجمیع داده‌ها در پایگاه‌های داده‌ای مانند RocksDB و LevelDB دارد؛ بدین صورت که عملیات نوشتن فوراً انجام می‌گیرد و سپس پردازش‌های ناهمگام، داده‌ها را برای خواندن بهینه بازآرایی می‌کنند. بر اساس اعلام OpenAI، این ساختار پوششی تا چهار سطح عمق پیدا می‌کند.

بهره‌مندی جامعه جهانی گیت از نوآوری‌های OpenAI

حفظ سازگاری کامل با پروتکل‌ها، تیم OpenAI را وادار کرد مستقیماً روی کدهای مبنای گیت کار کند؛ جایی که مهندسان موفق به کشف چندین باگ در کلاینت و شناسایی فرصت‌های بهبود کارایی شدند. این تغییرات شامل پردازش موازی بسته‌های مستقل و پاک‌سازی خودکار فایل‌ها پس از قطعی یا لغو دانلود است.

شرکت OpenAI اعلام کرده است که این وصله‌های نرم‌افزاری را به مخزن اصلی گیت بازمی‌گرداند. بنابراین، حتی تیم‌هایی که هرگز سیستم Pando را راه‌اندازی نکنند، در نسخه‌های بعدی گیت از بهبودهای سمت کلاینت آن بهره‌مند خواهند شد.

چرا ایجنت‌های هوش مصنوعی زیرساخت قبلی را زمین‌گیر کردند؟

مخزن یکپارچه کد OpenAI که بخش اعظم کدهای شرکت را در خود جای داده، عمدتاً از زبان پایتون تشکیل شده و در کنار آن مجموعه‌ای رو به رشد از سرویس‌های مبتنی بر Rust و زبان Go برای بخش‌هایی نظیر پروکسی‌های شبکه قرار دارد. ایجنت‌های Codex با ایجاد حجم انبوهی از شاخه‌ها، کامیت‌ها و ارسال و دریافت‌های هم‌زمان، بار کاری سرسام‌آوری را به فعالیت مهندسان انسانی اضافه می‌کنند.

• ساخت بسته‌های داده: ایجاد بسته‌های فشرده از اشیا، بخش عظیمی از توان پردازنده را مصرف می‌کرد و معمولاً برای هر درخواست تنها یک ریسه پردازشی به کار گرفته می‌شد.
• هماهنگ‌سازی مراجع: ثبت تغییرات در صف متوالی در کل مخزن معطل می‌ماند، حتی اگر تغییرات برای شاخه‌های کاملاً متفاوتی ارسال شده بودند.
• تکرار بیهوده عملیات: درخواست‌های دریافت کد مدام بسته‌های مشابهی را برای کاربران مختلف از نو می‌ساختند.
• حجم عظیم مخزن: تاریخچه بزرگ و مشترک کدها، هزینه و منابع لازم برای هر عملیات را به‌شدت بالا می‌برد.

سامانه Pando با مدیریت هماهنگ ثبت داده‌ها در سطح تک‌تک شاخه‌ها، ایجاد بسته‌های با قابلیت استفاده مجدد، دانلود موازی کلاینت و مقیاس‌پذیری مستقل فضاهای ذخیره‌سازی متادیتا و داده‌های حجیم، بر تمامی این محدودیت‌ها غلبه کرده است.

چالش‌ها و موانع استقرار برای سایر شرکت‌ها

سیستم Pando فعلاً سامانه‌ای درون‌سازمانی است که منحصراً برای مخزن یکپارچه و زیرساخت اختصاصی OpenAI طراحی شده است. این شرکت هیچ سورس‌کد، پکیج خودمیزبان، رابط برنامه‌نویسی (API) عمومی یا راهنمای استقراری برای آن منتشر نکرده است. راه‌اندازی ساختاری مشابه نیز نیازمند پیاده‌سازی سرویس‌های توزیع‌شده متادیتا، فضاهای ذخیره‌سازی داده‌های حجیم، فرایندهای تجمیع، سامانه‌های پایش و بازیابی پس از خرابی خواهد بود.

از سوی دیگر، آمار کارایی اعلام‌شده مربوط به محیط عملیاتی اختصاصی OpenAI است و نشان نمی‌دهد Pando در برابر سایر مخازن با ساختارها و الگوهای بار کاری متفاوت چه عملکردی خواهد داشت. هم‌چنین در پلتفرم GitHub یک پروژه نامرتبط با همین نام وجود دارد که نباید با این سامانه اشتباه گرفته شود.

الگویی نو برای مخازن کد پر از ایجنت‌های هوش مصنوعی

شرکت OpenAI در حال ارزیابی سیستم Pando برای سایر بخش‌های کاری درون‌سازمانی است؛ جایی که شمار زیادی از ایجنت‌ها از طریق مخزن مشترک گیت با یکدیگر همکاری می‌کنند. افزایش فعالیت ایجنت‌ها ماهیت تقاضا در سیستم‌های کنترل نسخه را دگرگون می‌سازد، چراکه ساخت شاخه‌های هم‌زمان، ارسال تغییرات و دریافت‌های پیاپی کدها را به سطحی بسیار فراتر از الگوهای انسانی می‌رساند.

برای تیم‌های زیرساختی که با چالش‌های مشابهی روبرو هستند، Pando یک الگوی معماری ملموس ارائه می‌دهد: حفظ دستورات و پروتکل‌های استاندارد گیت، هماهنگ‌سازی نوشتن در سطح شاخه‌ها، پیش‌محاسبه بسته‌های فشرده قابل استفاده مجدد، و مقیاس‌پذیری جداگانه متادیتا از فضای ذخیره‌سازی اشیا. تأثیر بیرونی و فوری این پروژه از طریق ارتقای کد منبع گیت نمایان خواهد شد و معماری کلی آن نیز تا زمانی که OpenAI اطلاعات کافی برای پیاده‌سازی همگانی عرضه کند، به‌عنوان یک الگوی مرجع باقی خواهد ماند.