بایت‌دنس دست‌به‌کار شد؛ راه‌اندازی واحد اختصاصی ایمنی و هم‌راستاسازی در آزمایشگاه هوش مصنوعی Seed

بر اساس یک ایمیل داخلی که رسانه چینی پیپر (The Paper) آن را منتشر کرده، آزمایشگاه هوش مصنوعی Seed متعلق به بایت‌دنس، در حال راه‌اندازی دپارتمان اختصاصی جدیدی به نام «هم‌راستاسازی و آمادگی مدل» (Model-Alignment & Preparedness) است. هدایت این بخش تازه را یان لین (Yan Lin) بر عهده خواهد داشت و مستقیماً به وو یونگ‌هوی (Wu Yonghui)، رئیس آزمایشگاه Seed گزارش می‌دهد. همچنین اعضای فعلی تیم «هوش مصنوعی مسئولانه» (Responsible AI) و جمعی از نیروهای تیم چت به این دپارتمان جدید منتقل خواهند شد.

این واحد تازه وظیفه دارد مشخصات رفتاری مدل‌ها، پروتکل‌های ارزیابی ایمنی، آموزش‌های هم‌راستاسازی، سیستم‌های حفاظتی و نظارت بر ریسک را تدوین کند. یکی از اهداف کلیدی این تیم، تقویت توانایی ایجنت‌های هوش مصنوعی برای فعالیت دقیق در چارچوب خواسته‌های انسانی و محدودیت‌های مجاز است؛ علاوه بر این، مهار خطرات احتمالی مدل‌های پیشرفته در حوزه‌های حساسی مانند تهدیدهای شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای (CBRN) نیز در دستور کار این گروه قرار دارد.

آزمایشگاه هوش مصنوعی Seed همچنین قصد دارد همکاری‌های خود را با پژوهشگران بیرونی و ارزیاب‌های مستقل گسترش دهد. با افزایش روزافزون توانمندی و خودمختاری سیستم‌های هوش مصنوعی، این اقدام بایت‌دنس یک پایگاه سازمانی مستقل و متمرکز برای نظارت بر ایمنی و هم‌راستاسازی مدل‌ها به وجود می‌آورد. [گزارش کامل در رسانه The Paper]