خط و نشان بانک مرکزی سنگاپور برای فین‌تک‌ها: پروژه‌های هوش مصنوعی بدون ممیزی مستقل ممنوع!

مرجع پولی سنگاپور (MAS) که هم بانک مرکزی این کشوره و هم رگولاتور اصلی صنعت مالی به حساب میاد، خط و نشان تازه‌ای برای فعالان حوزه مالی کشیده و اعلام کرده همه بازیگران این بخش باید پیش از راه‌اندازی و استفاده از هوش مصنوعی، پروژه‌هاشون رو به ممیزی و ارزیابی مستقل بسپارن.

ترکیب مالیات‌های پایین و قوانین سفت و سخت، این کشور جزیره‌ای رو به یکی از برترین و معتبرترین قطب‌های مالی کل دنیا تبدیل کرده است.

یکی از وظایف اصلی مرجع پولی سنگاپور اینه که جایگاه ممتاز این کشور رو حفظ کنه؛ اما حالا این نهاد در اولین سند راهنمای مدیریت ریسک هوش مصنوعی برای مؤسسات مالی که روز چهارشنبه منتشر شد، صراحتاً هشدار داده که هوش مصنوعی ریسک‌ها و خطرات این حوزه رو به شدت بالا می‌بره.

در این راهنما تأکید شده: «استفاده از هوش مصنوعی می‌تونه عملکرد بخش‌های تجاری و عملیاتی رو بهبود بده، اما پیچیدگی و ماهیت احتمالی اون ممکنه به عدم قطعیت بیش‌تر و رفتارهای غیرمنتظره یا جانبدارانه‌تری منجر بشه که تشخیصشون در مقایسه با روش‌های ساده‌تر به مراتب سخت‌تره.»

جالب اینجاست که این فقط دیدگاه این سازمان درباره هوش مصنوعی سنتیه؛ چون این نهاد، هوش مصنوعی مولد رو حتی خیلی خطرناک‌تر و پرریسک‌تر از مدل‌های قبلی ارزیابی کرده است.

رگولاتور سنگاپور هشدار میده: «پیچیدگی به مراتب بالا‌تر هوش مصنوعی مولد باعث میشه که در مقایسه با هوش مصنوعی معمولی، با عدم قطعیت و رفتارهای غیرمنتظره خیلی بیشتری روبه‌رو بشیم.» این نهاد مواردی مثل «نویزهای اجتناب‌ناپذیر داخل داده‌های آموزشی، داده‌هایی که بازتاب‌دهنده واقعیت نیستن، یا مواجه شدن مدل با سناریوهایی که توی داده‌های آموزشی وجود نداشتن» رو از عوامل اصلی این خطرات می‌دونه.

علاوه بر این، این رگولاتور نگران اینه که ایجنت‌های هوش مصنوعی (Agentic AI) حتی «این خطرات رو چند برابر کنن.»

به همین خاطر، مرجع پولی سنگاپور از همه مؤسسات مالی خواسته تا چارچوب‌های مدیریت ریسک خودشون رو گسترش بدن تا هوش مصنوعی رو هم پوشش بده؛ همچنین از هیئت‌مدیره و مدیران ارشد توقع داره که خودشون شخصاً پای کار بیان و اجرای این موضوع رو تضمین کنن.

این رگولاتور مالی همچنین تأکید کرده که تمام موارد استفاده از هوش مصنوعی باید قبل از ورود به فاز عملیاتی، حتماً از زیر تیغ یک بررسی و ممیزی مستقل رد بشن.

در این راهنما اومده: «پیش از استقرار، هر مؤسسه مالی باید پروژه‌های هوش مصنوعی، از جمله سیستم‌ها و مدل‌های زیربنایی اون رو توسط افرادی خارج از تیم توسعه بررسی و ممیزی کنه تا مطمئن بشه کنترل‌های لازم مثل ارزیابی و تست به‌طور کامل رعایت شدن.» این نهاد نظارتی همچنین از مؤسسات خواسته تا بازبینی‌های فنی و امنیت سایبری رو هم اجرا کنن «تا مطمئن بشن هوش مصنوعی به شکلی کاملاً کنترل‌شده و امن وارد محیط عملیاتی میشه.»

حتی اگه یک پروژه هوش مصنوعی از سد همه این ممیزی‌ها به سلامت عبور کنه، کار تموم نیست! رگولاتور سنگاپور خواهان نظارت مداوم و لحظه‌ای، هم روی سیستم‌های اختصاصی خود مؤسسات و هم روی هوش مصنوعی‌های شرکت‌های ثالثه که به عنوان سرویس ازشون استفاده میشه.

در متن سند اومده: «با توجه به عدم قطعیت‌های مرتبط با هوش مصنوعی، ماهیت پویا و احتمال افت عملکرد یا فرسودگی مدل به خاطر تغییر تدریجی داده‌ها یا رفتار مدل‌ها (Data Drift)، نظارت مستمر نقش حیاتی داره تا مطمئن بشیم هوش مصنوعی مستقرشده همون‌طور که انتظار میره کار می‌کنه و در طول زمان هم کارایی خودش رو از دست نمیده.»

نکته مهم اینجاست که مرجع پولی سنگاپور به هیچ وجه خرابی یا خطای ارائه‌دهندگان متفرقه هوش مصنوعی رو به عنوان عذر موجه نمی‌پذیره و اعلام کرده مؤسسات مالی خودشون باید محصولات و سرویس‌های تأمین‌کنندگان رو زیر نظر بگیرن تا از پایداری و امنیت اون‌ها مطمئن بشن.

این رگولاتور در بیانیه رسمی خود توضیح داده: «مسئولیت نهایی هوش مصنوعی مورد استفاده در خدمات ارائه‌شده، از جمله سیستم‌هایی که توسط شرکت‌های ثالث توسعه یافته، مدیریت یا تأمین میشن، مستقیماً بر عهده خود مؤسسات مالیه. مؤسسات باید از ارائه‌دهندگان متفرقه ضمانت‌های کافی بگیرن، ارزیابی کنن که آیا این ابزار‌ها برای اهداف مدنظر مناسب هستن یا نه، و در صورت وجود محدودیت یا ریسک، کنترل‌های جبرانی در نظر بگیرن. اگه ریسک‌ها در محدوده تحمل ریسک مؤسسه نباشه، باید محدود کردن، تعلیق یا تعویض اون سرویس خارجی رو جدی بگیرن.»

علاوه بر این، رگولاتور سنگاپور از مؤسسات خواسته تا یک فهرست کامل و همیشه به‌روز از تمام سیستم‌های هوش مصنوعی مورد استفاده در کسب‌وکارشون تهیه کنن. اگه این کار به خاطر استفاده پنهانی سرویس‌های متفرقه از هوش مصنوعی ممکن نباشه، مؤسسات باید راهکارهایی پیدا کنن تا خطرات ناشی از هوش مصنوعی‌های ناشناخته و غیرشفاف رو مهار کنن.

یکی دیگه از بندهای کلیدی این راهنما، مؤسسات رو موظف می‌کنه برای هوش مصنوعی‌های به کار رفته در برنامه‌های پرریسک، برنامه‌های اضطراری و گزینه‌های جایگزین آماده کنن. این برنامه‌ها باید شامل «سیستم‌های جایگزین یا فرایندهای دستی باشن تا در صورت خرابی هوش مصنوعی یا رفتارهای پیش‌بینی‌نشده، تداوم فعالیت کسب‌وکار متوقف نشه.»

این دستورالعمل‌های نظارتی قرار است از تاریخ ۷ اکتبر ۲۰۲۷ به‌طور رسمی اجرایی شوند.