هوش مصنوعی حاکمیتی فقط محل نگهداری داده‌ها نیست؛ حاکمیت واقعی یعنی چه؟

این روز‌ها که پای هوش مصنوعی به خدمات حیاتی و عمومی باز شده، مسئله «حاکمیت بر هوش مصنوعی» به یکی از بزرگ‌ترین و استراتژیک‌ترین دغدغه‌های دولت‌ها تبدیل شده است.

اما اگر به بحث‌ها و گفت‌وگوهای این حوزه نگاه کنید، هنوز خیلی‌ها حاکمیت را صرفاً یک موضوع جغرافیایی می‌دانند؛ اینکه داده‌ها کجا ذخیره می‌شوند، زیرساخت‌ها در کدام کشور میزبانی می‌شوند و آیا اطلاعات از مرزهای ملی خارج می‌شود یا نه؟

این دیدگاه توسط مدیر ارشد بخش عمومی و پلتفرم‌های یکپارچه در مجموعه Exponential-e مطرح شده است.

این پرسش‌ها بدون شک مهم هستند، اما فقط بخشی از ماجرا را نشان می‌دهند. حاکمیت واقعی یعنی حفظ کنترل همه‌جانبه بر کل چرخه عمر هوش مصنوعی؛ از محل ذخیره داده‌ها و شیوه دسترسی به آن‌ها گرفته تا نحوه آموزش، آزمایش و نظارت دقیق بر رفتار مدل‌ها.

برای سازمان‌های دولتی و بخش عمومی، درک این تمایز روزبه‌روز حیاتی‌تر می‌شود. هوش مصنوعی دیگر از مرحله آزمون‌وخطا گذشته و وارد بخش‌هایی شده که هزینه از دست دادن کنترل در آن‌ها، فراتر از یک پاسخ نامناسب از طرف چت‌بات است. بهداشت و درمان، آموزش و بخش‌های حاکمیتی همگی به سیستم‌ها و داده‌هایی متکی هستند که باید همیشه امن، پایدار و پاسخگو باقی بمانند.

حاکمیت هوش مصنوعی باید فراتر از دیتاسنترها باشد

نگهداری اطلاعات در داخل مرزهای یک کشور، به‌خودی‌خود یک سیستم هوش مصنوعی را دارای حاکمیت ملی نمی‌کند. یک سازمان ممکن است داده‌هایش را کاملاً بومی و داخلی ذخیره کند، اما در عمل به مدل‌ها، پلتفرم‌ها یا سرویس‌های خارجی متکی باشد که دسترسی و نظارت محدودی روی آن‌ها دارد. در چنین شرایطی سازمان ممکن است نداند اطلاعات دقیقاً کجا پردازش می‌شوند، مدل‌ها چطور به آن‌ها دسترسی دارند یا در صورت به‌روزرسانی سیستم‌ها چه بلایی سر اطلاعات می‌آید.

اینجا پای دغدغه بسیار بزرگ‌تری به میان می‌آید: وابستگی تکنولوژیک. هرچه ابزار‌های هوش مصنوعی عمیق‌تر وارد خدمات عمومی می‌شوند، تیم‌ها باید نه‌فقط جای ذخیره داده‌ها، بلکه تمام حلقه‌های میانی بین داده‌ها و تصمیم‌های حاصل از آن را بشناسند. حاکمیت به این معناست که روی زیرساخت، اتصالات شبکه، امنیت، داده‌ها و اصول نظارتیِ حاکم بر محیط هوش مصنوعی کنترل و اشراف کامل داشته باشیم.

این مسئله با ورود هوش مصنوعی به فاز خودمختاری، اهمیت دوچندانی پیدا می‌کند. حرکت از دستیارهای متنی ساده به سمت «ایجنت‌ها» که می‌توانند مستقلاً به نمایندگی از سازمان دست به اقدام بزنند، ریسک و اهمیت بازی را بسیار بالا برده است. هرچه ایجنت‌ها خودمختاری بیشتری داشته باشند، دانستن اینکه به چه اطلاعاتی دسترسی دارند، چه تصمیماتی را جهت می‌دهند و مسئولیت نهایی اشتباهات پای چه کسی نوشته می‌شود، به مراتب مهم‌تر خواهد بود.

هوش مصنوعی را پیش داده‌ها ببرید، نه برعکس!

یکی از طلایی‌ترین اصول برای استفاده از هوش مصنوعی در بخش عمومی این است: «هوش مصنوعی را پیش داده‌ها ببرید»؛ نه اینکه به محض نیاز، داده‌های حساس را روانه هر جایی کنیم که سرور‌های هوش مصنوعی مستقر هستند.

این کار نیازمند تغییر زاویه دید به استفاده از هوش مصنوعی است. سازمان‌ها به‌جای اینکه اول یک مدل پرزرق‌وبرق انتخاب کنند و بعد ببینند چه داده‌هایی را می‌توانند به آن متصل کنند، باید ابتدا سراغ خدمتی یا تصمیمی بروند که قصد بهبودش را دارند و مسیر را از انتها به ابتدا طراحی نمایند.

چالش اصلی سازمان‌ها همیشه پیدا کردن بینش و تحلیل نیست، بلکه چگونگی تصمیم‌گیری است. بنابراین، به جای اینکه بخواهیم همه مشکلات را با یک مدل هوش مصنوعی مولد حل کنیم، باید نوع فناوری را دقیقاً متناسب با صورت‌مسئله انتخاب کنیم.

برای دولت‌ها، این رویکرد به معنای نگهداری اطلاعات حساس درون محیط‌های کاملاً کنترل‌شده و اتصال قابلیت‌های مناسب هوش مصنوعی به آن‌ها از طریق زیرساخت‌های امن و قانونمند است. همچنین باید این واقعیت را پذیرفت که هیچ معماری هوش مصنوعی واحدی وجود ندارد که پاسخگوی تمام نیازها باشد.

برخی کاربردها شاید از هوش مصنوعی مولد سود ببرند، اما برای کار‌های دیگر ممکن است اتوماسیون سنتی، یادگیری ماشین کلاسیک یا الگوریتم‌های بهینه‌سازی بسیار کارآمدتر باشند. هدف نهایی نباید پز دادن با جدید‌ترین ابزار روز باشد، بلکه رسیدن به نتیجه‌ای امن، درست و اثربخش است.

حاکمیت و نظارت چیزی نیست که در انتها به سیستم سنجاق شود

باور غلط دیگر این است که حاکمیت را صرفاً یک موضوع امنیت سایبری بدانیم. امنیت مسلماً بنیادی و حیاتی است، اما حاکمیت و نظارت هم به همان اندازه اهمیت دارد. سازمان‌های بخش عمومی باید بتوانند توضیح دهند هوش مصنوعی دقیقاً چه می‌کند، آیا طبق برنامه پیش می‌رود یا نه، و مهم‌تر از همه، نظارت انسانی را در بالا‌ترین سطح حفظ کنند.

این موضوع به این دلیل حیاتی است که سیستم‌های هوش مصنوعی بر پایه احتمالات کار می‌کنند. آن‌ها همیشه با یک ورودی یکسان، خروجی ثابتی تولید نمی‌کنند و خیلی وقت‌ها پاسخ‌هایی به ظاهر قانع‌کننده اما کاملاً اشتباه تحویل می‌دهند. این ماهیت، چالشی کاملاً متفاوت با نرم‌افزارهای سنتی ایجاد می‌کند؛ نرم‌افزارهایی که در آن‌ها یک فرآیند مشخص همیشه خروجی کاملاً معین و یکسانی دارد.

هوش مصنوعی فناوری‌ای نیست که آن را پیاده‌سازی کنیم و به امان خدا رها نماییم؛ بلکه باید به صورت پیوسته تست و رصد شود. این یعنی تیم‌های امنیت، انطباق با قوانین و مدیریت ریسک باید از همان روز اول در پروژه‌های هوش مصنوعی حضور داشته باشند، نه اینکه بعد از اتمام ساخت سیستم از آن‌ها تاییدیه گرفته شود.

این رویکرد مستلزم وضع قوانین شفاف برای دسترسی و مصرف داده‌ها و ایجاد ردپای حسابرسی روشن از عملکرد سیستم‌هاست؛ و از همه مهم‌تر، گنجاندن نظارت انسانی در معماری سیستم از روز نخست پروژه است.

زیرساخت حالا بخشی از استراتژی هوش مصنوعی است

هیچ‌کدام از این اهداف بدون پایه‌ریزی درست ممکن نیست؛ استراتژی هوش مصنوعی حاکمیتی نیازمند محیط‌های ابری امن، ارتباطات شبکه پایدار، امنیت سایبری قدرتمند، معماری داده مناسب و زیرساختی انعطاف‌پذیر است که بتواند بارهای پردازشی متغیر هوش مصنوعی را تحمل کند.

این نکته از آن جهت پراهمیت است که هوش مصنوعی با سرعتی سرسام‌آور پیش می‌رود. بخش عمومی از همین حالا باید تعادلی منطقی میان ابزار‌های توسعه‌یافته داخلی و سرویس‌های در حال دگرگونی غول‌های فناوری برقرار کند. انعطاف‌پذیری بلندمدت، درست به اندازه توان فنی امروز اهمیت دارد.

بخش عمومی باید به این موضوع به چشم یک فرصت استراتژیک نگاه کند، نه فقط یک چالش جدید در حوزه فناوری اطلاعات. ایجاد زیرساخت امن و انعطاف‌پذیر در زمان حال، بستری می‌سازد تا بدون واگذاری کنترل با هر تغییر فناوری، بتوان قابلیت‌های تازه هوش مصنوعی را به خدمت گرفت.

هدف نباید منزوی کردن سازمان‌های دولتی از اکوسیستم گسترده‌تر هوش مصنوعی باشد؛ چنین رویکردی نه واقع‌بینانه است و نه مطلوب. هدف اصلی باید این باشد که سازمان‌ها بتوانند با قواعد و شرایط خودشان در این اکوسیستم مشارکت کنند.

حاکمیت یعنی حفظ کنترل

بلندپروازی‌های بریتانیا در حوزه هوش مصنوعی، به این وابسته است که چقدر می‌تواند فناوری‌های نوین را در مقیاس گسترده پیاده کند و هم‌زمان از داده‌ها، خدمات و شهروندان وابسته به آن‌ها محافظت نماید.

باید نگاهمان را از اینکه داده‌ها صرفاً کجا ذخیره می‌شوند فراتر ببریم. هوش مصنوعی حاکمیتی در نهایت یعنی در دست داشتن کنترل داده‌ها، زیرساخت، سطوح دسترسی، نظارت و تصمیماتی که هوش مصنوعی در اتخاذ آن‌ها نقش دارد.

سازمان‌هایی که از همین حالا این اصول را در استراتژی‌های هوش مصنوعی خود بگنجانند، شانس بسیار بهتری دارند تا از پتانسیل سیستم‌های پیشرفته بهره ببرند؛ بدون اینکه اسیر فناوری‌هایی شوند که توان کنترل و اداره کامل آن‌ها را ندارند.

آینده هوش مصنوعی در بخش عمومی نباید تقابلی میان نوآوری و حاکمیت ملی باشد؛ با پایه‌ریزی زیرساخت‌های درست، می‌توان هر دوی آن‌ها را در کنار هم به دست آورد.