هوش مصنوعی مستقل فقط محل نگهداری داده‌ها نیست؛ ضرورت کنترل کامل بر تمام لایه‌های زیرساخت

با گسترش روزافزون استفاده از هوش مصنوعی در سراسر جهان، پرسش‌های مهمی درباره منشأ داده‌های آموزشی، مالکیت آن‌ها و نحوه محافظت سازمان‌ها از اطلاعات حساس مطرح شده است. این موضوع در حوزه «هوش مصنوعی مستقل» (Sovereign AI) قرار می‌گیرد؛ مفهومی که بر حفاظت از داده‌ها، شیوه استفاده از آن‌ها و نتایج حاصل تمرکز دارد و هم‌زمان با خروج هوش مصنوعی از مرحله آزمایشی و استقرار آن در سطح کشورها و قاره‌ها، اهمیتی دوچندان یافته است.

هوش مصنوعی مستقل فراتر از محل ذخیره‌سازی فیزیکی داده‌ها، در واقع پاسخی به این پرسش است که چه کسی توانمندی‌های هوش مصنوعی یک سازمان یا منطقه را کنترل می‌کند. در عمل، تحقق این هدف نیازمند تسلط کامل بر تمام لایه‌های زیرساخت، اعم از نرم‌افزار و سخت‌افزار، در کنار تدوین سیاست‌های شفاف درباره دسترسی به داده‌ها، مدیریت زیرساخت و نصب نرم‌افزارها است.

از آنجا که قوانین و شیوه‌های حفاظت از داده در نقاط مختلف دنیا و حتی در میان کشورهای اروپایی تفاوت‌های چشمگیری دارند، مدیریت دقیق جریان‌های داده و خطوط لوله پردازشی باید به درستی درک و رعایت شود.

اگرچه هوش مصنوعی مستقل اغلب در سطح کشورها و دولت‌ها مورد بحث قرار می‌گیرد، اما همین قوانین و فرایندها برای شرکت‌ها و سازمان‌های بزرگ نیز کاربرد دارند. برای این سازمان‌ها، پرسش‌های مربوط به مکان داده‌ها، مالکیت و انتقال آن‌ها حتی پیچیده‌تر است.

مکان فیزیکی داده تنها بخشی از ماجرا است

تاکنون توجه عمده بر محل استقرار فیزیکی مراکز داده متمرکز بوده است، اما برای ارزیابی واقعی زیرساخت‌های مستقل، باید نگاهی دقیق‌تر به اجزای تشکیل‌دهنده این مراکز انداخت.

تشخیص مکان فیزیکی معمولاً کار آسانی است، اما امروزه بسیاری از ارائه‌دهندگان، زیرساخت‌های چندابری را مدیریت می‌کنند که در آن‌ها مراکز داده با شبکه‌های پرسرعت به یکدیگر متصل هستند؛ بنابراین ممکن است یک ارائه‌دهنده ابری هنگام کمبود ظرفیت، بار کاری پردازش‌ها را میان مراکز مختلف خود جابه‌جا کند. در چنین شرایطی، سازمان‌ها نیازمند اطمینان قطعی هستند که برنامه‌ها و داده‌هایشان دقیقاً در همان موقعیت مشخص‌شده باقی می‌مانند.

اگر داده‌های اختصاصی مربوط به پردازش‌های هوش مصنوعی در اختیار یک ارائه‌دهنده ابری باشد، کاربر نهایی ممکن است از مکان دقیق تجهیزات ذخیره‌سازی اطلاعی نداشته باشد. افزون بر این، حتی اگر موضوع مکان را کنار بگذاریم، مسئله اصلی «کنترل» است: اگر داده‌های متعلق به یک کشور در کشوری دیگر ذخیره شود، چه کسی تصمیم می‌گیرد که این داده‌ها برای چه مقاصدی استفاده شوند یا اجازه عبور از مرزها را دارند یا خیر؟ این پرسش زمانی پیچیده‌تر می‌شود که شرکتی در چند کشور یا منطقه شعبه داشته باشد.

بارهای کاری سنتی مانند سامانه‌های برنامه‌ریزی منابع سازمانی (ERP)، سیستم‌های انبارداری و منابع انسانی، معمولاً داده‌ها را در یک پایگاه داده مرکزی نگهداری می‌کنند که دسترسی به آن از راه دور انجام می‌شود. اما هوش مصنوعی ماهیت متفاوتی دارد؛ کاربران بسیار پراکنده‌اند و فرایند استنتاج مدل‌ها به‌شکل روزافزونی روی دستگاه‌های لبه، مانند گوشی‌های هوشمند، خودروها و سیستم‌های صنعتی اجرا می‌شود. این دستگاه‌ها به‌جای دریافت ساده خروجی‌های پردازش‌شده، اغلب نیازمند دسترسی مستقیم به داده‌های زیربنایی و خروجی‌های مدل آموزش‌دیده هستند.

با جابه‌جایی مدل‌ها و داده‌های اختصاصی میان زیرساخت مرکزی، مراکز داده منطقه‌ای و محیط‌های لبه، ممکن است داده‌ها از شبکه‌ها و سیستم‌های ذخیره‌سازی متعددی عبور کنند. پاسخ به این پرسش که چه کسی مالک داده‌های در حال انتقال است، به‌ویژه هنگام عبور از مرزهای جغرافیایی، مسئله‌ای است که هر سازمانی در مسیر گسترش استنتاج هوش مصنوعی باید پاسخی روشن برای آن بیابد.

ارزیابی لایه‌به‌لایه حاکمیت و استقلال در هوش مصنوعی

هوش مصنوعی مدرن نیازمند توان پردازشی عظیم، ورودی و خروجی داده با کارایی بالا و شبکه‌سازی پرسرعت است؛ اجزایی بنیادین که باید تحت مجموعه‌ای هماهنگ از قوانین، فرایندها و دستورالعمل‌ها در کنار هم کار کنند. زیرساخت هوش مصنوعی یک سازمان ممکن است سرورهای قدرتمند در یک نقطه، دستگاه‌های لبه در نقطه‌ای دیگر و ارتباطات فرامرزی میان آن‌ها را به یکدیگر پیوند دهد.

سرنوشت خود داده‌ها؛ محل استقرار، تمرکز و فرمت ذخیره‌سازی

مالکیت داده اهمیتی هم‌پای محل استقرار آن دارد. مالکیت داده در یک سازمان ممکن است در اختیار یک واحد تجاری خاص، بخش انطباق با قوانین یا مدیران ارشد باشد. با فراتر رفتن از مسئله داده، پرسش‌های دیگری پیش می‌آید: چه کسی تصمیم می‌گیرد کدام مرکز داده یک وظیفه آموزشی خاص را اجرا کند، به‌ویژه زمانی که یک زمان‌بند مرکزی ده‌ها مرکز مختلف را برای بهینه‌سازی ظرفیت و عملکرد مدیریت می‌کند؟

آیا امکان تغییر دستی این تصمیمات خودکار وجود دارد؟ آیا باید استفاده از برخی داده‌ها را به اهداف آموزشی مشخصی محدود کرد؟ و آیا در دسترس قرار دادن داده‌های ویژه برای برخی از ارائه‌دهندگان، ارزش تجاری برای سازمان خلق می‌کند؟

با توجه به اینکه داده‌های آموزشی از منابع مختلف در سراسر جهان جمع‌آوری می‌شوند، سازمان‌ها به چارچوب حاکمیتی شفافی نیاز دارند تا مشخص کند کدام منابع قابل اعتماد هستند، چه کسانی مجوز استفاده از آن‌ها را صادر می‌کنند و الزامات نظارتی یا سیاسی منطقه‌ای چگونه بر این تصمیمات اثر می‌گذارند. این چارچوب باید مسئولیت‌پذیری را در سطوح سازمانی و فردی مشخص کند و سوابقی شفاف از منشأ داده‌ها، شیوه استفاده از آن‌ها و دریافت مجوزهای لازم ارائه دهد.

همین اصول باید در تمام بخش‌های زیرساخت پیاده‌سازی شوند. سازمان‌ها نیازمند تعیین دقیق مالکیت محیط آموزش، وزن‌های مدل و تصمیمات مربوط به استقرار هستند؛ همراه با کنترل‌هایی که مشخص کنند چه کسانی و از چه حوزه قضایی می‌توانند این سیستم‌ها را مدیریت کنند. کاربران هوش مصنوعی شاید نیازی به آگاهی از تمام جزئیات فنی نداشته باشند، اما باید منشأ، شیوه مدیریت و محل سیستم‌هایی را که داده‌های حساس و مالکیت فکری آن‌ها را پردازش می‌کنند به روشنی بشناسند.

تحقق هوش مصنوعی مستقل تنها به محل میزبانی زیرساخت وابسته نیست، بلکه به حفظ نظارت و کنترل قابل حسابرسی بر داده‌ها، مدل‌ها، پلتفرم‌ها و افراد درگیر در سراسر چرخه حیات هوش مصنوعی بستگی دارد.

چالش دیگر، اثبات این موضوع است که خروجی‌های یک سیستم هوش مصنوعی مبتنی بر داده‌های آموزشی قانونی هستند، در حالی که هم‌زمان باید اطمینان حاصل شود که داده‌ها در لایه‌های مختلف زیرساخت محافظت شده و تنها در دسترس افراد مجاز قرار می‌گیرند. ارائه‌دهنده ابری Verda در اروپا نمونه‌ای از پیاده‌سازی عملی این رویکرد است؛ زیرساخت این شرکت در مراکز داده کشورهای نوردیک مستقر شده و به مشتریان امکان می‌دهد سخت‌افزار و نرم‌افزار را متناسب با الزامات عملیاتی و قانونی خود پیکربندی کنند.

این پلتفرم به سازمان‌های بخش خصوصی و عمومی خدمات می‌دهد و ابزارهای نظارتی آن برای پاسخگویی به الزامات مقررات عمومی حفاظت از داده اروپا (GDPR)، قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) و ضوابط خاص هر صنعت طراحی شده‌اند. این قابلیت‌ها شامل ماشین‌های مجازی محرمانه، محیط‌های اجرای امن و مبتنی بر سخت‌افزار، و رمزنگاری حافظه پردازنده‌های اصلی (CPU) و گرافیکی (GPU) در کنار رمزنگاری داده‌ها در حال انتقال و در حالت سکون است.

درس بزرگی که می‌توان از موفقیت Verda گرفت این است که هوش مصنوعی مستقل به گنجاندن حاکمیت، امنیت و نظارت قانونی در کل چرخه حیات سیستم متکی است، نه اینکه محل فیزیکی داده‌ها را تنها معیار استقلال در نظر بگیریم.

حاکمیت عملیاتی؛ فراتر از رعایت ساده قوانین و مقررات

هوش مصنوعی اکنون به یک زیرساخت حیاتی برای شرکت‌ها در سراسر جهان تبدیل شده است و رعایت قوانین محلی باید از همان ابتدا یک اصل معماری باشد، نه مسئله‌ای که پس از راه‌اندازی مرکز داده به آن پرداخته شود. یک مرکز داده مستقل باید از مرحله طراحی تا اجرا و پردازش مداوم بار کاری، به تعهدات حاکمیت عملیاتی خود پایبند بماند.

پس از راه‌اندازی، حاکمیت مستقل می‌تواند به مراکز داده کمک کند تا در برابر اختلالات تجاری مانند رکود اقتصادی، تحولات یا تنش‌های ژئوپلیتیکی، و تغییرات فنی نظیر ورود تراشه‌ها، مدل‌ها و معماری‌های جدید، همچنان فعال و پایدار باقی بمانند.

مفهوم استقلال و حاکمیت بیش از آنکه به معنای حذف مطلق تمام وابستگی‌های خارجی باشد، بر تاب‌آوری تمرکز دارد؛ زیرا در بحران‌های شدیدی همچون جنگ، خطر آسیب دیدن زیرساخت‌ها همواره وجود دارد. هدف اصلی، شناخت دقیق وابستگی‌ها، تصمیم‌گیری درباره موارد قابل پذیرش و جلوگیری از تمرکز غیرضروری ریسک‌ها است.

تصمیمات فنی در طراحی و بهره‌برداری می‌تواند مانع از وابستگی انحصاری به یک تأمین‌کننده (Vendor Lock-in) شود و به مرکز داده امکان دهد حتی در صورت قطع همکاری تجاری، به فعالیت خود ادامه دهد. اتکا به یک عرضه‌کننده واحد برای فناوری‌های حیاتی بسیار پرخطر است؛ چراکه تحولات ژئوپلیتیکی ممکن است به وضع تعرفه‌ها یا محدودیت‌هایی منجر شود که دادوستد با شرکت‌های برخی کشورها را ناممکن سازد.

مدیران مراکز داده به زیست‌بومی وابسته هستند که تعداد تأمین‌کنندگان سرور، تجهیزات ذخیره‌سازی و منابع تغذیه در آن محدود است. زنجیره‌های تأمین حتی زمانی که یک تأسیسات در یک نقطه جغرافیایی مستقر است، ماهیتی جهانی دارند؛ موضوعی که هزینه‌ها را بهینه‌سازی می‌کند اما به این معناست که کنترل همه بخش‌ها ممکن نیست؛ بنابراین، شناخت نقاط تمرکز ریسک اهمیت حیاتی دارد. در میان هزاران قطعه از صدها تأمین‌کننده، عملکرد روان یک سیستم ممکن است همچنان به گروه کوچکی از شرکت‌ها وابسته باشد.

استانداردهای باز و پروتکل‌های رسمی با کاهش وابستگیِ سازگاری سیستم‌ها به یک تأمین‌کننده واحد و تسهیل جابه‌جایی بارهای کاری میان فناوری‌ها و محیط‌های گوناگون، این ریسک را کاهش می‌دهند. این رویکرد به نوبه خود، اعتماد به مراکز داده مستقل را به‌عنوان زیرساختی تاب‌آور تقویت می‌کند.

اعتمادسازی با کنترل واقعی؛ نه فرضیات و وعده‌ها

ایجاد اعتماد به هوش مصنوعی مستقل وابسته به این است که سازمان‌ها دقیقاً بدانند چه کسانی، تحت چه شرایطی و با چه سطح نظارتی می‌توانند به داده‌ها، زیرساخت‌ها و محیط‌های عملیاتی آن‌ها دسترسی داشته باشند. دسترسی‌های دارای امتیاز ویژه باید به شکلی سخت‌گیرانه مدیریت شوند، مسئولیت‌ها به وضوح مشخص و مستند گردند و نظارت بر آن‌ها در سطوح عالی سازمانی مانند مدیر ارشد فناوری اطلاعات (CIO) یا مدیر ارشد انطباق قرار گیرد.

این مسئله به‌ویژه زمانی اهمیت پیدا می‌کند که پردازش‌های هوش مصنوعی شامل داده‌های اختصاصی، پرامپت‌ها، خروجی‌های مدل یا مجموعه‌داده‌های بهینه‌سازی و تنظیم دقیق (Fine-tuning) باشند که ممکن است اطلاعات تجاری حساس درباره محصولات، مشتریان یا فرایندهای داخلی سازمان را فاش کنند.

سیاست‌گذاری‌ها و آموزش کارکنان همچنان اهمیت دارند، اما این موارد باید با کنترل‌های فنی و عملیاتی تقویت شوند. سازمان‌ها نیازمند تضمین‌های شفاف هستند مبنی بر اینکه داده‌های آن‌ها بدون اجازه صریح، ذخیره نمی‌شود، مجدداً مورد استفاده قرار نمی‌گیرد و وارد فرایند آموزش مدل‌های ارائه‌دهنده خدمات نخواهد شد.

ابزارهایی همچون مدیریت سطوح دسترسی، رمزنگاری پیشرفته، ثبت وقایع (Logging)، جداسازی بارهای کاری و تنظیمات نگهداری داده می‌توانند ضامن اجرای این انتظارات باشند. هم‌زمان، فرایندهای مستندسازی‌شده باید نشان دهند که چه کسی هر بخش از محیط هوش مصنوعی را کنترل می‌کند، خطرات زنجیره تأمین در کجا قرار دارند و کدام قوانین منطقه‌ای بر داده‌ها حاکم هستند.

با در نظر گرفتن این موارد، مقوله حاکمیت در ارزیابی زیرساخت‌های هوش مصنوعی به همان اندازه عملکرد، مقیاس‌پذیری و هزینه حائز اهمیت است. ارائه‌دهندگان هوش مصنوعی مستقل باید بتوانند در عمل نشان دهند، نه آنکه صرفاً ادعا کنند، چگونه از داده‌ها محافظت می‌کنند و بارهای کاری را در تمامی لایه‌های سخت‌افزاری و نرم‌افزاری مدیریت می‌نمایند.

برای سازمان‌هایی که به شکلی فزاینده به هوش مصنوعی به‌عنوان زیرساختی حیاتی متکی هستند، شفافیت در مالکیت، کنترل‌های قابل حسابرسی و فرایندهای هماهنگ، نقشی محوری در ایجاد اعتماد و پذیرش گسترده‌تر این فناوری ایفا خواهد کرد.