تلاش دانشمندان برای مهار سلاح‌های زیستی با واترمارک هوش مصنوعی؛ آیا سپر جدید دیپمایند کارساز است؟

با پیشرفت هوش مصنوعی (AI)، دانشمندان اکنون ابزاری فوق‌العاده قدرتمند برای طراحی پروتئین‌هایی در اختیار دارند که پیش از این هرگز در طبیعت دیده نشده‌اند؛ مولکول‌هایی شگفت‌انگیز که هم می‌توانند برای ساخت داروهای انقلابی به کار بروند و هم پتانسیل تبدیل‌شدن به سلاح‌های بیولوژیکی ویرانگر را دارند.

پژوهشگران برای جلوگیری از سوءاستفاده‌های خطرناک از این پروتئین‌ها، به‌تازگی روشی ابداع کرده‌اند تا بدون افت کارایی و عملکرد مولکول، روی آن «واترمارک» یا نشانه نامرئی بگذارند. تیمی از دانشمندان گوگل دیپمایند این تکنیک نوین را توسعه داده‌اند تا بتوان منشأ و ردپای پروتئین‌های طراحی‌شده با هوش مصنوعی را با دقت بالاتری رهگیری کرد.

روی اسلیتور، استاد زیست‌شناسی دانشگاه فناوری مونستر ایرلند که نقشی در این پژوهش نداشته است، در این رابطه می‌گوید: «این فناوری ظرفیت آن را دارد که تهدیدهای امنیت زیستی، از جمله تولید غیرمجاز سموم خطرناک را کاهش دهد و با جلوگیری از سرازیرشدن سازه‌های مصنوعی به پایگاه‌های داده استاندارد، به ساماندهی این منابع علمی کمک کند.»

اسلیتور در گفت‌وگویی ایمیلی توضیح داد: «در میدان عمل، این راهکار می‌تواند به ردیابی خاستگاه طراحی پروتئین کمک کند، پروتئین‌های مهندسی‌شده را برای بررسی‌های بیشترِ امنیت زیستی علامت‌گذاری نماید و ادعاهای گمراه‌کننده درباره نحوه ساخت یک پروتئین را کاهش دهد.»

با این حال، سایر کارشناسان هشدار می‌دهند که در وضعیت فعلی، همان فناوری‌های هوش مصنوعی که این واترمارک‌ها را اعمال می‌کنند، می‌توانند به همان سادگی آن‌ها را حذف و ناپدید کنند.

روش‌های نوین برای پنهان‌سازی واترمارک پروتئین‌ها

رونمایی از مدل هوش مصنوعی آلفافولد (AlphaFold) در سال ۲۰۲۰ نقطه عطفی تاریخی در مهندسی پروتئین بود. این ابزار قدرتمند که جایزه نوبل شیمی سال ۲۰۲۴ را برای دمیس هاسابیس، جان جامپر و دیوید بیکر به ارمغان آورد، می‌تواند ساختار سه‌بعدی هر پروتئین را تنها بر اساس توالی بلوک‌های سازنده آن یعنی آمینواسیدها پیش‌بینی کند. پروتئین‌ها مانند هنر اوریگامی تا می‌خورند و شکل سه‌بعدی خاصی به خود می‌گیرند؛ شکلی هندسی که عملکرد بیولوژیکی آن‌ها را تعیین می‌کند.

با این همه، فناوری پیشرفته آلفافولد مسیر را برای تولید پروتئین‌های کاملاً جدیدی هموار ساخت که می‌توانند برای خلق تهدیدهای بیولوژیکی به کار گرفته شوند؛ از جمله پروتئین‌های ویروسی خطرناکی که توانایی گریز از سیستم ایمنی بدن و واکسن‌های کنونی را دارند.

جرج رز، استاد بازنشسته بیوفیزیک در دانشگاه جانز هاپکینز، در این باره می‌گوید: «هر فناوری نوینی که برای اهداف خیر و سازنده به کار می‌رود، می‌تواند در مسیر اهداف پلید و مخرب نیز استفاده شود.»

ابزارهای غربالگری فعلی، مولکول‌های خطرناک یا مشکوک جدید را از طریق بررسی شباهت توالی آمینواسیدی آن‌ها با عوامل بیماری‌زای شناخته‌شده تشخیص می‌دهند. چالش اصلی اینجاست که هوش مصنوعی مولد می‌تواند پروتئین‌هایی بسازد که از نظر ساختاری هیچ شباهتی به داده‌های ثبت‌شده قبلی ندارند؛ چالشی اساسی که تکنیک نوین واترمارک‌گذاری درصدد برطرف‌کردن آن برآمده است.

تیم گوگل دیپمایند پروژه واترمارک‌گذاری خود را در قالب «خانواده‌ای» از روش‌های به‌هم‌پیوسته با عنوان SynthIDBio تعریف کرده است. نخستین عضو این خانواده، روش SynthIDBio-sequence نام دارد که واترمارک‌های نامرئی را مستقیماً درون توالی آمینواسیدهای تولیدشده توسط برنامه‌ای موسوم به ProteinMPNN کدگذاری می‌کند.

هنگامی که کاربران ساختار سه‌بعدی دلخواه خود را به برنامه ProteinMPNN می‌دهند، این سامانه آمینواسیدهایی را انتخاب می‌کند که در نهایت به همان شکل هندسی تا می‌خورند. در این میان، الگوریتم SynthIDBio-sequence بر اساس یک «کلید» پنهان واترمارک، سوگیری نامحسوسی در روند انتخاب آمینواسیدها ایجاد می‌کند. پس از تولید توالی، هر کاربری که این کلید رمزشده را در اختیار داشته باشد، می‌تواند بررسی کند که آیا توالی مورد نظر با اثرانگشت این کلید ساخته شده است یا خیر. پژوهشگران دیپمایند در مطالعات اخیر خود اثبات کردند که پروتئین‌های دارای این واترمارک درست مانند نسخه‌های فاقد نشانه، با دقت بالا به اهداف درمانی یا گیرنده‌های زیستی خود متصل می‌شوند.

روش دوم این مجموعه که SynthIDBio-structure نام گرفته است، به‌جای توالی خطی، واترمارک را مستقیماً در تاروپود ساختار فیزیکی پروتئین جاسازی می‌کند. این فرآیند با اصلاح عملکرد الگوریتم پرچمدار پیش‌بینی پروتئین دیپمایند، یعنی AlphaFold 3، محقق می‌شود.

هنگامی که آلفافولد ساختار یک پروتئین را پیش‌بینی می‌کند، راهکار SynthIDBio-structure مأموریتی جانبی به آن محول می‌سازد: این هوش مصنوعی باید تغییراتی فوق‌العاده جزئی در نحوه چیدمان اتم‌های پروتئین ایجاد کند؛ تغییرات ظریفی که بعداً توسط ابزارهای آشکارساز قابل‌ردیابی هستند، اما آن‌قدر ناچیزند که هیچ اختلال یا تغییر شکل ملموسی در ماهیت مولکول ایجاد نمی‌کنند.

در آزمون‌های ارزیابی، این دو سیستم واترمارک‌های پنهانی ایجاد کردند که با دقتی خارق‌العاده قابل‌تشخیص بود؛ این فناوری توانست بیش از ۹۹ درصد از پروتئین‌های نشانه‌گذاری‌شده را شناسایی کند و ۹۹٫۹ درصد از پروتئین‌های معمولی و بدون نشانه را به درستی دست‌نخورده باقی بگذارد.

چگونه می‌توان واترمارک پروتئین‌ها را دور زد؟

گفت‌وگو با چندین کارشناس مستقل نشان می‌دهد که اگرچه فناوری SynthIDBio یک دستاورد فنی درخشان و تحسین‌برانگیز به شمار می‌رود، اما هنوز برای به‌کارگیری سراسری در صنایع زیستی و زنجیره‌های تأمین آماده نیست.

بروس ویتمن، دانشمند ارشد هوش مصنوعی کاربردی در مایکروسافت، در مکاتبه‌ای ایمیلی خاطرنشان کرد که این دو تکنیک «کارآمد اما به‌شدت شکننده‌اند»؛ چراکه همان‌طور که تیم دیپمایند نیز در مقاله خود اذعان داشته، این واترمارک‌ها را می‌توان به آسانی پاک کرد.

ویتمن توضیح می‌دهد: «در توالی‌ها، واترمارک را می‌توان از طریق بازتوالی‌یابی (Resequencing) حذف کرد؛ یعنی تغییر توالی آمینواسیدهای پروتئین به نحوی که واترمارک دیگر قابل‌تشخیص نباشد. در بخش ساختارها نیز می‌توان با افزودن نویز محاسباتی یا دستکاری مختصات فضایی پروتئین، واترمارک را خنثی کرد.» در چنین سناریویی، ابزارهای غربالگری متوجه نخواهند شد که آیا واترمارک از روی پروتئین پاک شده است یا خیر.

کارشناسان همچنین با تردید به این موضوع نگاه می‌کنند که آیا نشانه پنهان می‌تواند راهکاری پایدار و بلندمدت برای حفظ امنیت زیستی باشد یا خیر.

مکس براکمن، کارشناس تسلیحات شیمیایی، بیولوژیکی، پرتوی و هسته‌ای در آزمایشگاه اشپیتس سوئیس، یادآور می‌شود که یک واترمارک پاک‌نشدنی شاید بتواند هویت سازنده اصلی یک پروتئین خطرناک یا دسترسی غیرمجاز کاربر به نرم‌افزارهای طراحی پروتئین را فاش کند و تا حدی بازدارنده مجرمان عادی باشد، اما تروریست‌هایی که به دنبال ساخت پروتئین‌های ناشناخته برای سلاح‌های بیولوژیکی هستند، پس از اجرای یک حمله موفق به‌ندرت نگران شناسایی‌شدن هویت خود خواهند بود.

علاوه بر این، بخش عمده‌ای از نرم‌افزارهای پیش‌بینی و طراحی پروتئین به‌صورت متن‌باز (Open-source) عرضه می‌شوند؛ یعنی کدهای منبع به رایگان در دسترس همگان قرار دارد و هر کسی می‌تواند آن‌ها را دستکاری کند. همین امر اعمال اجباری واترمارک را در دل این برنامه‌ها بسیار دشوار می‌سازد. ویتمن هشدار می‌دهد که برای تبدیل واترمارک به یک استاندارد صنعتی فراگیر، شاید کل این اکوسیستم مجبور شود به سمت مدل‌های انحصاری و کدبسته حرکت کند.

او می‌افزاید که واترمارک‌گذاری می‌تواند صرفاً یک لایه دفاعی تکمیلی در سپر امنیت زیستی باشد، نه یک سپر حفاظتی مستقل و همه‌جانبه. اعمال مقررات و قوانین دستوری از بالا به پایین نیز چالش‌های سنگینی خواهد داشت: «تصور می‌کنم حصول اطمینان از پایبندی همه بازیگران به این مقررات، فوق‌العاده دشوار خواهد بود.»

جرج رز حتی صریح‌تر و بی‌پرده‌تر درباره کنترل قانونی ابزارهای هوش مصنوعی مولد پروتئین سخن می‌گوید.

او در جمع‌بندی دیدگاه خود می‌گوید: «من متقاعد شده‌ام که این رویکرد به نتیجه نخواهد رسید؛ هر زمان که فناوری جذاب و شگفت‌انگیزی پا به عرصه بگذارد و کاری خارق‌العاده انجام دهد، تلاش دولت‌ها برای محدود نگه‌داشتن و مهار آن هرگز با موفقیت واقعی همراه نبوده است.»