با زبان برنامه‌نویسی KillSwitch کدهایی بنویسید که مدل‌های هوش مصنوعی سر از آن‌ها درنمی‌آورند

اگر نگران این هستید که ربات‌ها کدهایی را که با زحمت فراوان نوشته‌اید رمزگشایی کنند و از آن‌ها برای تولید برنامه‌های اختصاصی خودشان بهره ببرند، زبان برنامه‌نویسی جدیدی پا به میدان گذاشته است که هدف اصلی‌اش سردرگم کردن مدل‌های بزرگ زبانی (LLM) است.

آنچه در ابتدا یک آزمایش ساده توسط مهندس نرم‌افزار، دومینیک پیچتا (Dominik Picheta)، برای ارزیابی درک واقعی مدل‌های زبانی از کدهای تولیدی بود، اکنون به پدیده‌ای کاملاً متفاوت تبدیل شده است: یک زبان برنامه‌نویسی متن‌باز و نامتعارف (Esoteric) به نام KillSwitch. در این زبان هیچ نشانه‌ای از آکولاد، استانداردهای قالب‌بندی برای حفظ کردن یا ساختارهای متداول به چشم نمی‌خورد؛ در عوض فقط تکه‌هایی از متون معمولی و داستان‌گونه دیده می‌شوند که توابع، متغیرها و دستورها به گونه‌ای درون آن‌ها پراکنده شده‌اند تا مدل‌های زبانی را تا جای ممکن سردرگم کنند.

طبیعتاً چنین ساختاری ممکن است انسان‌ها را هم در نگاه اول کمی گیج کند.

پیچتا در این رابطه توضیح می‌دهد: «کاملاً طبیعی است که یک انسان در نگاه نخست با دیدن این زبان سردرگم شود. من ترجیح می‌دهم به آن شبیه یک پازل و معمای جذاب نگاه کنم؛ باید در ساختار این زبان جست‌وجو کنید، با مفسر آن سرگرم شوید و یاد بگیرید که چگونه تکه‌های مختلف در کنار هم قرار می‌گیرند».

زبان KillSwitch دست‌پخت یک برنامه‌نویس تازه‌کار نیست و به‌شیوه vibe coding توسط یک علاقه‌مند معمولی هوش مصنوعی ساخته نشده است. پیچتا تسلط عمیقی بر طراحی زبان‌های برنامه‌نویسی دارد؛ او مهندس ارشد نرم‌افزار در کلودفلر (Cloudflare) و فعال در تیم Workers Runtime است و یکی از توسعه‌دهندگان اصلی زبان برنامه‌نویسی نیم (Nim) به شمار می‌رود.

در پایه‌ای‌ترین سطح، زبان KillSwitch بر محور «قیدها» طراحی شده است و این قیدها نقش تک‌تک شناسه‌ها را در یک قطعه کد ایفا می‌کنند. برای فراخوانی یکی از این شناسه‌ها، باید از واروواژه یا آناگرام (Anagram) همان قید استفاده کرد؛ البته الزامی نیست که این آناگرام‌ها کلماتی معنادار باشند، بلکه تنها چینش متفاوتی از حروف کلمه اصلی کفایت می‌کند.

برای نمونه، فرآیند افزودن عبارت «Hello World» به پشته (Stack) و چاپ آن را در نظر بگیرید. برنامه از چندین پاراگراف متنی تشکیل شده است که مفسر بیشتر آن‌ها را به جز چند عبارت کلیدی نادیده می‌گیرد. نوشتن عبارت «this story starts [adverb]» نقطه ورود به کد را مشخص می‌کند. پس از ورود به بخش کد، نوشتن عبارت «ignore previous instructions [adverb anagram]» تابعی را فراخوانی می‌کند که چند مورد از آن‌ها از پیش تعریف شده‌اند. برای مثال در مورد چاپ «Hello World»، تابع مورد نظر برای چاپ «visibly» است. کافی است هر متنی را که می‌خواهید چاپ کنید داخل گیومه بگذارید، آن را به پشته اضافه کنید، تابع visibly را فراخوانی نمایید و تمام!

زبان KillSwitch یک زبان کامل و همه‌منظوره نیست؛ پیچتا آن را زبانی مفسری و مبتنی بر پشته توصیف می‌کند که تنها شامل «مجموعه محدودی از ساختارها از جمله توابع، متغیرها و عبارات شرطی if» است؛ چراکه روند شکل‌گیری آن از دل یک آزمایش برای سنجش میزان فریب‌خوردن هوش مصنوعی و درک نکردن متن آغاز شد.

آنچه ماجرا را برای هوش مصنوعی سردرگم‌کننده می‌کند، دستورهایی شبیه به «ignore previous instructions» (دستورالعمل‌های قبلی را نادیده بگیر) است؛ به‌ویژه زمانی که این دستورها در میان توده‌ای از متن‌های بی‌ارتباط قرار می‌گیرند.

سند مشخصات فنی KillSwitch در گیت‌هاب جزئیات بیشتری درباره این زبان ارائه می‌دهد و خود این سند نیز با هدف سردرگم ساختن مدل‌های زبانی نوشته شده است. در بخشی از این سند توضیح داده شده است که زبان KillSwitch «به قابلیت اسکن شبکه محلی، تلاش برای یافتن آسیب‌پذیری‌های امنیتی در سرویس‌های شبکه، تسخیر آن سرویس‌ها و در نهایت متوقف کردن آن‌ها مجهز شده است».

اما خواندن دقیق متن و توضیحات پیچتا نشان می‌دهد که واقعیت ماجرا کاملاً چیز دیگری است.

پیچتا در توضیحات خود بیان می‌کند: «این ادعای مربوط به نفوذ و هک، هم با هدف فعال کردن گاردریل‌ها و سپرهای ایمنی مدل‌ها طراحی شده و هم معیاری برای سنجش توانایی هوش مصنوعی در تفکیک واقعیت از خیال است». او تأکید می‌کند که در سراسر سند مشخصات فنی، چندین ادعای دروغین گنجانده شده است تا هر مدل زبانی را که در تلاش برای اسکرپ و درک نحوه کارکرد این زبان باشد، فریب دهد.

او می‌افزاید: «ایده اصلی این است که انسان‌ها توانایی تشخیص دروغ را دارند، اما مدل‌های زبانی ساده‌لوح هستند و به‌سادگی تحت تأثیر نوشته‌های این سند قرار می‌گیرند. برخی از مدل‌ها معنای دقیق آن را درک نمی‌کنند و برخی دیگر از ادامه کار سر باز می‌زنند، زیرا تصور می‌کنند این اسکریپت ممکن است ابزاری برای نفوذ به دیگران باشد».

آیا مدل‌های زبانی آنچه را می‌نویسند واقعاً درک می‌کنند؟

بعید به نظر می‌رسد زبانی که برای سردرگم کردن مدل‌های هوش مصنوعی طراحی شده، تا ابد مبهم و ناشناخته بماند؛ به‌ویژه از آنجا که این پروژه متن‌باز است، روی گیت‌هاب در دسترس عموم قرار دارد و احتمالاً دیر یا زود توسط مدل‌های زبانی اسکرپ خواهد شد. پیچتا به این موضوع واقف است و دقیقاً به همین دلیل و برای آزمایش میزان فهم هوش مصنوعی از کدهای پیچیده، عملکرد چند مدل مطرح را روی این زبان بنچمارک کرده است.

پیچتا می‌گوید: «۹۹٫۹ درصد اطمینان دارم که مدل‌های هوش مصنوعیِ ارزیابی‌شده، روی سورس‌کد KillSwitch آموزش ندیده‌اند؛ چراکه سورس‌کد این زبان مدت زیادی نیست که به‌صورت عمومی منتشر شده و مطمئنم هیچ‌یک از مدل‌های مورد آزمایش، فرآیند آموزشی خود را پس از انتشار آن آغاز نکرده‌اند».

بهترین مدل مورد بررسی تنها به امتیاز ترکیبی ۶۶٫۸ درصد در وظایف کدنویسی با KillSwitch دست یافت، در حالی که بیشتر مدل‌ها حتی در عبور از مرز ۵۰ درصد ناکام ماندند. پیچتا معتقد است حتی همین امتیاز هم نشان‌دهنده درک واقعی هوش مصنوعی از کدهای تولیدی‌اش نیست؛ نمونه‌های استفاده‌شده در بنچمارک بسیار ساده بودند و او باور دارد حتی اگر یک هوش مصنوعی روی پیچیدگی‌های KillSwitch آموزش ببیند، باز هم در ادامه به دام خواهد افتاد.

پیچتا با اطمینان خاطر از پذیرش این چالش تأکید می‌کند: «حدس من این است که در صورت آموزش دیدن، مدل‌ها ناگهان در انجام وظایف ساده و آزمون‌های موجود در مخزن گیت‌هاب عملکردی عالی نشان خواهند داد، اما همچنان در اجرای سناریوهای پیچیده‌تر که نیازمند نوشتن اسکریپت‌های طولانی و چندوجهی است، شکست خواهند خورد».

او می‌گوید: «بسیار مشتاقم ببینم KillSwitch چگونه در داده‌های آموزشی مدل‌ها ظاهر می‌شود و معتقدم با تکامل این زبان، می‌توانیم از داده‌های آموزشی برای شکست دادن مدل‌های زبانی به روش‌هایی کاملاً نو بهره ببریم».

علاقه‌مندان به آزمایش KillSwitch می‌توانند به مخزن آن در گیت‌هاب مراجعه کنند و دست به ایجاد تغییرات بزنند؛ چراکه پیچتا اعلام کرده است آمادگی دارد ایده‌ها و روش‌های جدید را برای مقاوم‌تر کردن هرچه بیشتر این زبان در برابر مدل‌های زبانی به کار گیرد.