ولخرجی عجیب دستیار dot اوپن‌ای‌آی: سوزاندن بیش از ۳۰۰ هزار توکن در یک روز، بدون هیچ دستوری!

اگر قرار است از دستیار هوشمند جدید اوپن‌ای‌آی به نام dot استفاده کنید، تعجب نکنید اگر دیدید خودش به تنهایی حجم عظیمی از توکن‌هایتان را می‌سوزاند! طبق ارزیابی‌های شرکت امنیت و نظارت بر ایجنت‌های هوش مصنوعی «جوردی» (Geordie)، تنها یک ایجنت dot در طول یک روز کاری ۱۵۵ توالی فعالیت مجزا تولید کرده و بیش از ۳۰۰ هزار توکن را بلعیده است؛ آن هم بدون اینکه حتی یک بار انسانی با آن صحبت یا تعامل کند.

شرکت Geordie از زمان معرفی dot توسط اوپن‌ای‌آی در ماه سپتامبر، در حال آزمایش این دستیار ایجنتی «همواره‌روشن» (Always-On) بوده است؛ دستیاری که پا جای پای پروژه‌هایی مانند Meta Muse و Grok Bot گذاشته است.

با این حال، به گفته هانا-ماری دارلی (Hanah-Marie Darley)، مدیر ارشد هوش مصنوعی در شرکت Geordie، دستیار dot اوپن‌ای‌آی در مقایسه با سایر ایجنت‌های شخصی کمی متفاوت به نظر می‌رسد: «یکی از اولین چیز‌هایی که خیلی سریع متوجه شدیم این بود که این دستیارها بدون تعامل چندانی از طرف کاربر، فوق‌العاده فعال و پرجنب‌وجوش هستند.»

دارلی برای انجام این آزمایش‌ها، تنها دسترسی‌های «فقط‌خواندنی» (Read-Only) را به dot داد و آن را به برنامه‌های شخصی، ایمیل‌ها یا پیام‌رسان‌هایی مثل اسلک (Slack) وصل نکرد. با این وجود، این بات بلافاصله وارد فاز تحقیق و بررسی شد، تا جای ممکن به جمع‌آوری اطلاعات پرداخت و سیستم‌ها را زیر ذره‌بین گذاشت.

دارلی در توصیف رفتار این ابزار می‌گوید: «می‌توانید آن را درست شبیه یک مدیر پروژه تازه‌وارد تصور کنید که سر می‌رسد و می‌خواهد ببیند چه خبر است؛ دور و برش را نگاه می‌کند تا بفهمد چه دسترسی‌هایی به او داده‌اید، خودتان به چه بخش‌هایی دسترسی دارید و چه سیستم‌هایی روی دستگاهتان در حال اجراست.»

این ایجنت تمام این داده‌ها را در قالب چیزی شبیه به یک یادداشت یا دفترچه خاطرات روزانه ثبت می‌کند و در طول روز هم مدام آن را به‌روز نگه می‌دارد.

به گفته دارلی: «اگر تسک یا وظیفه‌ای به آن محول کرده باشید، خودش به شکل خودکار وضعیت کارهایش را چک می‌کند. اما چیزی که واقعاً عجیب و منحصر‌به‌فرد بود این است که dot بدون کم‌ترین دخالت کاربر، ایجنت‌های جدیدی را در پس‌زمینه می‌ساخت و بالا می‌آورد. همه این فرآیندها کاملاً با تصمیم خود dot هدایت می‌شد، نه اینکه بر اساس یک وظیفه زمان‌بندی‌شده، دستور قبلی یا پرامپت کاربر باشد.»

«فوق‌شخصی‌سازی‌شده» و «همواره‌روشن»؛ چه مشکلی ممکن است پیش بیاید؟

دارلی توضیح می‌دهد که بیش‌تر ایجنت‌های هوش مصنوعی در محیط‌های سازمانی، بات‌های سفارشی‌سازی‌شده‌ای هستند که روی پروژه‌های تجاری مشخصی کار می‌کنند؛ یا فریم‌ورک‌ها و ابزار‌های مهندسی مانند کلود (Claude)، کودکس (Codex) یا هیرو (Hero) هستند که برای کمک به کدنویسی و توسعه نرم‌افزار به کار می‌روند.

او در مصاحبه‌ای در این باره می‌گوید: «عملکرد این بات‌ها معمولاً مستقیماً توسط کارمندانی هدایت می‌شود که اهداف مشخصی را برایشان تعریف می‌کنند. اما نکته جالب اینجاست که ایجنت‌های شخصی، بخش عمده وظایفشان را خودشان برای خودشان تعیین می‌کنند؛ چیزی که فکر نمی‌کنم خیلی از کاربران هنگام شروع کار با آن‌ها متوجهش باشند.»

در واقع تمام جذابیت و ارزش اصلی ایجنت‌های شخصی در همین نکته نهفته است. بات‌هایی مثل Muse و dot به جای آنکه دست روی دست بگذارند و منتظر دستور یا پرامپت کاربر بمانند، می‌خواهند کارکنان دیجیتالی پیش‌قدم و فعالی باشند که وظایف چندمرحله‌ای را انجام می‌دهند و از طرف کاربر به برنامه‌ها، سرویس‌ها و حساب‌های کاربری مختلف متصل می‌شوند.

دارلی می‌گوید: «آن‌ها تلاش می‌کنند تا جای ممکن فوق‌شخصی‌سازی شوند و زمینه و اطلاعات بیشتری درباره شما جمع‌آوری کنند تا هم پیشنهادات بهتری بدهند و هم خودشان پیش‌دستی کنند. اما این رویکرد یعنی آن‌ها عملاً همیشه روشن هستند، در پس‌زمینه فعالیت می‌کنند و دوره‌های کاری فعالی دارند.»

به گفته دارلی، دستیار dot به طور ویژه حتی از سایر ایجنت‌های شخصی مثل Muse یا Grok Bot هم پیش‌قدم‌تر و خودجوش‌تر عمل می‌کند. البته او تأکید می‌کند که این مسئله لزوماً به معنای مصرف بالا‌تر توکن نیست، بلکه «فقط شیوه کار آن‌ها با یکدیگر فرق دارد».

به عنوان مثال، dot همیشه با اجرای حداقل دو ایجنت به طور هم‌زمان کار می‌کند: ایجنت اصلی که وظیفه تعامل با کاربر را بر عهده دارد، و ایجنت ثانویه‌ای که پیوسته در پس‌زمینه مشغول جمع‌آوری اطلاعات و داده‌هاست. علاوه بر این، دستیار dot و ایجنت‌های دیگر می‌توانند برای انجام وظایف خاص، ساب‌ایجنت‌ها (زیرایجنت‌ها) را هم وارد میدان کنند.

ثبت ۵۰ ردپا فقط در دو دقیقه!

به گفته دارلی، از میان ۱۵۵ ردپای فعالیتی که از این ایجنت تحت آزمایش ثبت شد، دست‌کم ۵۰ مورد تنها ظرف مدت دو دقیقه اتفاق افتاد و بخش عمده آن‌ها نیز ظرف چند ساعت رخ داد.

دارلی توضیح می‌دهد: «در یکی از ردپاهایی که تحلیل کردیم، این ایجنت چندین ساب‌ایجنت کوتاه‌مدت ساخت؛ ساب‌ایجنت‌هایی که فقط برای انجام کار‌های مشخصی فعال می‌شدند، اطلاعات را بر اساس دسترسی‌های قبلی داده‌شده به dot استخراج می‌کردند و به ایجنت اصلی تحویل می‌دادند؛ و جالب اینجاست که هیچ‌کدام از این کار‌ها با اطلاع یا تعامل کاربر انجام نمی‌شد.»

بخشی از این ارزیابی شامل سنجش عملکرد در یک سیستم توسعه نرم‌افزار بود؛ جایی که یکی از ایجنت‌های dot ساب‌ایجنتی را راه انداخت تا تمام مخازن کد (Repositories) موجود در سیستم را بررسی کند. در همین حین، یک ساب‌ایجنت دیگر به طور پیوسته تمام اطلاعاتی را که حین کار پیدا می‌کرد، فهرست‌بندی و دسته‌بندی می‌نمود.

او اضافه می‌کند: «کاربر اصلاً روحش هم خبردار نمی‌شود که چندین ساب‌ایجنت دارند از طرف او کار می‌کنند. او نمی‌داند این ایجنت‌ها چطور به داده‌ها دسترسی پیدا کرده‌اند یا اصلاً چه وظیفه‌ای دارند؛ رفتاری که با شیوه فعالیت بیش‌تر ایجنت‌ها در محیط‌های کاری کاملاً تفاوت دارد.»

این ۱۵۵ توالی فعالیت، حدود ۳۰۷ هزار توکن برای شرکت Geordie آب خورد! درخواست‌های دیگر نیز بسته به اینکه dot چقدر دست به جست‌وجو و تحقیق بزند، بین چندصد تا چند هزار توکن هزینه داشتند. دارلی می‌گوید: «این اتفاق واقعاً شگفت‌انگیز است چون پای یک کاوش و پژوهش کاملاً خودسرانه و مستقل در میان است.»

در واقع کاربر از ایجنت نخواسته که این کار‌ها را انجام دهد یا مقدار مشخصی توکن بسوزاند، بلکه خود dot سرِ خود دست به کار شده است.

اقتصاد توکن‌ها و هزینه‌های پنهان

هزینه مصرف توکن بسته به موقعیت کاربر، سطح اشتراک، تخفیف‌های قیمتی، هزینه‌های رایانشی و شرایط دیگر می‌تواند بسیار متغیر باشد.

اما برای روشن‌تر شدن ماجرا، مصرف حدود ۲۰۰ هزار توکن توسط یک ایجنت dot که بر پایه مدل آسترا (Astra) اوپن‌ای‌آی کار می‌کند، چیزی بین ۵ تا ۱۰ دلار آب می‌خورد. دارلی توضیح می‌دهد: «اگر فکر کنید این اتفاق هر روز تکرار شود، یعنی روزانه به اندازه قیمت یک فنجان قهوه لاته هزینه می‌کنید، بدون اینکه حتی کلمه‌ای با دستیارتان صحبت کرده باشید!»

او خاطرنشان می‌کند: «یکی از چالش‌های اصلی افراد در درک هزینه‌های هوش مصنوعی این است که مصرف توکن چطور به خروجی نهایی یا نتیجه کار ربط پیدا می‌کند؟ فهم این رابطه کار آسانی نیست، چون تناسب یک‌به‌یک وجود ندارد.»

ممکن است یک درخواست ۵۰۰ توکنی به یک مدل زبانی بزرگ، از دیدگاه کسب‌وکار ارزش به مراتب بیشتری نسبت به درخواستی داشته باشد که ۸۰۰ هزار توکن مصرف کرده است. دارلی می‌گوید: «همه چیز به این برمی‌گردد که برای رسیدن به یک پاسخ درست چقدر توان پردازشی هزینه کرده‌اید، و این موضوع کاملاً به برداشتی سلیقه‌ای و نسبی تبدیل می‌شود.»

با این حال، به باور او درباره دستیار dot و سایر ایجنت‌های همواره‌روشن، «بسیاری از کاربران اصلاً آمادگی این هزینه‌های سرسام‌آور در پس‌زمینه را نخواهند داشت».

آیا می‌دانید ایجنت‌هایتان دقیقاً چه کار می‌کنند؟

دارلی معتقد است درست همان‌طور که کارمندان چت‌بات‌ها و سپس ایجنت‌های کدنویسی را وارد محیط کار کردند، حالا هم دستیار dot و ایجنت‌های شخصی مشابه را از خانه به محیط کاری خود خواهند آورد.

او می‌گوید: «شرکت‌ها اغلب از تعداد ایجنت‌هایی که بی‌سر‌و‌صدا در سیستم‌هایشان فعال هستند شگفت‌زده می‌شوند؛ حتی اگر تصور کنند پیاده‌سازی محدودی داشته‌اند یا همه چیز تحت کنترل است.»

او می‌افزاید: «نکته دوم این است که همه ایجنت‌ها مثل هم رفتار نمی‌کنند. میزان خودمختاری و وابستگی آن‌ها به ورودی‌های کاربر با یکدیگر متفاوت است و عملکردشان به شدت به زمینه (Context) وابسته است. اتفاقاً بهترین ایجنت‌ها آن‌هایی هستند که زمینه کاری محدودتر و متمرکزتری دارند، چرا که می‌توانند با اطلاعات درست و در زمان مناسب، هدفشان را دنبال کنند.»

با وجود همه این چالش‌ها، دارلی به سازمان‌ها پیشنهاد می‌کند این فناوری را امتحان کنند. او خود را یک «خوش‌بین تمام‌عیار به هوش مصنوعی» می‌داند و باور دارد ایجنت‌ها می‌توانند بهره‌وری را دگرگون کرده و شیوه کار انسان‌ها را متحول کنند. هوش مصنوعی قرار نیست جایی برود و کسب‌وکارها باید با این ایجنت‌ها آشنا شوند؛ اما او پیش از سپردن همه‌چیز به دست این ایجنت‌ها، یک هشدار کلیدی و نهایی دارد.

دارلی با تأکید می‌گوید: «هیچ اطلاعات شخصی و حساسی را که حاضر نیستید در یک ایمیل معمولی بفرستید، در اختیار این ایجنت‌ها نگذارید. همچنین هرگز کارت‌های بانکی اصلی خود را به آن‌ها متصل نکنید! اگر می‌خواهید به ایجنت دسترسی خرید بدهید، یک گیفت‌کارت ویزا (Visa) با موجودی محدود برایش تهیه کنید. مردم اغلب تا زمانی که فاجعه‌ای رخ ندهد، به این خطرات فکر نمی‌کنند.»