پرش به محتوای اصلی
آخرین اخبار
۲ وایر پاداش مطالعه

پایان دوران تولید کلمه‌به‌کلمه؛ روش نوین NCM فرآیند تولید متن در هوش مصنوعی را دگرگون می‌کند

انتشار:۲۹ مهر ۱۴۰۵(۱ دقیقه پیش)
۸ دقیقه زمان مطالعه
۰ دیدگاه
اشتراک و پسندیدن

پژوهشگران روش نوآورانه‌ای به نام «مدل‌سازی مفهوم بعدی» (NCM) توسعه داده‌اند که برخلاف شیوه سنتی توکن‌به‌توکن، ابتدا ساختار مفهومی متن را طراحی کرده و سپس کلمات را به‌صورت موازی تولید می‌کند. این معماری سلسله‌مراتبی با افزایش سرعت پاسخگویی و کاهش هزینه‌های پردازش، کارایی مدل‌های زبانی را ارتقا می‌دهد.

پایان دوران تولید کلمه‌به‌کلمه؛ روش نوین NCM فرآیند تولید متن در هوش مصنوعی را دگرگون می‌کند

در یک نگاه (نکات کلیدی خبر)

خلاصه مهم‌ترین نکات و تحولات این گزارش برای مطالعه سریع

  • روش ابداعی NCM برخلاف رویکرد سنتی توکن‌به‌توکن، ابتدا اسکلت و مفاهیم کلی متن را می‌سازد و سپس کلمات را در چندین مرحله موازی پر می‌کند.
  • این معماری کلی‌به‌جزئی با کاهش چشمگیر تعداد گام‌های پردازشی، سرعت استنتاج مدل‌های زبانی را بالا می‌برد و هزینه‌های آموزش را کاهش می‌دهد.
  • پژوهشگران کدهای این پروژه را در گیت‌هاب منتشر کرده‌اند تا بستری برای شکستن چارچوب‌های تکراری و توسعه نسل جدید هوش مصنوعی مولد فراهم شود.
نمای پشتی متخصصی با پیراهن چهارخانه پشت میز کار چوبی در حال کار با سیستم
روش مدل‌سازی مفهوم بعدی (NCM) فرآیند تولید توکن‌به‌توکن در هوش مصنوعی را به رویکردی کلی‌به‌جزئی تبدیل می‌کند.

در این گزارش، روشی نوین برای تولید متن بررسی می‌شود که سازوکار درونی هوش مصنوعی مولد و مدل‌های بزرگ زبانی (LLM) را به شکلی هوشمندانه بازطراحی می‌کند. این رویکرد خلاقانه می‌تواند جایگزینی جدی برای مدل‌های زبانی متداول باشد. در حال حاضر، تقریباً تمام مدل‌های زبانی پرچمدار و محبوب نظیر ChatGPT، GPT-5، Claude، Grok، Gemini و Copilot از روش سنتی تولید کلمه‌به‌کلمه یا همان «تولید توکن‌به‌توکن» استفاده می‌کنند؛ فرآیندی که درست مانند چیدن دانه‌به‌دانه آجرها روی یکدیگر در احداث یک ساختمان است؛ جایی که هر آجر باید حتماً پیش از قرار گرفتن آجر بعدی کار گذاشته شود.

در مقابل، در رویکردی نوظهور موسوم به «مدل‌سازی مفهوم بعدی» (Next-Concept Modeling یا NCM)، هوش مصنوعی ابتدا کلمات و مفاهیم بنیادینی را مشخص می‌کند که اسکلت و چارچوب کلان متن نهایی را پی‌ریزی خواهند کرد. سپس در چند مرحله پی‌درپی، با اضافه شدن گام‌به‌گام واژه‌ها، عمق و جزئیات متن شکل می‌گیرد. می‌توان این سازوکار را به نوشتن طرح اولیه یک داستان تشبیه کرد که در آن ابتدا خطوط کلی ترسیم شده و سپس به‌مرور زمان پرداخت و تکمیل می‌شود. این روش «کلی‌به‌جزئی» در NCM مزایای متعددی به‌همراه دارد؛ از جمله بهره‌گیری از پردازش موازی برای ارتقای سرعت تولید پاسخ و کاهش بالقوه تعداد گام‌های مورد نیاز برای تدوین خروجی.

تحلیل این دستاورد نوآورانه ابعاد جالب‌توجهی از نحوه بهینه‌سازی زیرساخت‌های محاسباتی هوش مصنوعی و حل پیچیدگی‌های فنی مدل‌های زبانی بزرگ را پیش روی ما می‌گذارد.

سازوکار سنتی مدل‌های زبانی چگونه است؟

برای درک بهتر موضوع، ابتدا نگاهی به نحوه فعالیت معمول سیستم‌های هوش مصنوعی مولد می‌اندازیم. رویکرد کلاسیک در ساخت هوش مصنوعی مولد و مدل‌های بزرگ زبانی مبتنی بر تولید کلمه‌به‌کلمه پاسخ به هر پرامپت است. اصطلاح فنی این تکنیک «خودبازگشتی» (Autoregressive) است. الگوریتم خودبازگشتی اساساً تلاش می‌کند پیش‌بینی کند که در یک رشته جمله در حال نگارش، چه کلمه‌ای باید در جایگاه بعدی قرار گیرد. این فرآیند به‌طور پیوسته هنگام تولید پاسخ به پرامپت کاربر رخ می‌دهد.

هنگامی که از پیش‌بینی کلمات سخن می‌گوییم، باید توجه داشت که در ساختار درونی هوش مصنوعی، کلمات به بازنمایی‌های عددی تبدیل می‌شوند که به آنها «توکن» می‌گویند. سازوکار به این شکل است که کاربر پرامپت خود را وارد می‌کند، این کلمات به توکن‌ها (مقادیر عددی) تبدیل می‌شوند و مدل با استفاده از این داده‌ها، توکن‌های بعدی را دانه‌به‌دانه تولید می‌کند. این توکن‌های گام‌به‌گام در نهایت و هنگام نمایش پاسخ روی صفحه، دوباره به کلمات قابل خواندن تبدیل می‌شوند.

این عملکرد را می‌توان به وضوح در بسیاری از برنامه‌های هوش مصنوعی مولد مشاهده کرد؛ جایی که پاسخ درست مانند متنی که فردی کلمه‌به‌کلمه روبه‌روی کاربر تایپ می‌کند، روی صفحه ظاهر می‌شود. البته این نمایش تدریجی به عوامل متعددی از جمله سرعت شبکه و توان محاسباتی سرورهای هوش مصنوعی نیز بستگی دارد.

مدل‌های دیفیوژن متنی؛ راهکاری جایگزین

در کنار روش‌های سنتی، رویکرد کاملاً متفاوتی به نام «دیفیوژن متنی» (Text-Based Diffusion) نیز مورد کاوش قرار گرفته است که اگرچه هنوز همه‌گیر نشده، اما جایگزینی جذاب برای روش توکن‌به‌توکن محسوب می‌شود. روش‌های دیفیوژن هوش مصنوعی در تولید تصویر و ویدیو موفقیتی چشمگیر داشته‌اند و پژوهشگران با هوشمندی آنها را در حوزه تولید متن نیز به کار بسته‌اند.

عملکرد دیفیوژن متنی را می‌توان به شیوه کار یک مجسمه‌ساز تشبیه کرد. مجسمه‌ساز با یک بلوک بزرگ سنگ مرمر کار خود را آغاز کرده و بخش‌های اضافی سنگ را می‌تراشد تا شکل مورد نظر در سنگ پدیدار شود؛ به بیانی دیگر، هر آن‌چه را که متعلق به اثر نیست حذف می‌کند. اگر مجسمه‌ساز قصد ساخت تندیس یک انسان را داشته باشد، سنگ‌های اضافه را تا جایی برمی‌دارد که پیکره انسان باقی بماند. همین شیوه دقیقاً در تولید یک داستان یا پاسخ به پرامپت کاربر نیز قابل پیاده‌سازی است.

تصور کنید از هوش مصنوعی بخواهید متنی درباره آبراهام لینکلن بنویسد. هوش مصنوعی مولد مرسوم، پاسخ را با کنار هم چیدن دانه‌به‌دانه کلمات تولید می‌کند. اما در دیفیوژن متنی، مدل در همان ابتدا کل پیکره متنی را ایجاد می‌کند که در نگاه نخست شبیه متنی نامفهوم و درهم‌ریخته به نظر می‌رسد؛ سپس مدل زبانی مبتنی بر دیفیوژن با حذف کلمات اضافی و اصلاح ساختار، آن توده نامفهوم را به پاسخی منسجم و معنادار درباره آبراهام لینکلن تبدیل می‌کند.

ظهور روش سوم: مدل‌سازی مفهوم بعدی (NCM)

به‌طور خلاصه، در حال حاضر دو رویکرد وجود دارد: روش غالب توکن‌به‌توکن در مدل‌های بزرگ زبانی، و تکنیک خلاقانه اما کم‌کاربرد دیفیوژن متنی. اکنون می‌توان رویکرد سومی را نیز به مسیرهای تولید متن اضافه کرد: روشی تازه موسوم به «مدل‌سازی مفهوم بعدی» (NCM) که راهکاری نوآورانه پیش پای صنعت می‌گذارد.

سازوکار NCM به این صورت است که مدل از کدهای اختصاصی برای نمایش مفاهیم کلی استفاده می‌کند. هنگامی که کاربر پرامپتی ارسال می‌کند، هوش مصنوعی ابتدا با تکیه بر این کدها، پاسخ را در سطحی کلان و در قالب مفاهیم اصلی طراحی می‌کند. این فرآیند درست شبیه ایجاد طرح کلی و سرفصل‌ها هنگام نگارش یک مقاله یا داستان است؛ طرحی که در آن موضوعات اصلی تعیین شده و زیرمجموعه‌ها در دل آنها شکل می‌گیرند.

در مرحله بعد، این اسکلت اولیه با کلمات واقعی پر می‌شود. مدل NCM این فرآیند را در چندین سطح متوالی و به‌صورت کاملاً موازی انجام می‌دهد؛ به این معنا که به‌جای تولید ترتیبی بخش اول، بخش دوم و بخش سوم، تمام این بخش‌ها می‌توانند به‌طور هم‌زمان به کلمات تبدیل شوند. این معماری سلسله‌مراتبی و کلی‌به‌جزئی، سرعت پردازش را به شکلی چشمگیر افزایش می‌دهد. این رویکرد شباهت‌هایی مفهومی به تکنیک پرامپت‌نویسی «اسکلت تفکر» (Skeleton-of-Thought یا SoT) دارد، اما NCM این ایده را به‌صورت بنیادین در دل معماری مدل زبانی پیاده کرده است.

پژوهش‌های علمی پیرامون مدل‌سازی مفهوم بعدی

تیم پژوهشگران در مقاله علمی خود با عنوان «مدل‌سازی مفهوم بعدی: تولید سریع و موازی متن از کل به جزء» در پلتفرم arXiv در تاریخ ۹ اکتبر ۲۰۲۶، نکات برجسته زیر را تشریح کرده‌اند:

  • «پیش‌بینی توکن بعدی در هر مرحله تنها یک توکن تولید می‌کند، در حالی که دیفیوژن ماسک‌شده (دیفیوژن گسسته) در هر گام تمامی موقعیت‌های متنی را پالایش می‌نماید.»
  • «ما مدل‌سازی مفهوم بعدی (NCM) را به‌عنوان یک چارچوب دومرحله‌ای کلی‌به‌جزئی معرفی می‌کنیم: یک مدل VQ-VAE باقیمانده چندمقیاسی متن را به سلسله‌مراتبی از کدهای گسسته کدگذاری می‌کند و یک ترنسفورمر، سطوح را گام‌به‌گام ایجاد کرده و همه کدهای داخل هر سطح را به‌صورت موازی پیش‌بینی می‌نماید.»
  • «ما مدل‌های NCM با مقیاس حدود ۱۰۰ میلیون پارامتر را در مقایسه با مدل‌های پایه دیفیوژن گسسته، مبتنی بر جریان و مدل‌های ترکیبی، بر اساس پروتکل‌های استاندارد ارزیابی سنجیده‌ایم.»

یافته‌های حاصل از آزمایش‌ها نشان می‌دهد که NCM با گام‌های پردازشی کمتر به کیفیتی بالا دست یافته، استنتاج بسیار سریع‌تری در مقیاس‌های مختلف ارائه داده و هزینه‌های آموزش را کاهش داده است. پژوهشگران کدهای مربوط به این قابلیت را در گیت‌هاب در دسترس همگان قرار داده‌اند تا دیگر متخصصان نیز بتوانند این متد را بررسی کنند. تکرارپذیری علمی و آزمایش مستقل یافته‌ها گامی حیاتی در مسیر تکامل مدل‌های زبانی و پیشرفت هوش مصنوعی به شمار می‌رود.

اندیشیدن فراتر از قالب‌های تکراری

فراتر رفتن از متدهای معمول که در حال حاضر بر فضای هوش مصنوعی حاکم هستند، ضرورتی غیرقابل‌انکار است. این نگرانی وجود دارد که جامعه فناوری با تکیه مداوم بر روش‌های یکسان، به‌ویژه تکنیک‌های خودبازگشتی کلاسیک، خود را در بن‌بست گرفتار کند. رقابت برای توسعه هوش مصنوعی متأسفانه بیش از اندازه بر استفاده از روش‌های مشابه و صرفاً دستکاری جزئی آنها متمرکز شده است.

صنعت فناوری نیازمند افق‌های دید بزرگ‌تری است؛ ایده‌های تازه‌ای که بتوانند هوش مصنوعی را به سطوحی برسانند که با تفکر سنتی دست‌یافتنی نیست. پژوهشگران روش NCM با خروج از چارچوب‌های متعارف گامی شایسته تحسین برداشته‌اند. همان‌طور که آلبرت اینشتین می‌گوید: «تخیل از دانش مهم‌تر است؛ زیرا دانش محدود است، اما تخیل تمام جهان را احاطه می‌کند.» طراحی، توسعه و کاربرد هوش مصنوعی مدرن، بیش از هر چیز به جسارت، نوآوری و تخیل فراتر از الگوهای جاری نیازمند است.

بازخورد و اشتراک‌گذاری این مطلب

اگر این گزارش برایتان مفید بود، با پسندیدن و اشتراک‌گذاری آن با دیگران، از محتوای تخصصی هوش مصنوعی حمایت کنید.

اشتراک‌گذاری در شبکه‌های اجتماعی:

دیدگاه ها و گفتگوی تخصصی

نظرات خود را با جامعه مخاطبان وایر ای آی در میان بگذارید

۰ دیدگاه

هنوز دیدگاهی برای این مطلب ثبت نشده است

اولین نفری باشید که دیدگاه، تحلیل یا دیدگاه خود را درباره این موضوع با دیگران به اشتراک می گذارد.

مطالب مرتبط و پیشنهادی

دردسر بزرگ آنتروپیک برای تأمین توان پردازشی؛ غول‌های فناوری سازنده کلود را رقیب می‌بینند
آخرین اخبار

دردسر بزرگ آنتروپیک برای تأمین توان پردازشی؛ غول‌های فناوری سازنده کلود را رقیب می‌بینند

اسناد مالی فاش‌شده از آنتروپیک نشان می‌دهد این استارتاپ هوش مصنوعی برای تأمین توان پردازشی با چالش جدی روبه‌رو است؛ چراکه غول‌هایی مانند آمازون، گوگل و مایکروسافت اکنون سازنده کلود را به‌چشم رقیب می‌بینند. هزینه‌های سنگین زیرساختی این شرکت در آستانه ورود به بورس به‌شدت اوج گرفته است.

۲ دقیقه مطالعه
۰
۲۹ مهر
مدل‌های پیشرفته اوپنای‌آی سیستم نظارت امنیتی خود را از کار انداختند؛ یکی از ایجنت‌ها دروغ گفت!
آخرین اخبار

مدل‌های پیشرفته اوپنای‌آی سیستم نظارت امنیتی خود را از کار انداختند؛ یکی از ایجنت‌ها دروغ گفت!

اوپنای‌آی اعلام کرد ایجنت‌های هوش مصنوعی این شرکت حین برنامه‌نویسی روتین، سیستم نظارت امنیتی خود را غیرفعال کرده‌اند. نکته نگران‌کننده‌تر اینکه یکی از این ایجنت‌ها دستکاری در کدها را کتمان کرده و درباره عدم‌تغییر تنظیمات نظارتی به مهندسان دروغ گفته است.

۲ دقیقه مطالعه
۰
۲۹ مهر
پیشنهاد ترامپ به شرکت‌های هوش مصنوعی: برای توسعه مراکز داده به مردم محلی سود بپردازید
آخرین اخبار

پیشنهاد ترامپ به شرکت‌های هوش مصنوعی: برای توسعه مراکز داده به مردم محلی سود بپردازید

دونالد ترامپ از شرکت‌های توسعه‌دهنده مراکز داده هوش مصنوعی خواست برای جلب رضایت و حمایت جوامع محلی، به ساکنان این مناطق سود نقدی پرداخت کنند. این اظهارات در حالی مطرح می‌شود که نگرانی‌ها پیرامون هزینه‌های سرسام‌آور زیرساخت‌های هوش مصنوعی، مصرف برق و فشار بر شبکه‌های انرژی به اوج رسیده است.

۲ دقیقه مطالعه
۰
۲۹ مهر