پاک‌سازی محتوای زرد از LinkedIn با افزونه جدید Chrome؛ کاربردی متفاوت برای مدل هوش مصنوعی Jev

مدل هوش مصنوعی تصمیم‌گیرنده Jev وظیفه جدیدی پیدا کرده است: کمک به یک افزونه Chrome برای شناسایی و علامت‌گذاری محتوای متنی بی‌ارزش در LinkedIn.

تام فریزر (Tom Frazier)، از علاقه‌مندان به هوش مصنوعی، نویسنده و مشاور کسب‌وکار، افزونه Slop Mop را برای مرورگر Chrome منتشر کرد. کدهای این ابزار نیز روی پلتفرم GitHub در دسترس قرار گرفته است تا علاقه‌مندان بتوانند آن را بررسی و شخصی‌سازی کنند. به گفته فریزر، این افزونه کاملاً رایگان است، نیازی به ثبت‌نام ندارد و فقط محتوای بی‌کیفیت تولیدشده توسط هوش مصنوعی را فیلتر نمی‌کند؛ بلکه نوشته‌های بی‌ارزش انسانی را نیز به دام می‌اندازد.

این افزونه بر اساس ۹ نشانه استخراج‌شده از تحقیقات شرکت سئو Graphite Growth کار می‌کند. این نشانه‌ها روی الگوهایی تمرکز دارند که به‌طور نامتناسبی در متون تولیدشده توسط هوش مصنوعی تکرار می‌شوند؛ موضوعی که در LinkedIn بسیار به چشم می‌خورد. بر اساس بررسی‌های شرکت تشخیص هوش مصنوعی Pangram، حدود ۴۱ درصد از پست‌های طولانی‌تر از ۲۵۰ کلمه در نمونه‌گیری‌های این شرکت در LinkedIn، کاملاً توسط هوش مصنوعی نوشته شده بودند (این آمار شامل پست‌هایی که انسان‌ها از هوش مصنوعی برای بهبود آن‌ها استفاده می‌کنند، نمی‌شود). شدت این مشکل به حدی است که LinkedIn اخیراً دکمه‌ای به پلتفرم خود اضافه کرده تا کاربران بتوانند پست‌ها را با عنوان «مشکوک به محتوای بی‌کیفیت هوش مصنوعی» گزارش کنند.

ابزار Slop Mop تحقیقات گسترده Graphite را در ۹ شاخص اصلی خلاصه کرده است: پست‌هایی که با یک خط متن و ایجاد فاصله، کاربر را مجبور به باز کردن ادامه متن می‌کنند، استفاده مکرر از کلمات اغراق‌آمیز، وعده‌های توخالی، زبان بیش از حد ادبی و پرطمطراق، درس‌های اخلاقی به‌طرز مشکوکی بی‌نقص، تله‌های تعاملی (Engagement Bait)، تکیه بر تمجیدهای توخالی، تعریف مفاهیم با استفاده از تضادها، و در نهایت استفاده از جمله‌بندی‌های خشک و ماشینی.

افزونه Slop Mop با استفاده از این ۹ شاخص، نوشته‌های احتمالاً بی‌ارزش را شناسایی می‌کند. برای جلوگیری از حذف محتوای باکیفیت، دو معیار دیگر نیز در نظر گرفته شده است: آیا لحن نوشته شبیه به یک شخص واقعی است؟ و آیا محتوای آن برای خواننده مفید است؟ فریزر در وب‌سایت Slop Mop توضیح داده است که تأیید این دو مورد، امتیاز منفی پست را کاهش می‌دهد. معیار نهایی بررسی می‌کند که چقدر احتمال دارد یک مدل هوش مصنوعی پست را پیش‌نویس کرده باشد؛ اما این فاکتور به‌تنهایی باعث علامت‌گذاری پست نمی‌شود، بلکه تنها در صورتی که متن شبیه به نوشته‌های انسانی به نظر برسد، امتیاز «بی‌کیفیت بودن» آن را کاهش می‌دهد.

هیچ‌کدام از این عوامل به‌تنهایی نمی‌توانند نوشته‌های هوش مصنوعی را از نوشته‌های انسانی متمایز کنند. فریزر نیز این ابزار را بیشتر از آنکه یک تشخیص‌دهنده هوش مصنوعی بداند، فیلتری برای حذف زباله‌های اینترنتی توصیف می‌کند؛ فارغ از اینکه چه کسی یا چه ابزاری آن‌ها را نوشته باشد.

فریزر در این باره می‌گوید: «ابزار Slop Mop محتوای ضعیف انسانی را دقیقاً مانند محتوای ضعیف هوش مصنوعی علامت‌گذاری می‌کند. به اعتقاد من این تصمیم درستی است؛ چرا که محتوای تولیدشده توسط هوش مصنوعی می‌تواند خوب باشد و برعکس، نوشته‌های انسانی هم ممکن است کیفیت پایینی داشته باشند.»

همان‌طور که فریزر در بخش پرسش‌های متداول وب‌سایت این افزونه نوشته است، سؤال کلیدی در پشت‌پرده Slop Mop این است که آیا یک پست اصلاً ارزش توجه شما را دارد یا خیر.

پست‌هایی که به آستانه بی‌کیفیت بودن برسند (چه نوشته انسان و چه هوش مصنوعی)، توسط Slop Mop علامت‌گذاری یا پنهان می‌شوند. این بدان معناست که این پست‌ها به‌طور کامل از فید LinkedIn حذف نمی‌شوند و کاربران همچنان می‌توانند آن‌ها را از طریق دکمه مخصوص پلتفرم گزارش کنند.

ظرفیت‌های فراتر از یک افزونه ساده

انگیزه اصلی فریزر برای ساخت Slop Mop، فراتر از خستگی از محتوای بی‌کیفیت LinkedIn بود. او می‌خواست مدل هوش مصنوعی تصمیم‌گیرنده جدید Jev را که هفته گذشته توسط شرکت TypeSafe معرفی شد، آزمایش کند.

هوش مصنوعی Jev یک چت‌بات نیست و نمی‌توان مانند مدل‌های مرسوم با آن مکالمه کرد. این مدل برای اتخاذ تصمیمات مبتنی بر احتمالات در سایر سیستم‌های نرم‌افزاری طراحی شده و دسترسی به آن از طریق API امکان‌پذیر است. Jev به دلیل سرعت بالا و هزینه پایین، به‌سرعت در میان توسعه‌دهندگان به محبوبیت رسیده و کاربردهای جدید فراوانی برای آن پیدا شده است.

به عبارت دیگر، Slop Mop تلاش دیگری از سوی یک توسعه‌دهنده برای بررسی توانایی‌های Jev محسوب می‌شود. متن‌باز بودن این افزونه به دیگران نیز اجازه می‌دهد تا چنین آزمایش‌هایی را انجام دهند. در حال حاضر تمام پردازش‌های این افزونه از طریق حساب کاربری و API کلید شخصی فریزر اجرا می‌شود؛ بنابراین در صورت استقبال گسترده از افزونه، او ممکن است با صورت‌حساب‌های سنگینی مواجه شود.

برای جلوگیری از افزایش سرسام‌آور هزینه‌ها، فریزر محدودیت روزانه‌ای برای تحلیل پست‌ها در نظر گرفته است. هر کاربر می‌تواند روزانه تا ۲۵۰ پست را از طریق این افزونه بررسی کند که به گفته وی، این رقم بسیار بیشتر از میزان استفاده معمول کاربران در LinkedIn است.

وی توضیح می‌دهد: «بر اساس تعداد نصب‌های اولیه، هزینه هر کاربر حدود ۰٫۰۰۵ دلار در روز است. اگر این پروژه به صورت ویروسی پخش شود، احتمالاً در ارائه سرویس رایگان تجدید نظر خواهم کرد؛ اما در حال حاضر خوشحالم که این هزینه‌ها را می‌پردازم تا پارامترهای تنظیم مدل را بهتر درک کنم و مجموعه داده‌های مناسبی بسازم.»

اگر استقبال از این افزونه بالا باشد و هزینه‌ها از کنترل خارج نشوند، ممکن است قابلیت‌های Slop Mop به پلتفرم‌هایی غیر از LinkedIn نیز گسترش یابد. با این حال، فریزر فعلاً آن را صرفاً یک پروژه آزمایشی برای ارزیابی Jev می‌داند. او از نتایج اولیه رضایت دارد و معتقد است این پروژه نشان‌دهنده ظهور نسل جدیدی از زیرساخت‌های هوش مصنوعی است که برای ماندن آمده‌اند.

فریزر پیش‌بینی می‌کند: «تصمیم‌گیری آگاهانه نسبت به زمینه به همراه ارائه نمره اطمینان، در آینده تأثیر بیشتری روی گردش کار سازمانی خواهد گذاشت تا آنچه که مدل‌های زبانی تا به امروز انجام داده‌اند.»

برای استفاده از Slop Mop، می‌توانید کدهای آن را از پلتفرم GitHub دریافت کرده و یا افزونه را مستقیماً از فروشگاه Chrome Web Store نصب کنید.