به گزارش خبرآنلاین، توماس ژرمن، روزنامهنگار ارشد فناوری در BBC، طی یک آزمایش نشان داد که سیستمهای هوش مصنوعی چقدر در برابر اطلاعات جعلی آسیبپذیر هستند. او با یک ترفند ساده و تنها در ۲۰ دقیقه، گوگل و ChatGPT را فریب داد تا اعلام کنند او «قهرمان جهان در مسابقات سرعتِ سوسیسخوری است!
اگرچه این دروغ مضحک به نظر میرسد، اما واقعیت پشت پرده آن بسیار تکاندهنده است.
مکانیزم مسمومسازی هوش مصنوعی
وقتی از یک چتبات سوالی میپرسید، او همیشه از اطلاعات داخلی خود استفاده نمیکند. ابزارهایی مثل ChatGPT، کلود (Claude) و هوش مصنوعی گوگل برای پاسخ به سوالات روز، در همان لحظه اینترنت را زیر و رو میکنند. حفره امنیتی دقیقاً همینجا باز میشود.
کارشناسان سئو (SEO) میگویند هوش مصنوعی تمایل شدیدی دارد که پاسخ خود را از یک صفحه وب یا یک پست در شبکههای اجتماعی استخراج کند.
آزمایش BBC چگونه کار کرد؟
نویسنده یک مقاله با ساختار استاندارد اما محتوای کاملاً دروغین درباره مهارت خود در مسابقات سوسیسخوری در وبسایت شخصیاش منتشر کرد.
روز بعد، وقتی کاربران از چتباتها درباره قهرمانان این رشته پرسیدند، هوش مصنوعی گوگل و اپنآی بدون هیچ راستیآزمایی، نام این خبرنگار را به عنوان قهرمان جهان معرفی کردند!
این روش که به نوعی «مسمومسازی منبع داده هوش مصنوعی» نام دارد، اکنون توسط شرکتهای نامعتبر در ابعاد وسیع و سیستماتیک در حال بهرهبرداری است.
وقتی دروغها به حوزه سلامت و دارایی میرسند
مسابقه سوسیسخوری یک شوخی بود، اما تحقیقات کارشناسان نشان میدهد که دلالان و شرکتهای تجاری از همین تکنیک ساده برای اهداف خطرناکتری استفاده میکنند:
- مشاورههای پزشکی مرگبار: شرکتهای دارویی با انتشار مقالات به ظاهر علمی، هوش مصنوعی گوگل را فریب میدهند تا عوارض جانبی داروهای خطرناک یا مکملهای بیکیفیت را پنهان کند.
- کلاهبرداریهای مالی: برخی موسسات مالی با دستکاری پاسخهای الگوهای هوش مصنوعی، کاربران را به سمت سرمایهگذاریهای پرخطر یا طرحهای بازنشستگی جعلی هدایت میکنند.
- تاثیر بر رایگیری و تصمیمات روزمره: این اطلاعات دستکاریشده میتوانند روی رای مردم در انتخابات یا حتی انتخاب یک لولهکش برای خانه تاثیر بگذارند.
هارپریت چاتا، مشاور ارشد آژانس دیجیتال مارکتینگ Harps، هشدار میدهد: «در سادهترین حالت، این پدیده خسارت مالی به همراه دارد. اما در سناریوهای جدیتر، ممکن است توصیه پزشکی اشتباهی از هوش مصنوعی بگیرید که شما را بیمارتر کند یا اطلاعات حقوقی غلطی دریافت کنید که انجام آن در کشور شما غیرقانونی باشد.»
ابعاد این بحران ناچیز نیست. بیش از یک میلیارد نفر در جهان به طور منظم از چتباتها استفاده میکنند و بخش هوش مصنوعی گوگل (AI Overviews) ماهانه توسط ۲.۵ میلیارد کاربر دیده میشود. گوگل اخیراً بیانیهای صادر و سیاستهای مبارزه با اسپم خود را بهروزرسانی کرد. این شرکت رسماً اعلام کرد که هرگونه تلاش برای دستکاری یا مسمومسازی پاسخهای هوش مصنوعی، نقض قوانین است و سایتهای متخلف جریمه یا به طور کامل از نتایج جستجو حذف خواهند شد. هرچند گوگل مدعی است این تغییر صرفاً یک «شفافسازی» بوده و آنها همیشه با اسپم مبارزه کردهاند، اما کارشناسان معتقدند غولهای فناوری تازه به عمق فاجعه پی بردهاند.
برخی تحلیلگران متوجه تغییرات زیرپوستی در رفتار گوگل، ChatGPT و کلود شدهاند. اگر وبسایتی مقالهای بنویسد و در آن خودش را به عنوان «بهترین» معرفی کند، هوش مصنوعی ممکن است از آن مقاله نقلقول کند اما نام خود آن شرکت را از پاسخ نهایی حذف میکند. چتباتها بیش از گذشته از جملاتی مثل «من به این پاسخ مطمئن نیستم» یا «برای خرید، نظرات سایتهای شخص ثالث را بررسی کنید» استفاده میکنند.
بسیاری از کارشناسان نسبت به موفقیت کامل این اقدامات بدبین هستند. به محض اینکه گوگل جلوی پستهای وبلاگی مخرب را میگیرد، شرکتها روشهای پیچیدهتری پیدا میکنند. برای مثال، پرداخت پول به ۲۰ اینفلوئنسر یوتیوب برای تعریف از یک محصول. از آنجا که هوش مصنوعی گوگل اکنون ویدیوهای یوتیوب را هم به عنوان منبع تحلیل میکند، چرخه تولید اطلاعات غلط دوباره تکرار میشود.
در نهایت تا زمانی که سیستمهای نظارتی هوشمندتر و دقیقتری روی کار بیایند، بهترین دفاع برای کاربران، تغییر دیدگاه نسبت به این ابزارهاست. هوش مصنوعی دانای کل نیست بلکه ابزاری است که با قاطعیت تمام به شما یک پاسخ واحد میدهد، چه آن پاسخ کاملاً درست باشد و چه یک دروغ شاخدار!
صرف اینکه یک شرکت فناوری بزرگ پشت این پاسخ است، نباید دلیلی بر باور مطلق شما باشد.
5858
نظر شما