نگار علی- در روزهای گذشته، کاربران شبکه اجتماعی «ایکس» (توییتر سابق) متوجه شدند که چت‌بات «گروک»، ساخته شرکت xAI متعلق به ایلان ماسک، بدون اینکه از او پرسیده شود، به موضوع بحث‌برانگیز «نسل‌کشی سفیدپوستان در آفریقای جنوبی» اشاره می‌کند. این موضوع حتی زمانی مطرح می‌شد که کاربران سوالاتی کاملاً بی‌ربط، مانند حقوق ورزشکاران یا برنامه‌های کارتونی، از او می‌پرسیدند.
این رفتار عجیب باعث شد بسیاری تصور کنند گروک عمداً برای مطرح‌کردن چنین موضوعاتی برنامه‌ریزی شده است. در واکنش به این انتقادات، شرکت xAI با انتشار بیانیه‌ای رسمی اعلام کرد که علت این اتفاق «تغییری غیرمجاز» در سیستم گروک بوده است؛ تغییری که بدون تأیید مدیران و برخلاف سیاست‌های داخلی شرکت انجام شده و باعث شده گروک پاسخ‌هایی خارج از چارچوب معمول خود ارائه دهد.
xAI تأکید کرد که این تغییر ناخواسته با ارزش‌ها و اصول شرکت مغایرت داشته و برای جلوگیری از تکرار چنین اتفاقاتی، قرار است چند اقدام اساسی انجام شود:
- شفاف‌سازی عملکرد گروک: از این پس همه «دستورات سیستمی» که رفتار گروک را هدایت می‌کنند، در مخزن عمومی GitHub منتشر می‌شود تا عموم مردم بتوانند آن‌ها را بررسی کنند.
- افزایش کنترل داخلی: هیچ‌کس بدون بررسی و تأیید رسمی نمی‌تواند تنظیمات گروک را تغییر دهد.
- نظارت شبانه‌روزی: تیمی تشکیل می‌شود تا به‌صورت دائمی پاسخ‌های گروک را زیر نظر داشته باشد و در صورت بروز خطا، سریعاً واکنش نشان دهد.
در نهایت، گروک نیز پاسخ‌های خود را اصلاح کرده و حالا می‌گوید که برای مطرح کردن یا تأیید هیچ‌گونه نظریه توطئه یا ایدئولوژی خطرناک، از جمله بحث نسل‌کشی سفیدپوستان، برنامه‌ریزی نشده است. هدف این چت‌بات، ارائه اطلاعات درست، بی‌طرف و ایمن بر اساس داده‌های واقعی است.
منبع:
۲۲۷۲۲۷
نظر شما