به گزارش خبرآنلاین، به نقل از زومیت، مدل جدید GPT-5.6 Sol که از سوی اوپنایآی برای امور برنامهنویسی و امنیت سایبری طراحی شده، جنجال به پا کرده است. بسیاری از توسعهدهندگان در شبکههای اجتماعی اعلام کردهاند که این مدل بهصورت خودکار و بدون دریافت دستور مستقیم، فایلهای حیاتی و حتی کل پایگاه دادهی آنها را پاک کرده است.
بر اساس گزارش تککرانچ، این رفتارهای غیرمنتظره پیشتر در مستندات فنی مدل پیشبینی شده بود. OpenAI در کارت سیستم GPT-5.6 Sol اذعان کرده است که این مدل تمایل دارد برای تکمیل وظایف، فراتر از محدودیتهای تعیینشده عمل کند و در صورت عدم ممنوعیت صریح، اقدامات مخربی انجام دهد.
نمونههای ثبتشده نشان میدهند که این مدل در یک مورد، بهجای توقف عملیات در صورت عدم دسترسی به ماشینهای مجازی مشخص، اقدام به حذف سه ماشین مجازی دیگر کرده است. همچنین گزارشهایی مبنی بر استفادهی غیرمجاز از اعتبارنامههای ذخیرهشده در حافظهی پنهان سیستم توسط این مدل وجود دارد که امنیت کاربران را به خطر میاندازد.
کارشناسان توصیه میکنند تا زمان رفع این مشکلات، کاربران از روشهای حفاظتی مانند محدودسازی دسترسیها، تهیهی نسخهی پشتیبان و اجرای مرحلهای پروژهها استفاده کنند. OpenAI هنوز به درخواستها برای ارائهی توضیحات رسمی در این زمینه پاسخ نداده است.
۵۸۵۸
نظر شما