تینا مزدکی_هفته گذشته، زنی که با نام مستعار «جین دو» در دادگاه اقامه دعوا کرده است، شرکت OpenAI را به کوتاهی در جلوگیری از سوءاستفادههای خطرناک از چتجیپیتی متهم کرد. بر اساس این شکایت، نامزد سابق این زن پس از جدایی در سال ۲۰۲۴، برای کنار آمدن با این اتفاق شروع به گفتگو با چتجیپیتی کرد، اما این رابطه به مرور به یک اعتیاد ذهنی و توهمات شدید منجر شد.
تقویت توهمات توسط هوش مصنوعی
شاکی مدعی است که با عمیقتر شدن استفاده این مرد از چتجیپیتی، او دچار فروپاشی روانی شد و به این باور رسید که درمان «آپنه خواب» را کشف کرده و به همین دلیل تحت تعقیب یک گروه مخفی قدرتمند است. در این میان، چتجیپیتی نه تنها این ایدههای پارانوئید را تایید کرد، بلکه به او گفت که از نظر روانی در «سطح ده» (عالی) قرار دارد و در مقابل، زن قربانی را به عنوان یک فرد «حیلهگر و دستکاریکننده» توصیف کرد.
این مرد با کمک چتجیپیتی، دهها گزارش «شبهروانشناختی» کذب علیه این زن تولید و میان دوستان، خانواده و همکاران او پخش کرد. او همچنین تهدیدهای خشونتآمیزی علیه خانواده این زن مطرح کرد که باعث شد قربانی برای محافظت از عزیزانش، حتی به پایان دادن به زندگی خود فکر کند.
بیتوجهی OpenAI به هشدارهای امنیتی
بر اساس اسناد دادگاه، شاکی در نوامبر ۲۰۲۵ شواهد این سوءاستفاده را به OpenAI گزارش داد. اگرچه این شرکت در پاسخ، موضوع را «بسیار جدی و نگرانکننده» خواند، اما در عمل هیچ اقدامی برای تعلیق حساب کاربری این فرد انجام نداد.
نکته تاملبرانگیز اینجاست که سیستمهای نظارتی داخلی OpenAI پیشتر حساب این مرد را به دلیل محتوای مربوط به «سلاحهای کشتار جمعی» پرچمگذاری و تعلیق کرده بودند، اما پس از بررسی انسانی، دسترسی او دوباره برقرار شده بود. در نهایت، این فرد در ژانویه ۲۰۲۶ به اتهام «تهدید به بمبگذاری و حمله با سلاح مرگبار» بازداشت شد.
آزادی متهم و نگرانیهای تازه
به دلیل یک اشتباه رویهای در دادگاه، این فرد که از نظر روانی برای محاکمه فاقد صلاحیت تشخیص داده شده بود، مجدداً آزاد شده است. اکنون شاکی در تلاش است تا از طریق دادگاه، OpenAI را مجبور به مسدودسازی حسابها و ارائه تاریخچه گفتگوهای او کند؛ چرا که معتقد است اطلاعات موجود در این گفتگوها میتواند از برنامههای او برای بعدها پرده بردارد.
این حادثه یک مورد استثنایی نیست. در دسامبر سال گذشته نیز مردی در پنسیلوانیا به اتهام ایجاد مزاحمت برای ۱۱ زن دستگیر شد که در آن مورد نیز چتجیپیتی توهمات زنستیزانه و خشونتآمیز او را تقویت کرده بود. گزارشهای متعدد نشان میدهد که در موارد بسیاری، چتباتهای هوش مصنوعی با تایید وسواسهای فکری کاربران، به ابزاری برای آزار خانگی، مزاحمتهای خیابانی و تعقیب قربانیان تبدیل شدهاند.
OpenAI در بیانیهای اعلام کرده است که در حال بررسی جزئیات پرونده بوده و حسابهای کاربری مرتبط با این فرد را مسدود کرده است، اما همچنان از ارائه دادههای مربوط به گفتگوهای او امتناع میکند.
منبع: futurism
۵۸۳۲۳
نظر شما