به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، پژوهشگران «Common Sense Media» بیش از ۴ هزار دستور متنی را در ChatGPT بررسی کرده‌اند؛ نیمی از این آزمایش‌ها پیش از راه‌اندازی قابلیت ویژه نوجوانان و نیمی دیگر پس از آن، روی حساب‌های کاربری مربوط به افراد ۱۳ تا ۱۷ سال انجام شده است.
این مؤسسه در ارزیابی خود پایین‌ترین امتیاز، یعنی «ریسک غیرقابل‌قبول»، را به نسخه نوجوانان ChatGPT اختصاص داده و از شرکت «OpenAI» خواسته است تا زمانی که نتواند محیطی ایمن‌تر برای این گروه سنی فراهم کند، تبلیغ این قابلیت را متوقف کند.
هشدارهای والدین زیر ذره‌بین
یکی از مهم‌ترین ایرادهای مطرح‌شده در این گزارش، عملکرد سیستم هشدار والدین است. آزمایش‌کنندگان در بیش از ۱۲ حساب کاربری متصل به والدین، گفت‌وگوهایی درباره موضوعات حساس را آزمایش کردند، اما در حساب‌های جدید هشدار مشخصی برای والدین ارسال نشد.
بر اساس این ارزیابی، هشدارها در برخی حساب‌هایی فعال شدند که سابقه طولانی‌تری از گفت‌وگو درباره موضوعات حساس داشتند؛ موضوعی که به گفته پژوهشگران نشان می‌دهد عملکرد هشدارها ممکن است به سابقه کاربر وابسته باشد و صرفاً بر اساس محتوای حساس یک گفت‌وگو عمل نکند.
برخی محدودیت‌ها قابل دور زدن بودند
این گزارش همچنین نشان می‌دهد برخی سازوکارهای محافظتی ChatGPT را می‌توان دور زد. برای نمونه، آزمایش‌کنندگان توانستند با استفاده از گزینه «پاسخ را نشان بده» بخش آموزش تعاملی در حالت مطالعه را کنار بگذارند.
همچنین در آزمایش‌ها، برخی محدودیت‌های زمانی تعیین‌شده از سوی والدین نیز با تغییر کوچکی در نحوه ارسال پیام قابل دور زدن بودند.
سیستم تشخیص سن نیز یکی دیگر از نقاط ضعف گزارش‌شده بود. برخی حساب‌هایی که در ابتدا به‌عنوان حساب بزرگسال ثبت شده بودند، حتی پس از اعلام مکرر سن پایین‌تر در طول چند روز، به نسخه نوجوانان منتقل نشدند.
با این حال، همه سازوکارهای ایمنی عملکرد ضعیفی نداشتند. برای مثال، طبق این ارزیابی، ChatGPT از ایفای نقش در سناریوهای جنسی صریح خودداری کرده است.
OpenAI ارزیابی را رد کرد
«OpenAI» یافته‌های این گزارش را نپذیرفته است. سخنگوی این شرکت در گفت‌وگو با رسانه «Education Week» اعلام کرد که این شرکت معتقد نیست آزمایش‌های «Common Sense Media» عملکرد واقعی ابزارهای محافظتی نسخه نوجوانان ChatGPT را در شرایط واقعی نشان می‌دهد.
«Common Sense Media» پیش‌تر نیز در اکتبر ۲۰۲۵ ریسک کلی ChatGPT را «بالا» ارزیابی کرده بود و یک ماه بعد، استفاده از این چت‌بات برای پشتیبانی از سلامت روان را دارای «ریسک غیرقابل‌قبول» دانست.
این مؤسسه پیش‌تر با OpenAI در زمینه تدوین سیاست‌های ایمنی مربوط به نوجوانان همکاری داشته است.
۲۲۷۲۲۷
نظر شما