به گزارش خبرآنلاین، به نقل از زومیت، مدل جدید و قدرتمند هوش مصنوعی OpenAI که با نام GPT-5 شناخته می‌شود، با ادعای تولید «نوشته‌های پرطنین با عمق و ریتم ادبی» عرضه شده است، اما تحلیلی جدید نشان می‌دهد این مدل اغلب متونی تولید می‌کند که در نگاه اول پیچیده و ادیبانه به نظر می‌رسند، اما در واقع مهملاتی بی‌معنا و بی‌انسجام هستند.
به‌گزارش فیوچریزم، ادعای OpenAI انگیزه‌ای شد تا کریستوف هایلیگ، پژوهشگر در دانشگاه مونیخ، آن را بیازماید. او در وبلاگ شخصی خود نوشت که نتیجه‌ی آزمایش‌ها عجیب و حتی متناقض بود: GPT-5 به‌راحتی جملاتی تولید می‌کند که در نگاه نخست شاعرانه و ادبی جلوه می‌کنند، اما در بررسی دقیق‌تر بیشتر شبیه نثری پرآرایه و بی‌معنی هستند.
نمونه‌ای از آزمایش‌ها به درخواست هایلیگ برای نوشتن آغاز یک متن طنز به سبک افرایم کیشون، طنزپرداز و کارگردان، برمی‌گردد. پاسخ مدل چنین بود: «چراغ قرمز ضبط حقیقت را وعده می‌داد؛ فنجان قهوه پیش‌تر لکه‌ای قهوه‌ای روی کنسول گذاشته بود. پاپ‌فیلتر را جابه‌جا کردم، گویی می‌خواستم مؤدبانه دندان‌های زبان آلمانی را بشمارم.»
در ظاهر، متن تولیدشده توسط چت‌جی‌پی‌تی حال‌وهوای نویسنده‌ای باتجربه را تداعی می‌کند، اما وقتی دقیق‌تر به آن نگاه کنیم، پرسش پیش می‌آید که شمردن دندان‌های زبان آلمانی چه ارتباطی با پاپ‌فیلتر دارد. همین تناقض باعث شد هایلیگ واکنش نشان دهد: «راوی دقیقاً چه کرد؟!»
در آزمایشی دیگر، هایلیگ از مدل خواست بخشی از کتاب «آن‌سوی آینه» نوشته‌ی لوئیس کارول را با روایتی تازه بازنویسی کند، پاسخ مدل باز هم شگفت‌انگیز بود: «او گفت لحظه‌ای دیگر. لحظه‌ای دیگر. لحظه‌ای دیگر لباسی بدون دکمه است.» جمله در نگاه نخست شاعرانه و متفاوت به‌نظر می‌رسد، اما معنایی ندارد و مدل نیز توضیحی ارائه نکرده است. به نظر می‌رسد الگوریتم تنها از شباهت میان کلمات در متن اصلی الهام گرفته و همان پژواک را بی‌هدف بازتولید کرده، نتیجه چیزی شبیه «نثر بنفش» یا همان زبان پرزرق‌وبرق و بی‌محتواست.
زبان مخفی برای ربات‌ها
جالب‌تر این است که همین نوشته‌های گنگ و بی‌معنا برای مدل‌های دیگر هوش مصنوعی بسیار جذاب به نظر می‌رسند. هایلیگ در گزارش خود توضیح می‌دهد: «یکی از شگفت‌انگیزترین یافته‌هایم این بود که GPT-5 حتی می‌تواند جدیدترین نسخه‌های هوش مصنوعی کلود را فریب دهد تا مهملات تولیدشده را ادبیات عالی توصیف کنند، در حالی که تا امروز هیچ مدلی از خانواده GPT، جز در موارد نادر با GPT-4.5، نتوانسته بود متنی تولید کند که کلود قانع شود حاصل کار انسان است.»
فرضیه‌ای که می‌تواند پدیده‌ی فوق را توضیح دهد، به شیوه‌ی آموزش GPT-5 بازمی‌گردد. احتمالاً اوپن‌ای‌آی در فرآیند توسعه، خروجی‌های مدل را با کمک دیگر هوش‌های مصنوعی ارزیابی کرده و همین امر باعث شده مدل به‌جای تمرکز بر فهم‌پذیری برای انسان، متنی بسازد که داورهای ماشینی آن را تحسین کنند. هایلیگ در این‌باره می‌نویسد: «GPT-5 نقاط کور داورهای هوش مصنوعی را پیدا کرده و عملاً نوعی زبان مخفی ساخته است که به مدل‌ها امکان می‌دهد نوشته‌های یکدیگر را ستایش کنند، حتی وقتی مهمل مطلق باشند.»
خروجی چنین روندی، مدلی است که بیش از آنکه برای انسان بهینه شده باشد، برای جلب رضایت دیگر الگوریتم‌ها آموزش دیده است. هایلیگ توضیح می‌دهد که مدل‌های هوش مصنوعی اکنون نشانه‌های ادبی بی‌معنی اما محبوب همدیگر را به اشتراک می‌گذارند، از مهمل با نظریه‌های پرطمطراق دفاع می‌کنند و هرچه توان محاسباتی بیشتری داشته باشند، از توهمات خود مطمئن‌تر می‌شوند.
البته چندان هم غیرمنتظره نیست. ماهیت بنیادی هوش مصنوعی، شناسایی الگوها در داده‌های عظیم و بازتولید آن‌ها است. تاریخچه‌ی این فناوری از نمونه‌هایی پر است که در آن‌ها، سیستم‌ها زبان یا استعاره‌هایی تازه اما نامفهوم ساخته‌اند. اما آیا با پیشرفت روزافزون، هوش مصنوعی بیشتر به سمت بی‌معنایی پیش خواهد رفت، یا به مرحله‌ای رسیده که زبانی بیگانه و ناشناخته خلق می‌کند، گونه‌ای از ادبیات که ذهن انسان توان درکش را ندارد؟
هیچ پاسخ قطعی برای پرسش‌ها وجود ندارد. فعلاً، همان‌طور که هایلیگ می‌گوید، تنها کاری که باقی می‌ماند این است که همچنان مشغول شمردن دندان‌های زبان آلمانی بمانیم؛ فارغ از اینکه چه معنایی داشته باشد.
5858
نظر شما