ورود به عصر «پساشرمساری» بانگارش هوش مصنوعی؟/ «انباشت آماری» به جای «تجربهٔ زیسته» / نقطهٔ عطف در نویسندگی با هوش مصنوعی

گروه اندیشه: تنظیم، اصلاح و ویرایش: فروزان آصف نخعی: این مقاله در وبسایت آتلانتیک توسط ویل اورموس (Will Oremus) در دفاع از نگارش مقاله توسط هوش مصنوعی نوشته، و برگردان آن به فارسی هم توسط هوش مصنوعی انجام شده است. متن پیش‌رو نشان‌دهندهٔ چرخش بنیادین در «معرفت‌شناسی نگارش» و «فلسفهٔ عامل انسانی» است. از منظر فلسفی، اورموس معتقد است عادی‌سازی نگارش ماشینی بر پایه‌نوعی «فایده‌گرایی ابزاری» (Instrumental Utilitarianism) استوار شده که متن را صرفاً «محصولی کارآمد» برای انتقال داده می‌داند، نه بستری برای «فرآیند اندیشیدن». این رویکرد، تجسدِ ذهن و ارزش شناختی «کلنجار رفتن با کلمات» را نادیده می‌گیرد و میان «صورت اندیشه» (نثر روان) و «ماهیت اندیشه» (فهم و نیت) تفکیکی کاذب قائل می‌شود.

از بعد معرفت‌شناختی، اتکا به مدل‌های زبانی به دلیل دستکاری پنهان در ساختار شناختی، به «فروپاشی استدلال» و یکدست‌سازی ایدئولوژیک می‌انجامد؛ زیرا ماشین نه به بازآفرینی «تجربهٔ زیسته»، بلکه به میانگین‌گیری آماری از متون گذشته متکی است. تقلیل نگارش به ابزاری مثل «کبریت» یا «ماشین‌حساب»، مغالطه‌ای است که مرز میان «محاسبه» و «معناآفرینی» را درهم می‌ریزد. در نهایت، گذر از «مقاومت اخلاقی» به «بی‌تفاوتی منفعلانه» و حذف شرط «شفافیت»، مفهوم «اصالت» (Authenticity) و «مسئولیت کلام» را فرسوده کرده و با جایگزینی تسلیمِ تکنولوژیک به جای خردورزی انتقادی، نهادهای معرفتی را از درون تهی می‌سازد. این مقاله در ادامه از نظرتان می گذرد: 

****

زمانی بود—دورانی معصومانه‌تر—که می‌توانستید یادداشتی تحلیلی را در یک روزنامهٔ بزرگ بخوانید و با اطمینان بگویید که یک انسان آن را نوشته است. یاد و خاطرهٔ آن دوران را تا جایی که می‌توانید در ذهن نگه دارید.

این هفته، پس از آنکه استنلی دراکن‌میلر (Stanley Druckenmiller)، سرمایه‌گذار میلیاردر، یادداشتی را در وال‌استریت ژورنال در انتقاد از وزیر خزانه‌داری، اسکات بسنت (Scott Bessent)—که زمانی دست‌پروردهٔ خودش بود—منتشر کرد، خوانندگان متوجه برخی تکیه‌کلام‌ها و ویژگی‌های آشنای نگارش با هوش مصنوعی شدند. طبق داده‌های Pangram (ابزار تشخیص هوش مصنوعی)، این یادداشت ۱۰۰ درصد توسط هوش مصنوعی تولید شده بود.

این موضوع به خودی خود چندان شوکه‌کننده نبود. متون نوشته‌شده با هوش مصنوعی—برخلاف قوانین و سیاست‌های رسانه‌ها—به‌طور منظم به outlets (رسانه‌های اصلی) و به‌ویژه صفحات یادداشت روزنامه‌ها نفوذ کرده‌اند. تا پیش از این، کسانی که متهم به قالب‌کردن نوشته‌های کامپیوتر به عنوان اثر خود می‌شدند، یا عذرخواهی یا آن را انکار می کردند. در ماه آوریل، جیمز ترانتو (James Taranto)، ادیتور بخش یادداشت‌های وال‌استریت ژورنال، ستونی نوشت و ابزار Pangram را به یک «ماشین هتک حرمت و اتهام‌زنی» تشبیه کرد که باعث تقویت اتهامات بی‌اساس دربارهٔ استفاده از هوش مصنوعی (از جمله در یادداشت‌هایی که خود او نظارت داشته) شده است. او نوشت: «کسانی از ما که نویسندگی را به عنوان یک حرفهٔ تخصصی دنبال می‌کنیم، وظیفه‌ای اخلاقی و گاه تعهدی قراردادی داریم تا مطمئن شویم کارمان اصیل و دست‌اول است.»

تفاوت این بار در این بود که دراکن‌میلر مسئولیت آن را پذیرفت و به آن اذعان کرد. او روز سه‌شنبه به رسانهٔ NOTUS گفت: «معلوم است که از هوش مصنوعی استفاده کردم. از این بابت هیچ خجالتی هم نمی‌کشم. من الان همه‌چیز را با هوش مصنوعی می‌نویسم، به همان دلیلی که وقتی مسائل ریاضی را حل می‌کنم از ماشین‌حساب استفاده می‌کنم.» و وال‌استریت ژورنال نیز به جای توبیخ او، از این اقدام دفاع کرد.

پل گیگو (Paul Gigot)، سردبیر بخش یادداشت‌های ژورنال، در بیانیه‌ای گفت: «هوش مصنوعی یکی از واقعیت‌های زندگی امروز است.» دیشب، گیگو این موضوع را با یک ستون کامل پیگیری کرد و «فریسیان/متظاهران رسانه‌ای» را که برای نگارش خودکار انگشت‌نما و خط‌ونشان می‌کشند، به باد تمسخر گرفت. او تصریح کرد که اعضای تحریریهٔ بخش یادداشت ژورنال همچنان باید ستون‌ها و یادداشت‌های خود را شخصاً بنویسند، اما گفت که قصد ندارد استفاده از هوش مصنوعی توسط نویسندگان و تحلیل‌گران خارج از روزنامه را پلیسی و کنترل کند.

او نوشت: «بسیاری از یادداشت‌نویسان، به‌ویژه سیاستمداران برجسته یا مدیران عامل، از سخن‌نویسان (Speechwriters) استفاده می‌کنند یا یک بنگاه نگارش در واشنگتن را به کار می‌گیرند. این کار چه تفاوتی با استفاده از هوش مصنوعی برای روان‌سازی و تنظیم یک مقاله دارد؟»

اینکه دراکن‌میلر خجالت نمی‌کشد یک چیز است؛ خیلی از غول‌های تجاری و فناوری نسبت به کاربرد هوش مصنوعی برای نویسندگی و تقریباً هر کار دیگری کاملاً خوش‌بین هستند. چامات پالپاتییا (Chamath Palihapitiya)، سرمایه‌گذار ریسک‌پذیر، در شبکهٔ X نوشت: «اگر استن دراکن‌میلر خجالت نمی‌کشد، شما هم نباید بکشید.» او افزود ارزشمند دانستن فرآیند نگارش انسانی بدون کمک ابزار، «مثل این است که بعد از اختراع کبریت، هنوز زمانِ طاقت‌فرسای مالیدن دو تکه چوب به هم را جشن بگیریم.» با این حال، اینکه یکی از معتبرترین روزنامه‌های آمریکا از این فناوری در صفحات خود استقبال کند، بی‌سابقه است. آیا نگارش با هوش مصنوعی در حال ورود به عصر «پساشرمساری» خود است؟

گیگو چندان هم اشتباه نمی‌گوید؛ صراحت دراکن‌میلر در زمانی که بخش زیادی از دنیای نویسندگی در انکار گیر کرده است، تقریباً تازه‌گی دارد و دلپذیر به نظر می‌رسد. همچنین ادعای او مبنی بر اینکه مقاله‌ای که توسط هوش مصنوعی تنظیم شده می‌تواند منعکس‌کنندهٔ افکار اصیل یک انسان باشد، معقول است. من ادعا نمی‌کنم که دربارهٔ بازارهای اوراق قرضه آن‌قدر می‌دانم که بخواهم یادداشت دراکن‌میلر را از نظر محتوایی ارزیابی کنم، اما به نظر می‌رسد این مقاله استدلالی ماهوی و غیربدیهی را مطرح کرده که به‌طور کلی منسجم با دیدگاه‌های اوست—صرف‌نظر از اینکه چه کسی (یا چه چیزی) کلمات آن را کنار هم چیده است. به هر حال، یادداشت‌های تحلیل‌گران و چهره‌های عمومی معمولاً شاهکارهای ادبی نویسندگی نیستند.

اما این تصور که دراکن‌میلر و گیگو به خاطر صداقت‌شان شایستهٔ تمجیدند، بی‌توجهی آنها به «شفافیت» را نادیده می‌گیرد. تا پیش از این هفته، تنها چیزی که همه در بحث نگارش با هوش مصنوعی همچنان بر سر آن توافق داشتند، اهمیت افشاگری و اعلام شفاف آن بود. به نظر می‌رسد بخش یادداشت‌های ژورنال از این مرز رد شده است. در یادداشت دراکن‌میلر هیچ نشانه‌ای مبنی بر اینکه او از هوش مصنوعی استفاده کرده وجود ندارد. گیگو در ستون خود، این ایده را که خوانندگانش حق دارند بدانند چه زمانی یک مطلب با کمک چت‌بات نوشته شده است، تحقیر کرد. او پرسید: «چه چیزی را افشا کنیم؟ از یک نویسنده بازجویی کنیم که دقیقاً چطور از ChatGPT استفاده کرده؟ می‌دانم برخی نشریات ادعا می‌کنند این کار را انجام می‌دهند، اما گمان می‌کنم این کار بیشتر تشریفاتی است تا سیستماتیک.» (گیگو به درخواست‌های من برای اظهارنظر پاسخ نداد، و سخنگوی داو جونز، شرکت مادر ژورنال، نیز پاسخی نداد. ترانتو از طریق ایمیل به من گفت که پای یادداشت ماه آوریل خود ایستاده و معتقد است سخنان گیگو با آنچه او نوشته همخوانی دارد.)

اگر مدیران ارشد ژورنال واقعاً باور دارند که برای خوانندگان‌شان مهم نیست که یک یادداشت توسط هوش مصنوعی نوشته شده یا نه، چه ضرری دارد که بگذارند خوانندگان از آن مطلع شوند؟ در واقع، مطالعات نشان داده‌اند که خوانندگان گاهی نثر یا داستان‌های کوتاه ChatGPT را به نمونه‌های انسانی ترجیح می‌دهند—اما وقتی از دخالت هوش مصنوعی مطلع می‌شوند، نظرشان برمی‌گردد و دلزده می‌شوند. گیگو ممکن است از این موضوع نتیجه بگیرد که مردم در واقع نوشته‌های هوش مصنوعی را دوست دارند و فقط هنوز خودشان متوجه آن نشده‌اند. تعبیر دیگر این است که مردم ترجیح می‌دهند زمان محدود خود را صرف نثری کنند که از ذهنِ یک انسان دیگر تراویده است.

شاید واگذاری نوشتن یک یادداشت به هوش مصنوعی، تفاوت بنیادی با واگذاری آن به یک نویسندهٔ سایه (Ghostwriter / کسی که به نام دیگری می‌نویسد) نداشته باشد. (هرچند اگر این‌طور است، شاید باید پیش از آنکه از نویسندگی سایه برای توجیه هوش مصنوعی استفاده کنیم، خود این سنت را زیر سؤال ببریم.) در هر صورت، جهش ژورنال از انکارِ «نخیر، این‌طور نیست» به بی‌تفاوتیِ «خب که چی؟»، شتاب‌زده به نظر می‌رسد. بله، بسیاری از فناوری‌های تحول‌آفرین در مسیر پذیرش عمومی بر مقاومت‌ها غلبه کرده‌اند، اما این به معنای اتلاف وقت بودنِ آن مقاومت‌ها نیست. این مقاومت بخشی از نحوهٔ شکل‌گیری هنجارها، تعیین حدود و زمان خریدن جامعه برای تطبیق یافتن است. انتشار نوشته‌های هوش مصنوعی زیر نام یک انسان بدون اطلاع دادن به مردم، به جای ساختن اعتماد، بیشتر باعث فرسایش و از بین رفتن اعتماد مردم به این فناوری می‌شود.

دلیل دیگری هم برای حفظ هنجارِ افشاسازی وجود دارد: وقتی مردم اجازه می‌دهند یک چت‌بات نوشتن‌شان را انجام دهد—حتی اگر در حال هدایت و بررسی دقیق کار آن باشند—ممکن است متوجه نشوند که این ابزار در حال انجام بخشی از «تفکر» آنها نیز هست. جنا راسل (Jenna Russell)، دانشجوی دکتری علوم کامپیوتر در دانشگاه مریلند که به بررسی نگارش هوش مصنوعی در روزنامه‌ها پرداخته، به من گفت که جدیدترین خط تحقیقاتی همکارانش مربوط به «فروپاشی استدلال» (Argument collapse) است. در مقاله‌ای که هنوز داوری همتا (Peer-review) نشده، پژوهشگران مریلند دریافتند که مقالات نوشته‌شده توسط هوش مصنوعی بسیار کمتر از مقالاتی که تماماً توسط انسان‌ها نوشته شده‌اند، نقاط نظر و استدلال‌های جدید و نوآورانه مطرح می‌کنند. راسل گفت: «این مدل‌های زبانی بزرگ (LLM) می‌توانند بدون اینکه خودمان آگاهانه متوجه شویم، بر ایدئولوژی‌های ما تأثیر بگذارند.»

شاید پذیرش مسئولیت استفاده از هوش مصنوعی توسط دراکن‌میلر و چراغ سبز ژورنال به او، نویدبخش عصر جدیدی از نگارش مکانیزه و بدون عذاب وجدان باشد. یا شاید این فقط نمونهٔ دیگری از قسر در رفتنِ ثروتمندان و قدرتمندان از کاری است که دیگران مجاز به انجامش نیستند. دفاع گیگو از دراکن‌میلر نشان داد که اعتبار و جایگاه او، نگرانی‌ها دربارهٔ استفاده‌اش از هوش مصنوعی را مخدوش و بی‌اثر کرده است. گیگو نوشت: «مشارکت او در بحث‌های عمومی همچنان ارزشمند بود و او هر زمان که بخواهد قدمش بر چشم صفحات ماست.» در مقابل، وقتی نویسنده‌ای نه‌چندان شناخته‌شده به نام میا بالارد (Mia Ballard) متهم شد که در رمان ترسناک خود به نام Shy Girl از هوش مصنوعی استفاده کرده است، ناشرش تحقیقاتی را آغاز کرد، کتاب را لغو نمود و آبروی او را کاملاً از بین برد.

اینکه این ماجرا برای ژورنال و باقی این صنعت چگونه رقم خواهد خورد، احتمالاً—و از قضا به‌درستی—به نیروهای بازار بستگی دارد. اگر مردم واقعاً حاضر باشند برای نظرات و دیدگاه‌هایی که توسط چت‌بات‌ها بیان شده پول بپردازند، احتمالاً نشریات دیگر نیز همین مسیر را دنبال خواهند کرد. آنها با کمبودی از کمیتِ کمکیِ نویسندگانی مواجه نخواهند شد که مشتاقند چند پرامپت (دستور) را به یک یادداشت چاپ‌شده تبدیل کنند.

۲۱۶۲۱۶