پنج نکته هولناک درباره هوش مصنوعی

به گزارش خبرآنلاین، امیلی بندر و الکس هانا نویسندگان کتاب «The AI Con» پرده از پنج حقیقت تاریک درباره هوش مصنوعی برمی‌دارند. این پنج حقیقت، نه‌تنها ما را هوشیارتر می‌کند، بلکه به ما قدرت می‌دهد که با آگاهی و مسئولیت‌پذیری در برابر این هیاهو بایستیم.

نخستین حقیقتی که نویسندگان کتاب به آن می‌پردازند، ماهیت واقعی فناوری‌های فعلی هوش مصنوعی است. شاید در نگاه اول، چت‌بات‌هایی مانند ChatGPT یا تصویرسازهای هوشمند، شگفت‌انگیز به‌نظر برسند. اما آنچه واقعاً در پشت این شگفتی‌ها جریان دارد، یک «ترفند زبانی» ماهرانه است. این سیستم‌ها به‌جای آن‌که خودشان درک و شعور داشته باشند، فقط تقلیدکننده‌های حرفه‌ای زبان هستند.

به نقل از یک‌پزشک، ما انسان‌ها هنگام خواندن یا شنیدن یک متن، ذهن‌مان را بر اساس دانسته‌ها و پیش‌داوری‌هایمان فعال می‌کنیم. یعنی کلمات را نه‌تنها به‌عنوان علامت‌های ساده، بلکه به‌عنوان حامل‌های نیّت، احساس و بافت اجتماعی تفسیر می‌کنیم. وقتی با متنی روبه‌رو می‌شویم که ظاهراً روان و خوش‌ساخت است، ناخودآگاه تصور می‌کنیم نویسنده‌ای باهوش و آگاه در پس آن ایستاده است. اما در حقیقت، هوش مصنوعی هیچ ذهنی، هیچ تجربه‌ای و هیچ احساس انسانی‌ ندارد. آنچه ما به‌عنوان «قابلیت فهم» درک می‌کنیم، در واقع بازتاب قدرت تخیل و تفسیر خودمان است.

به‌عبارت دیگر، این چت‌بات‌ها صرفاً ترکیب‌کننده‌های زبانی هستند که با آمار و احتمالات کار می‌کنند. آن‌ها الگوهای زبانی ما را می‌شناسند و به‌کمک آن‌ها، جمله‌هایی می‌سازند که شبیه به سخنان انسانی به‌نظر برسند. این ترفند زبانی، ما را مسحور می‌کند و باعث می‌شود قدرت واقعی‌شان را بسیار بیشتر از آنچه هست، تصور کنیم.

هوش مصنوعی شغل شما را نمی‌گیرد، اما آن را بدتر می‌کند

دومین حقیقت تلخ درباره هوش مصنوعی، تأثیری است که بر دنیای کار و شغل‌ها می‌گذارد. برخلاف داستان‌های پرهیجان که می‌گویند هوش مصنوعی همه مشاغل را از بین خواهد برد، در واقعیت، این فناوری بیشتر از آن‌که جای ما را بگیرد، کیفیت و شرایط کارمان را نابود می‌کند. نمونه بارز این وضعیت، اعتصاب بزرگ نویسندگان هالیوود در سال ۲۰۲۳ بود. اعضای اتحادیه نویسندگان، نه‌تنها برای افزایش دستمزدها می‌جنگیدند، بلکه از این بیم داشتند که مجبور شوند بازنویسی‌های کم‌ارزش بر روی خروجی‌های خام چت‌بات‌ها انجام دهند.

این وضعیت به‌معنای ازبین‌رفتن خلاقیت انسانی است. وقتی شرکتی می‌تواند با پرداخت دستمزد پایین‌تر، یک نویسنده یا طراح را مجبور کند فقط «خطاهای هوش مصنوعی» را درست کند، عملاً فرصت‌های رشد و خلاقیت او را سلب می‌کند. همچنین، این پدیده در مشاغلی مانند طراحی گرافیک، تولید محتوای ویدیویی یا روزنامه‌نگاری نیز رخ داده است. شرکت‌ها، با کمک همین ابزارهای ماشینی، خروجی‌های متوسط و ارزان تولید می‌کنند و بعد، نیروهای انسانی را به‌عنوان «ویرایشگر» یا «تنظیم‌کننده» با دستمزد کم دوباره به‌کار می‌گیرند.

از سوی دیگر، این سیستم‌ها اغلب، کاری را که به‌ظاهر «اتوماتیک» انجام می‌دهند، در واقع پشت‌پرده به نیروهای انسانی در کشورهای فقیر برون‌سپاری می‌کنند. کارگرانی که با دستمزد ناچیز و فشار کاری بالا باید محتوای نامناسب را پالایش کنند، یا حتی در پشت‌صحنه به‌عنوان راننده ماشین‌های «خودران» عمل کنند. در حالی‌که ظاهراً ماشین‌ها جای ما را می‌گیرند، در حقیقت، نوعی «کار ارزان‌تر و بی‌رحمانه‌تر» را جایگزین کرده‌اند.

بهره‌کشی در سایه اتوماسیون

یکی از حقیقت‌های کمتر دیده‌شده درباره هوش مصنوعی، نحوه «پنهان کردن» کار انسانی زیر نقاب فناوری‌های خودکار است. نویسندگان کتاب «The AI Con» به ما یادآوری می‌کنند که بسیاری از کارهایی که به‌ظاهر توسط ماشین‌ها انجام می‌شوند، در واقع همچنان متکی به نیروی انسانی‌اند. نیروی انسانی‌ای که صدای اعتراضش شنیده نمی‌شود. این اتفاق در صنایع دیجیتال، از جمله در حوزه‌های نظارت بر محتوا یا کنترل کیفیت، به‌وضوح دیده می‌شود.

برای مثال، هزاران کارگر در کشورهای درحال‌توسعه، با دستمزدهای بسیار پایین، تصاویر خشونت‌آمیز یا متون نفرت‌پراکن را پالایش می‌کنند. این افراد نه‌تنها در معرض محتوای آزاردهنده و روان‌فرسا هستند، بلکه به‌دلیل نبود حمایت‌های اجتماعی یا بیمه‌های مناسب، اغلب با مشکلات جدی سلامت روان و اقتصادی روبه‌رو می‌شوند. در همین حال، غول‌های فناوری، خروجی‌های پالایش‌شده را به‌نام «خودکارسازی» به‌عنوان محصول نهایی به ما می‌فروشند.

از سوی دیگر، ابزارهای هنری مانند Nightshade و Glaze در همین دوران متولد شده‌اند تا هنرمندان بتوانند از آثار خود محافظت کنند و جلوی استفاده بدون اجازه آن‌ها در مدل‌های هوش مصنوعی را بگیرند. این مقاومت‌های خلاقانه، نشانه‌ای است از این‌که هرچند شرکت‌های بزرگ می‌خواهند ما را وادار به پذیرش «اتوماسیون مطلق» کنند، اما هنوز هم امکان ایستادگی و بازپس‌گیری قدرت وجود دارد.

خطر توهمات پزشکی

یکی دیگر از لایه‌های تاریک هوش مصنوعی، وعده‌های فریبنده‌ای است که دربارهٔ استفاده از این فناوری در حوزه‌های حیاتی مانند پزشکی، آموزش و عدالت اجتماعی مطرح می‌شود. به‌ظاهر، چت‌بات‌ها یا مدل‌های هوش مصنوعی می‌توانند به‌راحتی نقش پزشک یا وکیل یا معلم را ایفا کنند. اما وقتی دقیق‌تر نگاه می‌کنیم، می‌بینیم این ابزارها هیچ درک واقعی از پیچیدگی‌های انسانی ندارند.

برای نمونه، شرکت گوگل پروژه Med-PaLM را به‌عنوان الگوریتمی معرفی کرد که می‌تواند آزمون‌های پزشکی را پشت سر بگذارد. اما مدیر همین پروژه، گرگ کورادو، در مصاحبه‌ای اذعان کرد که هرگز نمی‌خواهد خانواده‌اش از چنین سیستمی استفاده کنند! این تناقض آشکار، نشان می‌دهد که اغلب این فناوری‌ها فقط در سطح آزمون‌های استاندارد یا محتوای ازپیش‌تعریف‌شده موفق عمل می‌کنند، نه در موقعیت‌های واقعی که تصمیمات انسانی، دلسوزانه و پرجزئیات لازم دارد.

علاوه‌براین، این ادعاها که هوش مصنوعی می‌تواند با «هزینه‌ای ناچیز» خدمات عمومی ارائه دهد، راه را برای کاهش بودجه‌های عمومی و تضعیف سیاست‌های اجتماعی باز می‌کند. در حالی‌که افراد ثروتمند همچنان از پزشکان و وکلای واقعی استفاده می‌کنند، مردم عادی باید به «ماشین‌های حرف‌زن» بسنده کنند؛ ماشین‌هایی که نه عاطفه دارند و نه مسئولیت‌پذیری انسانی.

تهدید واقعی

پنجمین و آخرین حقیقتی که بندر و هانا به ما یادآوری می‌کنند، بسیار مهم و حیاتی است: در حالی‌که بسیاری در سیلیکون‌ولی از خطر احتمال نابودی بشر به‌دست هوش مصنوعی سخن می‌گویند، واقعیت این است که تهدید فوری و واقعی، بحران اقلیمی است. ماشین‌ها قرار نیست به‌طور جادویی دنیا را تصاحب کنند، اما همین ماشین‌ها و زیرساخت‌هایشان، سوخت لازم برای تشدید بحران‌های زیست‌محیطی را فراهم می‌کنند.

مراکز داده‌ای (Data Centers) که قدرت هوش مصنوعی را تأمین می‌کنند، انرژی بسیار زیادی مصرف می‌کنند و ردپای کربنی عظیمی از خود به‌جا می‌گذارند. علاوه‌براین، قطعات الکترونیکی آن‌ها، شامل نیمه‌هادی‌ها (Semiconductors)، حاوی مواد شیمیایی پایدار و آلاینده‌ای هستند که با نام Forever Chemicals شناخته می‌شوند و می‌توانند در خاک و آب برای همیشه باقی بمانند.

موتورهای پشتیبان دیزلی که در زمان قطع برق برای مراکز داده روشن می‌شوند و با تولید ذرات آلاینده، بیماری‌های تنفسی و قلبی را در جوامع فقیر تشدید می‌کنند را هم به فهرست اضافه کنید. این‌جا دیگر بحث «آینده مبهم» نیست؛ بلکه بحرانی است که همین حالا در حال رخ دادن است. در حالی‌که ثروتمندان و قدرتمندان در جایگاه‌های امن خود نشسته‌اند، هزینه‌های سنگین این آلودگی‌ها و بی‌عدالتی‌ها را اقشار ضعیف جامعه می‌پردازند.

در یک نگاه کلی می‌توان گفت تبلیغات پر زرق‌وبرق پیرامون هوش مصنوعی، در بسیاری موارد، چیزی فراتر از یک توهم نیست. پشت پرده این «نوآوری‌ها»، بهره‌کشی از نیروی انسانی کم‌درآمد، تهدیدهای زیست‌محیطی و کاهش شأن حرفه‌ای کارگران در سراسر جهان نهفته است. درحالی‌که ابزارهای هوش مصنوعی فقط «بازتابی از داده‌های گذشته» هستند، آنچه واقعاً نیاز داریم، نگاه انسانی، روابط اصیل و نهادهای مسئول است.

۵۸۵۸