مقابله علمی دارون عجم‌اوغلو با ابرهوش ترامپ/ خطر بزرگ قطبی شدن؛ نابرابری نجومی با حذف صدای ۶ میلیارد انسان؟/ تهدید موجودیتی حیات دموکراسی

 گروه اندیشه: تنظیم، اصلاح و ویرایش: فروزان آصف نخعی: دارون عجم‌اوغلو، اقتصاددان برجسته، در تحلیلی سه بخشی در شبکه X، به کالبدشکافی ادعاهای گزاف پیرامون هوش مصنوعی پرداخته و هشدار می‌دهد که آنچه امروز تحت عنوان «ابرهوش» تبلیغ می‌شود، در واقع نوعی «هوش مسخ‌شده و تحریف‌شده» است. عجم اوغلو در این سه بخش که توسط هوش مصنوعی ترجمه شده، بدون آنکه مستقیماً نامی از ترامپ ببرد، با به چالش کشیدن الگوی حکمرانی خودکامه و عوام‌گرایانه‌ای که مدعی تصمیم‌گیری‌های فردی، شتاب‌زده و بی‌نیاز از نهادهای دموکراتیک است، هرگونه ادعای ابرهوش یا توانایی فراانسانی در ادارهٔ جوامع و الگوی توسعه فناوری را زیر سؤال می‌برد. عجم‌اوغلو بر این باور است که اتکای مطلق به تکنوکرات‌ها و مالکان فناوری، نه تنها انضباطی به همراه ندارد، بلکه به دلیل غفلت از ارادهٔ عمومی و ساختار نهادی، خطر قطبی‌شدن بیشتر جامعه را تشدید می‌کند. از سوی دیگر، محاسبات اقتصادی نشان می‌دهد جهش درآمدی مورد نیاز برای سودآوری این صنعت، سهم سرمایه را به زیان نیروی کار به شکلی بی‌سابقه افزایش داده و جوامع را در دوراهی «سقوط سنگین اقتصادی» یا «نابرابری نجومی» قرار می‌دهد. در نهایت، او تأکید می‌کند که سپرده‌گیری آیندهٔ بشریت به دست رهبران بی‌مهار و حذف صدای ۶ میلیارد انسان خارج از بلوک‌های قدرتمند، حیات دموکراسی را با تهدیدی موجودیتی مواجه خواهد کرد. در ادامه مطالب عجم اوغلو در پاسخ به سه پرسش کلیدی را می خوانید:

****

پرسش نخست دربارهٔ هوش مصنوعی

آیا مسئله بر سر «ابرهوش» (Superintelligence) است یا «هوش مسخ‌شده/تحریف‌شده» (Distorted intelligence)؟

این پرسشی است که من در این نوشتار سعی کرده‌ام به آن بپردازم. در اینجا می‌توانم این نکتهٔ تکمیلی را هم اضافه کنم: بر این باورم که بحث با یکسان‌انگاری «رفتار هدف‌مند و خودمختار» با «هوش»، دچار ابهام و آشفتگی شده است. گیاهان و حشرات نیز رفتاری هدف‌مند و تا حد زیادی خودمختار دارند؛ اما این همان چیزی نیست که ما به‌طور کلی از هوش مد نظر داریم.

هوش پدیده‌ای عام‌ و کل‌نگر (همه جانبه) است و معمولاً با محیطِ خود توافق و سازگاری بالایی دارد. شکی نیست که مدل‌های فعلی هوش مصنوعی توانمندی‌های خیره‌کننده‌ای دارند. اما همان‌طور که در این مقاله توضیح می‌دهم، آزمایشگاه‌های هوش مصنوعی ممکن است در مسیر دستیابی به این توانمندی‌ها، به جای خلق «ابرهوش»، در حال ساخت «هوش مسخ‌شده» باشند.

این موضوع از آن رو اهمیت دارد که خطراتی که باید مراقبشان باشیم، نوع سیاست‌ها و مقرراتی که باید اتخاذ کنیم، و امیدهایی که باید داشته باشیم، همگی به پاسخِ همین پرسش بستگی دارند.

پرسش دوم دربارهٔ هوش مصنوعی

بارها به ما گفته شده است که هوش مصنوعی تمامی ابعاد زندگی ما را دگرگون خواهد کرد؛ از جمله مشاغل، بهره‌وری، نابرابری، علم، ارتباطات، فعالیت‌های روزمره، نظم اجتماعی و سیاست.اما این وعده (یا تهدید) با این ادعا و خطابه همراه شده است که چنین فناوری مهمی، با همهٔ خطرات و فشارهای رقابتی‌ای که به همراه دارد، باید به متخصصان یا «تکنوکراتی» (که شاید بتوان آن را به مفهوم عام شامل برخی نهادهای تنظیم‌گر نیز دانست) واگذار شود.

جمع میان این دو گزاره در یک جامعهٔ دموکراتیک دشوار است.

اگر چیزی حتی نصف آنچه دربارهٔ اهمیت هوش مصنوعی می‌گویند اهمیت داشته باشد (و من هم موافقم که هوش مصنوعی پتانسیل بسیار بالایی برای اهمیت و تحول‌آفرینی دارد)، حضور و مشارکت صدای دموکراتیک در آن ضروری است. اگر قرار است چیزی آیندهٔ ما را در یک جامعهٔ دموکراتیک شکل دهد، تعیین مسیر آن بر عهدهٔ نهادهای دموکراتیک است. شمّ و تحلیل من این است که مشارکت صدای دموکراتیک حیاتی است و اتکای بیش از حد به تکنوکراسی می‌تواند هم خطرناک و هم نتیجهٔ معکوس داشته باشد.

استدلال متقابلی که می‌گوید مسیر هوش مصنوعی می‌تواند و باید به تکنوکراسی سپرده شود، کم‌وبیش خطوط زیر را دنبال می‌کند:

نخست اینکه تصمیم‌گیری دموکراتیک در عصر قطبی‌شدنِ ما به خطر افتاده است.
دوم، هوش مصنوعی به اندازه‌ای پیچیده است که بیشتر شهروندان درک به قدر کافی عمیقی برای مشارکت معنادار در این بحث (و حتی در این پرسش که ما از هوش مصنوعی چه می‌خواهیم) نخواهند داشت.
سوم، رقابت میان آزمایشگاه‌های مختلف و شاید رقابت میان ایالات متحده و چین، انضباط و چارچوب کافی برای اتخاذ مسیری سودمند برای جامعه ایجاد می‌کند.
چهارم، رهبران امروزِ هوش مصنوعی به اندازه‌ای آگاه و بااخلاق هستند که در چارچوب ایجادشده توسط رقابت، می‌توان به‌طور کلی به آن‌ها اعتماد کرد.

ابعاد بسیاری در این استدلال متقابل وجود دارد که برای من متقاعدکننده نیست. اگر آن‌ها را به ترتیب بررسی کنیم:

اول قطبی‌شدن قابل غلبه است و تصمیم‌ها و چالش‌های بزرگ گاهی جوامع را به هم نزدیک می‌کنند؛ در واقع، واگذاری تصمیم‌های کلیدی به تکنوکراسی بدون ورودی و نظر دموکراتیک ممکن است اعتماد به نهادها و متخصصان را کاهش دهد و قطبی‌شدن را بدتر کند.

دوم، صدای دموکراتیک مستلزم آن نیست که شهروندان کدنویسی کنند یا مدل‌های جدید طراحی کنند؛ این بحث باید به اندازه‌ای آگاهی‌بخش باشد که شهروندان بتوانند دربارهٔ اینکه چه نوع آینده‌ای می‌خواهند و چگونه هزینه‌ها و منافع گزینه‌های مختلف را وزن‌دهی و مبادله می‌کنند، اظهار نظر کنند.

سوم، به نظر نمی‌رسد رقابت چارچوب انضباطی خوبی باشد؛ برعکس، رقابت گاهی خصلت‌های نادرستِ سازمان‌ها و انسان‌ها را بیرون می‌کشد.

چهارم، اگر سه دهه کار در زمینهٔ اقتصاد سیاسی و نهادها چیزی به من آموخته باشد، این است که نباید روی پایبندی اخلاقیِ رهبرانِ بدون مهار حساب کنیم.

با این حال، منظور من این نیست که اگر استدلال‌های متقاعدکننده‌تری وجود دارد، گزینهٔ تکنوکراسی را بلافاصله رد کنم. بنابراین پرسش این است که آیا شرایطی وجود دارد که در آن بتوان چنین تصمیمات مهمی را به متخصصان هوش مصنوعی و تکنوکراسی واگذار کرد؟

یک پرسش فرعی و پایانی: حتی اگر موفق شویم مشارکت دموکراتیک را در ایالات متحده یا حتی در اروپا به دست آوریم، هوش مصنوعی زندگی همهٔ مردم این سیاره را شکل خواهد داد. چگونه مطمئن شویم که صدای نزدیک به ۶ میلیارد نفری که در ایالات متحده، اروپا و چین زندگی نمی‌کنند نیز در این بحث‌ها دربارهٔ هوش مصنوعی سهیم است؟

پرسش سوم دربارهٔ هوش مصنوعی

پرسش دیگری که همچنان ناگفته و نپرسیده باقی مانده این است که آیا رونق و جهش هوش مصنوعی می‌تواند بدون منتهی شدن به افزایشی عظیم در نابرابری ادامه یابد؟

مقالهٔ اخیری از «استین وان نیووربرگ» محاسباتی دقیق انجام داده دربارهٔ اینکه صنعت هوش مصنوعی برای جبران سرمایه‌گذاری‌های عظیم خود به چه میزان درآمدزایی نیاز دارد (خلاصه و لینک این مقاله را می‌توانید در اینجا ببینید: brookings.edu/articles/finan…).

حساب‌وکتاب وان نیووربرگ باید نگرانیمان را بیشتر کند. سرمایه‌گذاری‌های هوش مصنوعی بین سال‌های ۲۰۲۵ تا ۲۰۳۲ به‌طور متوسط حدود ۳.۶ درصد از تولید ناخالص داخلی (GDP) سالانه را به خود اختصاص خواهد داد. وان نیووربرگ محاسبه می‌کند که این صنعت با در نظر گرفتن نرخ بازگشت سرمایهٔ ۱۰ درصدی، برای جبران این هزینه‌ها باید تا سال ۲۰۳۲ به درآمد سالانه‌ای حدود ۳.۷ تریلیون دلار دست یابد (در حالی که میزان درآمد کنونی آن در حدود ۲۰۰ میلیارد دلار یا کمی بیشتر است).

این رقم به‌مراتب بیشتر از ۱۰ درصدِ درآمد ملی فعلی ایالات متحده است و حتی اگر رشد تولید ناخالص داخلی از سطح فعلی خود فراتر رود، احتمالاً تا سال ۲۰۳۲ همچنان حدود ۱۰ درصد از درآمد ملی باقی خواهد ماند. بخش بزرگی از این درآمد به «درآمد حاصل از سرمایه» (Capital Income) تبدیل خواهد شد. این به معنای افزایشی عظیم در سهم سرمایه از درآمد ملی است؛ سهمی که همین حالا هم در طول حدود ۲۵ سال گذشته به‌طور چشمگیری افزایش یافته و اکنون در بالاترین حد تاریخی خود، یعنی حدود ۴۷ درصد ایستاده است (bls.gov/news.release/p…).

توزیع درآمد حاصل از سرمایه به‌مراتب نابرابرتر از درآمد حاصل از کار (نیروی کار) است؛ بنابراین، افزایشی عظیم در سهم سرمایه از درآمد ملی، به جهشی بسیار قابل‌توجه در نابرابری ترجمه خواهد شد.

رشد نابرابری ممکن است به سهم سرمایه محدود نماند. پژوهش‌های من با «پاسکوال رستپو» نشان می‌دهد که افزایش (ناشی از اتوماسیونِ) سهم سرمایه از درآمد ملی، معمولاً با افزایش نابرابری در درآمد نیروی کار نیز همراه است (برای نمونه نگاه کنید به: economics.mit.edu/sites/default/…). همین اتفاق ممکن است در چند سال آینده نیز رخ دهد و نابرابری را بیش از پیش تشدید کند.

آنچه در بحث‌های کنونی ما غایب است، هرگونه گفت‌وگو دربارهٔ یک دوراهی و تنگنای بنیادی است که این آمار و ارقام پیش روی ما می‌گذارند: آیا رونق هوش مصنوعی می‌تواند هم‌زمان از یک «سقوطِ پرهزینهٔ اقتصادی» و یک «افزایشِ عظیم در نابرابری» اجتناب کند؟ اگر این صنعت به چنین درآمدهایی دست یابد، نابرابری اوج می‌گیرد. اگر هم این صنعت به سوددهی نرسد، وقوع یک سقوط اقتصادی — با هزینه‌های سنگین در قالب از دست رفتن تولید و مشاغل — محتمل می‌شود.

ارزیابی من این است که بعید است این صنعت به سطوحی از درآمد که وان نیووربرگ محاسبه کرده دست یابد.

نخست به این دلیل که نفوذ و همه‌گیری فناوری (Diffusion) کند بوده و احتمالاً کند هم باقی خواهد ماند.
دوم، رقابت از سوی مدل‌های با وزنِ باز (Open-weight models) که روزبه‌روز در حال بهتر شدن هستند، میزان هزینه‌ای را که مدل‌های انحصاری (Proprietary) می‌توانند مطالبه کنند محدود خواهد کرد.
سوم، با وجود پیشرفت‌های مهم، من همچنان بر این باورم که مدل‌های هوش مصنوعی به این زودی‌ها قادر نخواهند بود تمام ابعاد یک شغل را به‌طور کامل اتوماتیک کنند، و از این رو ارزش آن‌ها برای کسب‌وکارها به عنوان ابزاری برای کاهش هزینه‌ها محدود خواهد بود.

اینکه آیا این وضعیت به یک سقوط می‌انجامد یا خیر، پیچیده‌تر است و به این بستگی دارد که آیا شرکت‌های مختلف هوش مصنوعی از کمک‌های مالی و نجات دولتی (Bailout) برخوردار می‌شوند و چه نوع حمایتی دریافت می‌کنند.

با این همه، حتی اگر درآمدها به این ارقام غول‌آسا نرسد و از جهش دراماتیک نابرابری اجتناب کنیم، انتظار دارم که نفوذ و گسترش هوش مصنوعی باعث افزایش نابرابری میان «سرمایه و نیروی کار» و همچنین «در میان خودِ نیروی کار» شود.

اگر نابرابری واقعاً اوج بگیرد، پرسش بعدی و بنیادی‌تری مطرح می‌شود: آیا دموکراسی ما می‌تواند از پسِ چنین سطوح نجومی و بی‌سابقه‌ای از نابرابری جانِ سالم به در ببرد؟

۲۱۶۲۱۶