گروه اندیشه: دکتر سمیه توحیدلو عضو هیات علمی دانشگاه، در مطلبی که در کانال خود نوشته، به موضوع پیامدهای ناخواسته استفاده دائم از هوش مصنوعی اشاره کرده است. او در مطلب خود به بررسی یافتههای تکاندهنده یک مقاله پژوهشی در مجله «فلسفه و فناوری» میپردازد که تهدیدهای پنهان هوش مصنوعی برای استقلال فکری و تخصصیِ قاضیها، پزشکان و مدیران ارشد را واکاوی کرده است. نویسندگان استدلال میکنند سیستمهای تصمیمیار برخلاف ابزارهای مکانیکی، فاقد زنگ هشدار خطا هستند و کاربران را به ورطه «مهارتزدایی» و اعتماد کورکورانه میکشانند. فراتر از حذف مهارت، خطر بزرگتر «استعمار پنهان ذهن» است؛ زیرا این سیستمها بر اساس ارزشهای جوامع غربی طراحی شدهاند و سوگیریهای طراحان خود را به شکلی ناخودآگاه به متخصصان تزریق میکنند، بهطوری که این باورهای عاریتی حتی پس از قطع ارتباط با ماشین نیز در ذهن فرد باقی میماند. این پژوهش برای رهایی از این اسارت الگوریتمی، راهبرد «خودمختاری در طراحی» را پیشنهاد میدهد که با ایجاد تعمدیِ «دستاندازهای فکری» در نرمافزارها، جریان خوابآور ماشین را شکسته و اراده، شک دکارتی و کنترل خلاقانه انسان را بازسازی میکند.
****
این روزها زیاد درباره آینده مشاغل، ظهور ابرسرمایهداری دیجیتال و کمرنگ شدن نقش و اراده انسانها صحبت میشنویم. در این میان، مواجهه با رویکردهای نظری و انتقادی که ابعاد پنهان این سلطه فناورانه را واکاوی میکنند، برای ما یک ضرورت است.
یکی از این تلاشها، مقالهای پژوهشی است که در سال ۲۰۲۵ در مجله معتبر «فلسفه و فناوری» (Philosophy & Technology) منتشر شده است. این مقاله با عنوان «خودمختاری در طراحی: حفظ استقلال انسان در سیستمهای هوشمند تصمیمیار» به قلم سه پژوهشگر به نامهای استفان بویسمن، سارا کارتر و خوان پابلو برمودز نوشته شده است.
نویسندگان این اثر دست روی نکته بسیار مهمی میگذارند که معمولاً نادیده گرفته میشود: آسیبهای ابزارهای هوش مصنوعی برای استقلال فکری و تخصصی خود کارشناسان و تصمیمگیرندگان، نه فقط مردم عادی که تحت تأثیر نهایی این تصمیمات قرار میگیرند.
این مقاله نگاهش را به سمت متخصصانی مثل پزشکان، قاضیها، مدیران مالی و پژوهشگرانی میچرخاند که هر روز از هوش مصنوعی به عنوان دستیار و مشاور در تصمیمگیریهای خود استفاده میکنند. نویسندگان استدلال میکنند که این وابستگی روزمره، استقلال تخصصی انسان را در دو بخش کلیدی بهشدت تهدید میکند و کاهش میدهد: اول، «مهارت و توانمندی فردی» و دوم، «شکلگیری مستقل ارزشها و باورها».
در بخش مهارت، بزرگترین چالش این است که هوش مصنوعی برخلاف ابزارهای مکانیکی قدیمی یا حتی دستگاههای پیشرفتهای مثل امآرآی، وقتی دچار خطا، انحراف یا سوگیری میشود، هیچ هشدار واضحی به ما نمیدهد. این سیستمها چنان روان، جذاب و بیصدا در جریان کار روزمره ما حل میشوند که ما اصلاً متوجه حضورشان نمیشویم و ذهنمان در یک حالت تسلیم و آرامش فرو میرود.
این پدیده باعث میشود آن بخش از ذهن ما که وظیفه نظارت بر خودمان، شک کردن و سنجش تصمیمها را دارد، عملاً از کار بیفتد. وقتی ماشین بیدارباش و هشدار خطا ندارد، انسان یا دچار شک افراطی میشود و کاراییاش پایین میآید، یا به ورطه اعتماد بیش از حد سقوط میکند و توصیههای غلط ماشین را کورکورانه میپذیرد.
در درازمدت، این وابستگی به «مهارتزدایی» منجر میشود؛ یعنی پزشکان یا مدیرانی که مدام از این ابزارها استفاده میکنند، به مرور زمان تخصص، دانش تجربی و حتی اعتمادبهنفس حرفهای خود را از دست میدهند، بهطوری که اگر ماشین را از آنها بگیریم، کارایی مستقل آنها بهشدت افت میکند.
اما تهدید دوم بسیار پنهانتر و از نظر جامعهشناختی نگرانکنندهتر است: مخدوش شدن اصالت باورها و ارزشهای ما. نویسندگان نشان میدهند که هوش مصنوعی یک ابزار بیطرف نیست؛ بلکه ارزشها، اولویتها و سوگیریهای طراحانش را به صورت کاملاً ناخودآگاه به کاربر انسانی تزریق میکند.
شواهد تجربی مقاله ثابت میکند که کاربران به مرور زمان و بدون آنکه متوجه شوند، نگاه و سوگیریهای مدل را به ارث میبرند و این تغییر نگرش، حتی بعد از قطع ارتباط با ماشین هم در ذهن آنها به عنوان باور شخصی باقی میماند. این یعنی نوعی مهندسی پنهان ذهن کارشناسان توسط غولهای فناوری.
نکته مهم اینجاست که این سیستمها عمدتاً بر اساس دادهها و ارزشهای جوامع غربی، صنعتی و ثروتمند توسعه یافتهاند. این یعنی اصالت فکری و فرهنگی متخصصان در جوامع غیرغربی و حاشیهای، در معرض همسانسازی ناخواسته قرار دارد؛ آنها ارزشهایی را میپذیرند که با هویت بومیشان در تضاد است، اما چون این فرآیند نامرئی است، توانایی ارزیابی و مقاومت در برابر آن را ندارند.
با این حال، آنها راهکاری ساختارمند به نام «خودمختاری در طراحی» پیشنهاد میدهند. حرف اصلی آنها این است که برای نجات اراده و کرامت انسان در این چرخه، باید کل محیط تعامل انسان و ماشین بازطراحی شود. یکی از پیشنهادهای آنها، ایجاد تعمدی «دستاندازهای فکری» در سیستمهاست؛ یعنی طراحان باید عمداً موانع و ایستگاههای تاملبرانگیزی در نرمافزارها بگذارند تا آن جریان خوابآور ماشین را بشکند و کاربر را مجبور به فکر کردن، شک کردن و بازاندیشی کند.
همچنین روابط کار باید بازتعریف شود؛ به جای اینکه انسان فقط اپراتوری باشد که خطاهای ماشین را اصلاح میکند (که این خودش مهارت را نابود میکند)، وظایف باید طوری تقسیم شوند که انسان کنترل خلاقانه و گامبهگام کار را حفظ کند.
در نهایت، نیاز مبرمی به آموزشهای دورهای مستقل و بدون حضور هوش مصنوعی برای متخصصان وجود دارد تا حافظه مهارتی جامعه زنده بماند.
این مقاله یادآوری میکند که پیش رفتن بر لبه دانش فنی، اگر با طراحی هوشمندانه و بازپسگیری اراده انسانی همراه نباشد، این نردبان مشاغل ما را به سمتی میبرد که در آن تخصص و استقلال فکریمان بهکلی مسخ خواهد شد.
۲۱۶۲۱۶
نظر شما