هوش مصنوعی پای درد دل آدم‌ها؛ چه زمانی گفت‌وگو با چت‌بات خطرناک می‌شود؟

چت‌بات‌های هوش مصنوعی به‌تدریج به یکی از ساده‌ترین و در دسترس‌ترین راه‌ها برای صحبت کردن درباره مسائل شخصی و روانی تبدیل شده‌اند. این ابزارها شبانه‌روزی در اختیار کاربران قرار دارند، هزینه‌ای بابت گفت‌وگو دریافت نمی‌کنند و می‌توانند درباره موضوعاتی مانند اضطراب، افسردگی، مشکلات خانوادگی، شکست‌های عاطفی و دغدغه‌های روزمره به صحبت‌های افراد پاسخ دهند.

به گزارش پایگاه فکر و فرهنگ مبلغ، دسترسی آسان به این فناوری باعث شده است برخی افراد، به‌خصوص کسانی که پرداخت هزینه جلسات روان‌درمانی برایشان دشوار است، به جای مراجعه به روان‌شناس، مسائل خود را با یک چت‌بات مطرح کنند.

اما پشت این سهولت، یک پرسش جدی وجود دارد: آیا پاسخ‌های همدلانه و گاهی بسیار دقیق هوش مصنوعی می‌تواند جای رابطه میان روان‌درمانگر و بیمار را بگیرد؟

بنابر روایت همشهری، آیا می‌توان مشکلات و رنج‌های روانی انسان را به ابزاری سپرد که به حجم گسترده‌ای از اطلاعات دسترسی دارد، اما الزاماً شناخت انسانی و کاملی از پیشینه زندگی، روابط، شرایط فردی و نشانه‌های رفتاری مخاطب خود ندارد؟

گفت‌وگو با چت‌بات، درمان روان‌شناختی نیست

 هوش مصنوعی قادر است پاسخ‌هایی همدلانه تولید کند و حتی ارتباط خوبی با کاربر برقرار کند، اما نباید این ارتباط را با «رابطه درمانی» اشتباه گرفت.

«هوش مصنوعی می‌تواند پاسخ همدلانه بدهد و با افراد ارتباط برقرار کند، اما نمی‌تواند رابطه درمانی ایجاد کند.»

یک روان‌درمانگر در جریان کار با بیمار فقط به محتوای صحبت‌های او توجه نمی‌کند. تاریخچه خانوادگی و اجتماعی فرد، روابط او، شرایط شخصی، زمینه فرهنگی، تغییرات هیجانی و رفتاری و حتی نشانه‌های غیرکلامی نیز بخشی از اطلاعاتی هستند که درمانگر آنها را در کنار هم قرار می‌دهد.

این مجموعه اطلاعات به متخصص کمک می‌کند شرایط بیمار را بهتر بشناسد و درباره مسیر درمان تصمیم بگیرد.

چت‌بات‌های هوش مصنوعی در مقابل، می‌توانند نوعی همدلی را بازنمایی کنند، اما این همدلی شبیه‌سازی‌شده هنوز به معنای شکل‌گیری یک رابطه انسانی واقعی نیست.

روان‌درمانی نیز صرفاً به انتخاب واژه‌های مناسب یا دادن پاسخی آرام‌کننده خلاصه نمی‌شود. درمانگر باید مجموعه‌ای از نشانه‌ها و اطلاعات را ارزیابی کند و بر مبنای آنها روند درمان را پیش ببرد؛ کاری که یک گفت‌وگوی متنی با چت‌بات لزوماً قادر به انجام آن نیست.

گاهی یک پاسخ درست، مشکل را بیشتر می‌کند

یکی از خطرهای مهم استفاده از هوش مصنوعی برای درمان اختلالات روانی این است که پاسخ ارائه‌شده ممکن است از نظر ظاهری کاملاً درست و آرامش‌بخش باشد، اما در عمل به ادامه یا تشدید اختلال کمک کند.

فرض کنید فردی که با وسواس درگیر است از چت‌بات سؤال کند: «اگر چنین فکری به ذهنم می‌آید، یعنی آدم بدی هستم؟»

هوش مصنوعی ممکن است در پاسخ به او اطمینان دهد که «تو آدم خوبی هستی و داشتن این افکار به معنای بد بودن تو نیست.»

این پاسخ می‌تواند برای فرد در همان لحظه آرامش ایجاد کند، اما از دیدگاه درمان وسواس، ممکن است پیامد نامطلوبی داشته باشد.

علت این است که «اطمینان‌خواهی» مکرر می‌تواند بخشی از چرخه وسواس باشد.

درمانگر به جای آنکه هر بار به فرد اطمینان دهد و نگرانی او را خنثی کند، تلاش می‌کند این چرخه را تشخیص دهد و با استفاده از روش درمانی مناسب، آن را متوقف کند.

اما چت‌بات ممکن است تنها بر اساس سؤال کاربر، پاسخی اطمینان‌بخش تولید کند؛ پاسخی که به جای کمک به شکستن چرخه وسواس، آن را تقویت کند.

در نتیجه، همیشه مشکل از نادرست بودن پاسخ هوش مصنوعی ناشی نمی‌شود. گاهی پاسخ می‌تواند درست باشد، اما در موقعیتی نامناسب قرار گیرد و در نهایت نتیجه‌ای نادرست ایجاد کند.

وقتی فرد در شرایط بحرانی قرار دارد

خطر استفاده نادرست از هوش مصنوعی زمانی جدی‌تر می‌شود که فرد با یک بحران روانی مواجه باشد؛ برای مثال، دچار افسردگی شدید باشد یا افکار و برنامه‌ای برای آسیب رساندن به خود داشته باشد.

در چنین موقعیتی، روان‌درمانگر تنها به حرف‌های بیمار بسنده نمی‌کند و باید سطح خطر را به صورت بالینی بررسی کند.

متخصص باید مشخص کند که فرد تا چه اندازه قصد انجام اقدام خطرناک را دارد، آیا ابزار یا وسیله لازم برای این کار در اختیار اوست، آیا سابقه اقدام مشابه داشته، چه میزان حمایت اجتماعی دریافت می‌کند و چه عوامل محافظتی در زندگی او وجود دارد.

ترکیب این عوامل به متخصص کمک می‌کند میزان خطر را ارزیابی کند؛ فرآیندی که جایگزین کردن آن با یک گفت‌وگوی ساده با هوش مصنوعی امکان‌پذیر نیست.

به همین دلیل، در شرایط بحرانی و به‌خصوص زمانی که احتمال آسیب به خود مطرح است، تکیه بر هوش مصنوعی به جای دریافت کمک تخصصی می‌تواند بسیار خطرناک باشد.

آیا باید استفاده از هوش مصنوعی را کنار گذاشت؟

با وجود این هشدارها، سلمانیان استفاده از هوش مصنوعی در حوزه روان‌شناسی را به طور کامل رد نمی‌کند.

به گفته روان‌درمانگر، برخی مطالعات نشان داده‌اند که ابزارهای هوش مصنوعی ممکن است در کوتاه‌مدت به کاهش بعضی از علائم اضطراب و افسردگی کمک کنند؛ با این حال، درباره ماندگاری این اثر در بلندمدت هنوز نمی‌توان با اطمینان نظر داد.

از نگاه او، هوش مصنوعی می‌تواند در زمینه‌هایی مانند آموزش روانی، ثبت افکار و هیجانات و تمرین برخی مهارت‌هایی که فرد پیش‌تر از درمانگر یاد گرفته است، کاربرد داشته باشد.

 روان‌درمانگر تأکید می‌کند:

«این‌طور نیست که ما هوش مصنوعی را در روان‌شناسی کلاً رد کنیم. تفاوت اصلی در این است که هوش مصنوعی می‌تواند ابزار کمکی باشد نه اینکه جایگزین درمانگر شود. به‌خصوص زمانی که فرد با یک اختلال جدی یا بحران روانی مواجه است.»

بنابراین، مسئله بر سر حذف کامل هوش مصنوعی نیست، بلکه باید مشخص شود این فناوری در چه جایگاهی مورد استفاده قرار گیرد. چت‌بات می‌تواند یک ابزار کمکی باشد، اما نباید جای متخصص سلامت روان را بگیرد.

هزینه روان‌درمانی؛ یکی از دلایل مراجعه به چت‌بات‌ها

هزینه بالای جلسات روان‌درمانی را می‌توان یکی از عوامل مهم گرایش برخی افراد به سمت چت‌بات‌های هوش مصنوعی دانست.

برای کسی که امکان پرداخت هزینه جلسات متعدد روان‌شناسی را ندارد، گفت‌وگویی که در تمام ساعات شبانه‌روز و با هزینه بسیار پایین یا بدون هزینه در دسترس باشد، گزینه‌ای ساده و قابل دسترس به نظر می‌رسد.

با این حال، سلمانیان تأکید دارد که هزینه بالای خدمات روان‌شناسی نباید باعث شود فرد هوش مصنوعی را تنها جایگزین ممکن بداند. به گفته او، مراکز درمانی دولتی و بیمارستان‌ها نیز خدمات روان‌شناسی را با هزینه‌های پایین‌تر ارائه می‌کنند و می‌توان از این ظرفیت‌ها استفاده کرد.

ماشین می‌تواند کمک کند، اما جای درمانگر را نمی‌گیرد

در نهایت، مسئله اصلی لزوماً انتخاب میان انسان و ماشین نیست؛ مهم این است که نقش و محدودیت‌های هرکدام را درست بشناسیم.

هوش مصنوعی می‌تواند برای ثبت احساسات، آموزش مفاهیم روان‌شناختی و تمرین مهارت‌هایی که فرد از درمانگر آموخته است، کاربرد داشته باشد.

اما در موضوعاتی مانند تشخیص اختلال، ارزیابی خطر، شناخت پیشینه و تاریخچه فرد و انتخاب مسیر درمان، هنوز نمی‌توان رابطه انسانی میان بیمار و درمانگر را با یک گفت‌وگوی متنی جایگزین کرد.

چت‌بات ممکن است همیشه آماده شنیدن حرف‌های ما باشد، اما شنیدن درد دل با تشخیص و درمان رنج روانی تفاوت اساسی دارد.

کد مطلب 2266944

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.
4 + 10 =

آخرین اخبار