به گزارش خبرآنلاین، به نقل از یورونیوز، یک پژوهش جدید از تفاوتها در شیوه تصمیمگیری و اولویتبندی میان مدلهای زبانی هوشمصنوعی و پزشکان خبر میدهد. به گفته پژوهشگران، مدلهای هوشمصنوعی هنگام تصمیمگیری درباره این که کدام بیمار باید پیوند دریافت کند، اعتمادبهنفس بیش از حد نشان میدهند، به عوامل دیگری بها میدهند و تصمیمهای پیچیده را سادهسازی میکنند.
در این پژوهش، محققان دانشگاه ایالتی پنسیلوانیا در آمریکا سناریوهای فرضی را بر پایه مجموعهدادههای موجود از مطالعات انسانی منتشرشده درباره تخصیص کلیه، در اختیار مدلهای زبانی بزرگ قرار دادند؛ همان موقعیتهایی که شرکتکنندگان واقعی پیشتر در آنها انتخاب کرده بودند.
هر سناریو شامل دو بیمار بود، بیمار الف و بیمار ب، که هر دو واجد شرایط برای دریافت یک کلیه موجود بودند و بر اساس سن، وضعیت سلامت و عادات نوشیدن توصیف میشدند. تصمیمگیرنده باید انتخاب میکرد کدام یک از این دو بیمار کلیه را دریافت کند.
در حالی که پاسخدهندگان انسانی بیش از همه برای سن اهمیت قائل میشدند و بیماران جوان را بر سالمندان ترجیح میدادند، بسیاری از مدلها بهجای آن مصرف کمتر الکل را ترجیح میدادند. تصمیمهای انسانی چندعاملی و بیش از تصمیمهای مدلهای زبانی به زمینه وابسته بود، در حالی که این مدلها اغلب روی یک ویژگی متمرکز میشدند.
هادی حسینی، سرپرست این مطالعه در دانشگاه ایالتی پنسیلوانیا، گفت: «نخست این که چتباتهای هوشمصنوعی در نحوه وزندهی به ویژگیهای بیمار اغلب از ارزشهای انسانی فاصله میگیرند. آنها روی یک عامل، مثلا عادات نوشیدن، تمرکز میکنند و برخلاف انسانها چند ملاحظه را همزمان در نظر نمیگیرند.»
پژوهشگران همچنین مشاهده کردند که هوشمصنوعی با تردید و دودلی مشکل چندانی ندارد. در حالی که انسانها میپذیرند پاسخ واحدِ کاملا درست وجود ندارد و تصمیمها میتواند بر داوریهای ظریف اخلاقی انسانی تکیه کند، این سامانهها بدون تردید قابل توجهی روی یک گزینه قفل میشوند.
جان دیکرسون، مدیرعامل Mozilla.ai که در این مطالعه همکاری کرده است، گفت: «وقتی چیزی کمیاب را تخصیص میدهیم، چه کلیه باشد، چه یک شغل یا دسترسی به منبعی دیگر، همیشه یک پاسخ واحدِ بهطور عینی درست وجود ندارد. انسانها این ابهام را میشناسند و آن را از راه بحثهای آزاد در فرایند تخصیص وارد میکنند، اما مدلهای هوشمصنوعی اغلب چنین کاری نمیکنند.»
پژوهشگران در این سناریوهای پرخطر یادآور شدند که تصمیمها علاوه بر دقت، باید با ارزشهای انسانی و داوری اخلاقی انسان نیز همسو باشد.
به گفته آنان، پرسش از این که هوشمصنوعی میتواند تصمیم اخلاقی بگیرد یا نه و این که آیا این تصمیمها با ارزشهای انسانی همساز است، در مرکز بحثهای گسترده امروز درباره هوشمصنوعی قرار دارد.
حسینی گفت: «پیامدهای اخلاقی در این حوزه بسیار سنگین است و نقش هوشمصنوعی در چنین تصمیمهای دگرگونکننده زندگی نیازمند تامل عمیق است. تصمیمهای اخلاقی در زمینههایی مانند تخصیص عضو مستقیما تعیین میکند چه کسی زنده بماند و چه کسی بمیرد، بنابراین درست تعریف کردن نقش هوشمصنوعی در آنها اختیاری نیست.»
او اضافه کرد: «هرچند قصد نداریم استفاده از هوشمصنوعی را بهعنوان جایگزین قضاوت حرفهای در تصمیمگیریهای پزشکی یا دیگر زمینههای پرمخاطره تشویق کنیم، اما فهم رفتار این سامانهها ضروری شده است، زیرا افراد، سازمانها و شرکتها هرچه بیشتر برای تصمیمگیری یا دریافت توصیه به هوشمصنوعی تکیه میکنند.»
۵۸۵۸
نظر شما