اگر هوش مصنوعی خسارت بزند، چه کسی ضامن است؟ بررسی فقهی مسئولیت ماشین‌های هوشمند

به گزارش پایگاه فکر و فرهنگ مبلغ، هوش مصنوعی دیگر فقط موضوع فیلم‌های علمی‌تخیلی یا آزمایشگاه‌های فناوری نیست. این فناوری در حوزه‌هایی مانند تشخیص پزشکی، استخدام، ارزیابی درخواست‌های مالی، تولید محتوا و ارائه اطلاعات حقوقی به کار گرفته می‌شود؛ حوزه‌هایی که تصمیم‌های اشتباه در آن‌ها می‌تواند بر جان، مال، آبرو و حقوق افراد تأثیر بگذارد.

بنابر روایت مهر، در چنین شرایطی، تعیین مسئولیت شرعی و مالی خسارت‌های ناشی از عملکرد سامانه‌های هوشمند اهمیت بیشتری پیدا می‌کند. قواعدی مانند اتلاف، تسبیب و غرور در فقه اسلامی می‌توانند چارچوبی برای بررسی این موضوع فراهم کنند؛ با این حال، نمی‌توان بدون بررسی شرایط هر پرونده، تمام مسئولیت را متوجه یک شخص دانست یا با استناد به تصمیم‌گیری ماشین، نقش انسان‌ها را نادیده گرفت.

وقتی خطای هوش مصنوعی به انسان آسیب می‌زند

تصور کنید یک مرکز درمانی از هوش مصنوعی برای تحلیل نتایج آزمایش بیماران استفاده می‌کند. سامانه، وضعیت یک بیمار را به‌اشتباه کم‌خطر تشخیص می‌دهد و پزشک نیز بدون بررسی مستقل، به نتیجه آن اعتماد می‌کند. در نهایت، درمان به تأخیر می‌افتد و بیمار دچار آسیب جدی می‌شود.

در نمونه‌ای دیگر، یک شرکت از سامانه هوشمند برای بررسی رزومه متقاضیان استخدام استفاده می‌کند، اما خطا یا سوگیری موجود در طراحی سامانه باعث می‌شود برخی افراد واجد شرایط از فرایند استخدام کنار گذاشته شوند.

در هر دو مثال، فناوری در تصمیم‌گیری نقش داشته است؛ اما صرف اینکه یک سامانه خروجی نادرستی تولید کرده، مشخص نمی‌کند چه کسی از نظر شرعی مسئول جبران خسارت است.

برای تعیین مسئولیت باید چند موضوع بررسی شود:

- آیا سامانه واقعاً دچار خطا شده است؟
- آیا احتمال وقوع خطا قابل پیش‌بینی بوده است؟
- آیا سازنده، محدودیت‌ها و خطرهای شناخته‌شده محصول را اعلام کرده است؟
- آیا استفاده‌کننده دستورالعمل‌های لازم را رعایت کرده است؟
- آیا امکان بررسی انسانی نتیجه و جلوگیری از خسارت وجود داشته است؟
- رابطه میان رفتار هر شخص و خسارت واردشده تا چه اندازه قابل اثبات است؟

پاسخ به این پرسش‌ها می‌تواند در شناسایی عامل مسئول و تعیین مبنای جبران خسارت نقش داشته باشد.

 قواعد فقهی چگونه مسئولیت هوش مصنوعی را بررسی می‌کنند؟

فقه اسلامی برای بررسی خسارت، قواعدی در اختیار دارد که می‌توانند در تحلیل مسائل جدید فناوری نیز مورد توجه قرار گیرند. با این حال، تطبیق این قواعد بر عملکرد سامانه‌های هوشمند به شناخت دقیق شرایط هر پرونده نیاز دارد.

 ۱. قاعده اتلاف؛ وقتی رفتار فرد مستقیماً به خسارت منجر می‌شود

قاعده اتلاف به وضعیتی مربوط است که شخص مال دیگری را از بین می‌برد یا مستقیماً به آن آسیب می‌زند. در چنین شرایطی، استفاده از ابزار به‌خودی‌خود موجب رفع مسئولیت نمی‌شود.

برای مثال، اگر فردی با استفاده از یک دستگاه به مال دیگری آسیب برساند، صرف اینکه دستگاه واسطه وقوع خسارت بوده، لزوماً او را از مسئولیت خارج نمی‌کند.

در مورد هوش مصنوعی نیز باید بررسی شود که آیا میان رفتار شخص، استفاده از سامانه و خسارت ایجادشده ارتباطی وجود دارد که بتوان زیان را به او نسبت داد یا خیر.

بنابراین، صرف وقوع خطا در یک نرم‌افزار برای نتیجه‌گیری درباره ضمان کافی نیست و باید شرایط انتساب خسارت بررسی شود.

 ۲. قاعده تسبیب؛ وقتی یک شخص زمینه وقوع خسارت را فراهم می‌کند

گاهی فرد مستقیماً خسارت را ایجاد نمی‌کند، اما رفتار یا کوتاهی او زمینه وقوع زیان را فراهم می‌آورد. در این وضعیت، بررسی مسئولیت می‌تواند بر اساس قاعده تسبیب انجام شود.

برای نمونه، شرکتی را در نظر بگیرید که سامانه‌ای هوشمند را برای یک کاربرد حساس عرضه می‌کند. اگر شرکت از وجود نقص خطرناک در سامانه آگاه باشد، اما بدون هشدار مناسب آن را در اختیار کاربران قرار دهد، نقش این شرکت در وقوع خسارت باید بررسی شود.

البته تولید یک نرم‌افزار یا احتمال خطاپذیری آن، به‌تنهایی برای اثبات ضمان کافی نیست. باید شرایط انتساب زیان و سایر عوامل مرتبط با وقوع آن مشخص شود.

۳. قاعده غرور؛ وقتی اعتماد به اطلاعات گمراه‌کننده موجب زیان می‌شود

قاعده غرور نیز در برخی شرایط می‌تواند برای بررسی مسئولیت مورد توجه قرار گیرد. این قاعده به وضعیت‌هایی مربوط است که شخص بر اثر فریب یا ایجاد تصور نادرست از سوی دیگری، اقدامی انجام می‌دهد و زیان می‌بیند.

برای مثال، اگر فروشنده یک سامانه هوش مصنوعی آن را کاملاً دقیق و بدون خطا معرفی کند، در حالی که از محدودیت‌های جدی آن آگاه است، اعتماد خریدار به این ادعا ممکن است در بررسی مسئولیت فروشنده مؤثر باشد.

با این حال، هر خطای فنی یا تبلیغ اغراق‌آمیز را نمی‌توان بدون بررسی شرایط، مصداق قطعی قاعده غرور دانست. تحقق شرایط این قاعده و ارتباط آن با خسارت باید جداگانه بررسی شود.

در کنار این قواعد، اصل احترام به حقوق اشخاص نیز اهمیت دارد. بهره‌گیری از فناوری نباید بهانه‌ای برای نادیده‌گرفتن حقوق مردم یا شانه خالی کردن از مسئولیت باشد.

 آیا خود هوش مصنوعی از نظر شرعی مسئول است؟

یکی از پرسش‌های مهم در بحث مسئولیت سامانه‌های هوشمند این است که آیا می‌توان برای هوش مصنوعی شخصیت مستقلی در نظر گرفت تا مسئولیت خسارت‌های ناشی از عملکرد آن بر عهده خودش باشد.

در نگاه نخست، ممکن است چنین راهکاری ساده به نظر برسد: اگر ماشین اشتباه کرده است، خود ماشین پاسخ‌گو باشد. اما مسئولیت حقوقی و شرعی تنها به شناسایی عامل فیزیکی وقوع حادثه محدود نمی‌شود.

موضوعاتی مانند اهلیت، اختیار، امکان انتساب رفتار، توانایی پذیرش تکلیف و وجود دارایی قابل دسترس برای جبران خسارت نیز مطرح‌اند.

یک سامانه هوش مصنوعی می‌تواند با استفاده از داده‌ها، الگوریتم‌ها و الگوهای آموخته‌شده، خروجی تولید کند و حتی در برخی محیط‌ها بدون دخالت مستقیم انسان تصمیم بگیرد. با این حال، توانایی تولید خروجی پیچیده یا تصمیم‌گیری خودکار، به‌تنهایی ثابت نمی‌کند که سامانه دارای قصد، آگاهی اخلاقی یا اهلیت لازم برای تحمل مسئولیت شرعی است.

از همین رو، نسبت دادن تکلیف شرعی به هوش مصنوعی به استدلالی فراتر از مشاهده رفتار هوشمندانه نیاز دارد.

 پژوهش‌های فقهی درباره شخصیت حقوقی هوش مصنوعی چه می‌گویند؟

در پژوهش‌های داخلی، دیدگاه‌های مختلفی درباره نحوه تعیین مسئولیت ناشی از عملکرد هوش مصنوعی مطرح شده است.

مقاله «چالش‌های هوش مصنوعی و مبانی مسئولیت مدنی آن در فقه» امکان اعطای شخصیت حقوقی به هوش مصنوعی را نیز مورد توجه قرار داده است. در مقابل، مقاله «بررسی فقهی مسئولیت مدنی در فناوری هوش مصنوعی» بر ضرورت شناسایی عامل انسانی مرتبط با خسارت تأکید می‌کند؛ زیرا جبران خسارت به سازوکاری عملی برای پاسخ‌گویی نیاز دارد و سامانه هوشمند به‌خودی‌خود لزوماً امکان جبران مالی آن را ندارد.

این تفاوت دیدگاه‌ها نشان می‌دهد که نباید یک پیشنهاد پژوهشی را حکم قطعی یا مورد اتفاق فقهی معرفی کرد.

اعطای شخصیت حقوقی به سامانه‌های هوشمند، انتساب مسئولیت به اشخاص انسانی و طراحی سازوکارهای جبران خسارت، هرکدام موضوعی مستقل برای بررسی هستند. حتی اگر در آینده برای برخی سامانه‌ها جایگاه حقوقی ویژه‌ای تعریف شود، همچنان باید مشخص باشد چه کسی کنترل واقعی فناوری را در اختیار دارد و زیان‌دیده چگونه می‌تواند خسارت خود را دریافت کند.

مسئولیت شرعی سازنده، کاربر و شرکت استفاده‌کننده چیست؟

در بسیاری از پرونده‌های مرتبط با هوش مصنوعی، نمی‌توان از ابتدا مسئولیت را فقط متوجه یک شخص دانست. ممکن است چند عامل در کنار یکدیگر موجب وقوع خسارت شده باشند.

برای مثال، سازنده ممکن است در طراحی یا آزمایش محصول کوتاهی کرده باشد؛ شرکت عرضه‌کننده محدودیت‌های آن را اعلام نکرده باشد؛ سازمان بهره‌بردار بدون آموزش کافی از سامانه استفاده کند؛ یا کاربر برخلاف هشدارهای روشن، فناوری را در موقعیتی پرخطر به کار گیرد.

در هر یک از این وضعیت‌ها، نقش افراد باید با توجه به شرایط واقعی بررسی شود.

فرض کنید سامانه هوشمندی در ارزیابی درخواست‌های وام دچار اشتباه می‌شود. برای تعیین مسئولیت باید مشخص شود که آیا داده‌های ورودی نادرست بوده‌اند، الگوریتم به‌درستی طراحی شده، سامانه پیش از استفاده آزمایش شده و تصمیم نهایی بدون نظارت انسانی گرفته شده است یا خیر.

اگر شرکت از خطاهای شناخته‌شده سامانه آگاه بوده و برای اصلاح آن‌ها اقدامی نکرده باشد، وضعیت آن با حالتی که کاربر عمداً اطلاعات نادرست وارد کرده است، تفاوت دارد.

بنابراین، پرسش اصلی این نیست که صرفاً «هوش مصنوعی مقصر است یا انسان؟» بلکه باید مشخص شود کدام رفتار یا کوتاهی در وقوع خسارت نقش داشته و بر اساس چه مبنایی می‌توان مسئولیت را به هر عامل نسبت داد.

گاهی یک شخص مستقیماً در وقوع زیان نقش دارد و شخص دیگری زمینه آن را فراهم می‌کند. در برخی موارد نیز عوامل متعدد به یکدیگر وابسته‌اند و تعیین نقش هرکدام به بررسی کارشناسی نیاز دارد.

آیا هر خطای هوش مصنوعی موجب ضمان می‌شود؟

پاسخ کوتاه این است که هر خطای هوش مصنوعی به‌طور خودکار به معنای تحقق ضمان نیست.

برای بررسی مسئولیت باید میان خطای سامانه، وقوع خسارت واقعی، رابطه سببیت و امکان انتساب زیان به شخص موردنظر تفاوت گذاشت.

ممکن است هوش مصنوعی اطلاعات نادرستی تولید کند، اما هیچ خسارت قابل انتسابی رخ ندهد. در مقابل، گاهی یک خطای ظاهراً کوچک به زیانی جدی منتهی می‌شود.

همچنین ممکن است خروجی سامانه نادرست باشد، اما استفاده‌کننده نیز به دلیل بی‌احتیاطی یا رعایت نکردن تعهدات خود، مسئولیت جداگانه‌ای داشته باشد.

برای مثال، اگر یک سامانه تولید متن اطلاعات حقوقی نادرستی ارائه کند، صرف ارائه پاسخ اشتباه به معنای تحقق خودکار ضمان نیست. باید بررسی شود که آیا فرد به آن اطلاعات اعتماد کرده، خسارتی به وجود آمده، سامانه برای چه کاربردی معرفی شده و چه میزان بررسی انسانی متعارف بوده است.

اگر همان سامانه در یک تصمیم‌گیری حساس سازمانی به کار گرفته شود، الزامات مربوط به دقت، نظارت و کنترل خطر ممکن است با استفاده شخصی و غیرحساس آن متفاوت باشد.

تفاوت مسئولیت اخلاقی با ضمان مالی

نکته مهم دیگر، تفاوت میان مسئولیت اخلاقی و ضمان مالی است.

ممکن است رفتار یک شرکت از نظر اخلاقی غیرمسئولانه باشد، اما برای تعیین ضمان مالی باید شرایط و مبانی فقهی مربوط احراز شود. از سوی دیگر، نداشتن قصد آسیب‌رساندن نیز به‌تنهایی همه صورت‌های مسئولیت را منتفی نمی‌کند.

به همین ترتیب، صرف وقوع خسارت هم برای انتساب مسئولیت به هر شخصی کافی نیست. نوع رفتار، رابطه آن با زیان و شرایط مرتبط با هر پرونده باید مورد بررسی قرار گیرد.

جمع‌بندی؛ در خسارت‌های ناشی از هوش مصنوعی چه کسی باید پاسخ‌گو باشد؟

گسترش هوش مصنوعی پرسش‌های تازه‌ای درباره مسئولیت شرعی و مالی ایجاد کرده است، اما این مسئله را نمی‌توان با یک پاسخ یکسان برای همه موقعیت‌ها حل کرد.

قواعد فقهی اتلاف، تسبیب و غرور می‌توانند چارچوبی برای تحلیل این پرونده‌ها فراهم کنند؛ با این حال، تطبیق هر قاعده به شرایط وقوع خسارت، نقش افراد دخیل و امکان انتساب زیان بستگی دارد.

در یک پرونده ممکن است عملکرد سازنده یا عرضه‌کننده سامانه نیازمند بررسی باشد؛ در پرونده‌ای دیگر، کوتاهی کاربر یا سازمان بهره‌بردار اهمیت بیشتری پیدا کند. همچنین امکان دخالت چند عامل در وقوع خسارت را نمی‌توان نادیده گرفت.

از سوی دیگر، اینکه هوش مصنوعی خروجی تولید می‌کند یا بدون دخالت مستقیم انسان تصمیم می‌گیرد، به‌تنهایی برای اثبات مسئولیت شرعی مستقل آن کافی نیست. این موضوع همچنان به بررسی مبانی فقهی و حقوقی نیاز دارد.

در نهایت، مسئله اساسی فقط خطاپذیری ماشین نیست؛ بلکه این است که اشخاص و سازمان‌هایی که فناوری را طراحی می‌کنند، به کار می‌گیرند یا از منافع آن بهره می‌برند، چگونه در برابر خسارت‌های احتمالی پاسخ‌گو خواهند بود. هرچه استفاده از سامانه‌های هوشمند در تصمیم‌های حساس گسترش یابد، ضرورت بررسی دقیق مسئولیت و صیانت از حقوق زیان‌دیدگان نیز بیشتر می‌شود.

 منابع پژوهشی

۱. حسینی، الهام‌السادات؛ محمدیان امیری، مهدی؛ خیراللهی، محمدعلی. «بررسی فقهی مسئولیت مدنی در فناوری هوش مصنوعی». پژوهش‌های تطبیقی فقه، حقوق و سیاست، دوره ۶، شماره ۴، ۱۴۰۳، صفحات ۴۹ تا ۶۶.

لینک مقاله: https://csjlp.org/index.php/csjlp/article/view/143

۲. حسینی، الهه‌سادات؛ واحد یاریجان، یونس؛ یزدانی، سمانه. «چالش‌های هوش مصنوعی و مبانی مسئولیت مدنی آن در فقه». پژوهش‌های تطبیقی فقه، حقوق و سیاست، دوره ۶، شماره ۵، ۱۴۰۳، صفحات ۱ تا ۲۰.

لینک مقاله: https://csjlp.org/index.php/csjlp/article/view/142