به گزارش خبرآنلاین، مقالهای در وبسایت The Conversation پنج سناریو را بررسی کرده که از یک خطر ناشناخته برای انسان تا جنگ هستهای و فروپاشی اجتماعی را شامل میشود. اینها سناریوهایی برای بررسی ریسکهای احتمالی هوش مصنوعیاند.
۱. شاید اصلاً ندانیم چه اتفاقی میافتد
اولین سناریو از همه مبهمتر است. اگر روزی هوش مصنوعی به سطحی از توانایی برسد که از انسان در تقریباً همه زمینهها باهوشتر باشد، پیشبینی رفتار آن برای ما بسیار دشوار خواهد بود.
مشکل اینجاست که برای فهمیدن کاری که یک هوش مصنوعی فوقهوشمند میتواند انجام دهد، شاید خودمان به سطحی مشابه از هوش نیاز داشته باشیم. البته هوش مصنوعی امروزی هنوز با چنین تعریفی از ابرهوش فاصله دارد.
۲. سناریوی «گیره کاغذ»
یکی از مشهورترین مثالها در بحث ایمنی هوش مصنوعی، ماشینی است که مأموریتش تولید هرچه بیشتر گیره کاغذ است.
اگر چنین سامانهای هدف خود را بدون هیچ محدودیتی دنبال کند، ممکن است انسان و حتی منابع زمین را صرفاً موادی برای رسیدن به هدف خود ببیند. مسئله در این سناریو نفرت از انسان نیست، بلکه اجرای بسیار مؤثر یک هدف اشتباه یا ناقص است.
البته چنین هوشی برای تبدیل زمین به کارخانه گیره کاغذ باید قدرت واقعی و دسترسی گستردهای هم داشته باشد.
۳. سلاحهای زیستی
سناریوی دیگر، استفاده از هوش مصنوعی پیشرفته برای طراحی یا توسعه یک عامل بیماریزا است.
این نگرانی کاملاً فرضی نیست. پژوهشگران در سالهای اخیر نشان دادهاند که مدلهای هوش مصنوعی زیستی میتوانند در طراحی توالیهای ژنتیکی نقش داشته باشند. با این حال، نابودی کل انسانها با یک ویروس بسیار دشوار است. یک عامل بیماریزا باید به اندازه کافی قابل انتقال باشد و در عین حال کشندگی بسیار بالایی داشته باشد، ترکیبی که از نظر زیستی پیچیده است.
۴. جنگ هستهای
هوش مصنوعی لزوماً نباید خودش سلاح هستهای بسازد. کافی است به هر شکلی وارد زنجیره تصمیمگیری نظامی شود و اطلاعات اشتباه تولید کند یا یک تهدید ساختگی را واقعی نشان دهد.
در شرایط بحرانی، چنین خطایی میتواند تصمیمگیری انسانی را تحت تأثیر قرار دهد و خطر درگیری هستهای را افزایش دهد. نگرانی اصلی فقط انفجارهای هستهای نیست. پیامدهایی مانند قحطی گسترده پس از یک جنگ هستهای نیز میتواند فاجعهبار باشد.
۵. خطر اصلی شاید خود انسانها باشند
جالبترین سناریو شاید این باشد که هوش مصنوعی مستقیماً انسانها را نکشد، بلکه مشکلات موجود در جامعه را تشدید کند.
از دست رفتن گسترده مشاغل، انتشار اطلاعات جعلی، تشدید شکافهای سیاسی و وابستگی شدید به همراهان مصنوعی میتواند به فرسایش نهادهای اجتماعی منجر شود. در این تصویر، هوش مصنوعی بیشتر یک شتابدهنده است تا یک قاتل مستقل.
در نهایت، این سناریوها نشان نمیدهند که نابودی بشر توسط هوش مصنوعی حتمی است. آنها بیشتر یک سؤال را مطرح میکنند که اگر هوش مصنوعی بسیار قدرتمندتر از امروز شود، چگونه باید مطمئن شویم قدرت آن با اهداف انسانی سازگار باقی میماند؟
5858
نظر شما