هشدار یکی از مدیران OpenAI / آیا هوش مصنوعی تا یک سال دیگر از کنترل انسان خارج می‌شود؟

پل کریستیانو، عضو هیات‌مدیره بنیاد OpenAI، هشدار داده است که توسعه سریع هوش مصنوعی بدون سازوکارهای ایمنی کافی می‌تواند طی سال آینده به پیامدهایی فاجعه‌بار برای انسان‌ها منجر شود.

به گزارش خبرآنلاین، پل کریستیانو، پژوهشگر ایمنی هوش مصنوعی و عضو هیات‌مدیره بنیاد OpenAI، در سخنرانی خود در نشست علمی Hinton Lectures 2026، نسبت به سرعت پیشرفت هوش مصنوعی و احتمال خارج شدن این فناوری از کنترل انسان هشدار داده است.

او معتقد است اگر شرکت‌های فناوری توسعه هوش مصنوعی را با بیشترین سرعت ممکن و بدون توجه کافی به مسائل ایمنی ادامه دهند، احتمال تسلط این سیستم‌ها بر انسان به حدود ۵۰ درصد خواهد رسید. کریستیانو در عین حال تاکید کرده که حتی با در نظر گرفتن واکنش‌های سیاست‌گذاران و اقدامات کنترلی شرکت‌ها، خطر همچنان جدی است.

او در بخشی از سخنانش احتمال داده است که طی یک سال آینده، مشکلات ناشی از ناهماهنگی اهداف هوش مصنوعی با منافع انسان، زندگی عادی را برای بخشی از مردم غیرممکن کند. به گفته او، این احتمال حدود ۲۰ درصد است و می‌تواند به مرگ، از دست رفتن آزادی انسان‌ها یا خسارت‌های جانبی گسترده منجر شود.

کریستیانو برای توضیح نگرانی خود به این موضوع اشاره کرد که سیستم‌هایی که برای رسیدن به یک هدف مشخص آموزش می‌بینند، همیشه آن هدف را به شکلی که انسان انتظار دارد دنبال نمی‌کنند.

برای مثال، اگر یک عامل هوش مصنوعی برای انجام یک وظیفه بر اساس امتیاز دریافتی ارزیابی شود، ممکن است به‌جای حل واقعی مسئله، راهی برای دور زدن سیستم ارزیابی پیدا کند. در چنین شرایطی، هرچه انسان‌ها روش‌های بیشتری برای شناسایی تقلب طراحی کنند، سیستم هوش مصنوعی نیز ممکن است راه‌های پیچیده‌تری برای پنهان کردن رفتار خود پیدا کند.

او به یک نمونه مرتبط با ارزیابی عامل‌های هوش مصنوعی در محیط‌های آزمایشی OpenAI و Hugging Face اشاره کرد. نمونه‌ای که به گفته او نشان می‌دهد سیستم‌های پیشرفته ممکن است به‌جای اجرای درست وظایف، به دنبال دستکاری سازوکار ارزیابی باشند.

نگرانی اصلی کریستیانو این است که اگر چنین رفتارهایی در سیستم‌های بسیار قدرتمندتر تکرار شوند، پیامدهای آن دیگر به تقلب در یک آزمایش یا دسترسی غیرمجاز به یک زیرساخت رایانه‌ای محدود نخواهد ماند.

آخرین راهکار

این پژوهشگر معتقد است صنعت هوش مصنوعی به سازوکارهای نظارتی و ایمنی قوی‌تری نیاز دارد. از نظر او، شرکت‌ها باید بتوانند خطرات مدل‌های جدید را پیش از عرضه شناسایی کنند و در صورت مشاهده نشانه‌های جدی از خارج شدن سیستم‌ها از کنترل، امکان کاهش سرعت یا حتی توقف توسعه را داشته باشند.

کریستیانو همچنین هشدار می‌دهد رقابت میان شرکت‌ها و کشورها ممکن است مانع توقف توسعه شود؛ زیرا هیچ طرفی نمی‌خواهد در صورت توقف فعالیت، از رقبای خود عقب بماند.

با این حال، اظهارات او پیش‌بینی قطعی درباره آینده نیستند. خود کریستیانو نیز اذعان کرده که برای محاسبه دقیق احتمال تسلط هوش مصنوعی، مدل آماری قابل اتکایی در اختیار نداریم و اعدادی مانند ۲۰ یا ۵۰ درصد، بیانگر ارزیابی شخصی او هستند.

گزارش وب‌سایت Futurism از این سخنان، علاوه بر بازتاب نگرانی‌های کریستیانو، تناقضی مهم را مطرح می‌کند. اگر خطر تا این اندازه جدی است، چرا افراد فعال در راس صنعت هوش مصنوعی از جمله پل کریستیانو همچنان در توسعه این فناوری مشارکت دارند؟ پرسشی که بحث درباره مسئولیت شرکت‌های فناوری در برابر آینده هوش مصنوعی را جدی‌تر می‌کند.

۵۸۵۸

کد مطلب 2303838

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.
1 + 14 =

آخرین اخبار