به گزارش خبرآنلاین، بیل گیتس در گفتوگو با برنامه «Meet the Press» شبکه NBC گفت که بحث درباره ساخت یک «کلید خاموشی» برای هوش مصنوعی بیش از اندازه روی یک سناریوی فرضی متمرکز شده است. سناریویی که در آن یک هوش مصنوعی بسیار پیشرفته دیگر قابل خاموش کردن نیست.
از نظر او، این موضوع نباید خطرهای فعلی را به حاشیه ببرد.
خطر اصلی جای دیگری است
گیتس معتقد است یکی از خطرناکترین ترکیبهای ممکن، کنار هم قرار گرفتن افراد دارای نیت مخرب و ابزارهای قدرتمند هوش مصنوعی است.
او هشدار داده است که تاکنون سلاحی به قدرت ترکیب «افراد دارای نیت مخرب» و جدیدترین ابزارهای هوش مصنوعی وجود نداشته است. این نگرانی فقط یک سناریوی علمیتخیلی نیست. مدلهای امروزی در حال استفاده برای کارهای پیچیده هستند و شرکتهای سازنده نیز مواردی از تلاش برای سوءاستفاده از هوش مصنوعی در حملات سایبری و تحقیقات زیستی خطرناک را گزارش کردهاند.
پس کلید خاموشی چه میشود؟
کلید خاموشی یا «Kill Switch» ایدهای برای متوقف کردن یک سیستم هوش مصنوعی در شرایط اضطراری است. چنین سازوکاری برای سیستمهای بسیار قدرتمند یک لایه دفاعی مهم است.
اما از نظر گیتس، خاموش کردن سیستم بعد از شروع یک فعالیت مخرب لزوماً مشکل را حل نمیکند. فرض کنید فردی از یک مدل هوش مصنوعی برای حمله سایبری استفاده کند. اگر حمله شروع شده باشد، داشتن دکمهای برای خاموش کردن مدل بهتنهایی نمیتواند تمام خسارت را برگرداند.
به همین دلیل گیتس میگوید باید فعالیت مدلهای پیشرفته از ابتدا تحت نظارت باشد و برای استفاده از آنها سوابق قابل بررسی وجود داشته باشد. او معتقد است شرکتها نباید تنها مسئول تعیین و اجرای این محدودیتها باشند و دولت نیز باید در ایجاد استانداردهای نظارت و ایمنی نقش داشته باشد.
هوش مصنوعی سرکش
نگرانی درباره سیستمهایی که در آینده بتوانند به شکل بسیار مستقل عمل کنند، خودشان را بهبود دهند یا از کنترل انسان خارج شوند، یکی از موضوعات مهم بحث ایمنی هوش مصنوعی است.
اما گیتس میگوید سیستمهای فعلی هنوز به مرحلهای نرسیدهاند که خودشان کنترل رایانهها را در دست بگیرند و دیگر نتوان آنها را خاموش کرد. بنابراین از نظر او، تمرکز بیش از حد بر چنین سناریویی میتواند توجه را از خطرهایی که همین امروز وجود دارند دور کند.
این به معنی بیاهمیت بودن خطرهای آینده نیست. مسئله این است که برای مقابله با خطرهای هوش مصنوعی لازم نیست منتظر ظهور یک هوش مصنوعی کاملاً خودمختار بمانیم چرا که مشکل از همین حالا شروع شده است.
نگرانی اصلی این است که قدرت مدلهای فعلی در اختیار چه کسانی قرار میگیرد و این افراد با آن چه میکنند.یک مدل هوش مصنوعی میتواند برای طراحی دارو استفاده شود و همان فناوری میتواند در دست فردی دیگر برای حمله سایبری یا فعالیت زیستی خطرناک به کار رود. تفاوت در خود فناوری نیست، بلکه در نحوه استفاده از آن است.
به همین دلیل گیتس میگوید نظارت، ثبت فعالیتها و سازوکارهای ایمنی باید همزمان با پیشرفت هوش مصنوعی توسعه پیدا کنند. او معتقد است نباید منتظر یک فاجعه بزرگ ماند تا دولتها و شرکتها درباره قوانین ایمنی تصمیم بگیرند.
۵۸۵۸
نظر شما