به گزارش خبرآنلاین، گزارشهای جدید از آمریکا نشان میدهد مدل هوش مصنوعی «Mythos» متعلق به شرکت آنتروپیک در یک آزمایش امنیتی کنترلشده، عملکردی از خود نشان داده که زنگ خطر را در بالاترین سطوح دولت آمریکا به صدا درآورده است. این اتفاق اکنون به یکی از مهمترین هشدارها درباره آینده امنیت سایبری در عصر هوش مصنوعی تبدیل شده است.
بر اساس گزارش «tomshardware»، در جریان یک تمرین ردتیم یا نفوذ آزمایشی، مدل Mythos توانست ظرف چند ساعت به «تقریباً همه» سامانههای طبقهبندیشدهای که برای آزمایش در اختیارش قرار گرفته بودند نفوذ کند. این موضوع بهمعنای هک واقعی شبکههای NSA توسط یک هوش مصنوعی سرکش نیست بلکه نتیجه یک آزمایش مجاز و طراحیشده برای سنجش تواناییهای تهاجمی مدل بوده است.
با این حال، حتی در قالب یک آزمایش کنترلشده نیز چنین نتیجهای برای بسیاری از کارشناسان امنیتی شوکهکننده بوده است. زیرا نشان میدهد مدلهای نسل جدید هوش مصنوعی ممکن است بتوانند آسیبپذیریهای نرمافزاری را با سرعتی بسیار فراتر از توان انسان کشف و بهرهبرداری کنند.
چرا دولت آمریکا بهسرعت وارد عمل شد؟
تنها یک روز پس از این ارزیابی امنیتی، دولت آمریکا دسترسی به دو مدل پرچمدار آنتروپیک یعنی Mythos 5 و Fable 5 را برای تمام اتباع خارجی ممنوع کرد. محدودیت به حدی گسترده بود که حتی برخی کارکنان غیرآمریکایی خود آنتروپیک نیز مشمول آن شدند.
از آنجا که اجرای چنین محدودیتی در مقیاس جهانی بسیار دشوار بود، آنتروپیک تصمیم گرفت این مدلها را بهطور کامل از دسترس خارج کند. در نتیجه، حتی بسیاری از کاربران و سازمانهای مجاز نیز دسترسی خود را از دست دادند.
آنتروپیک پیشتر اعلام کرده بود که Mythos در وظایف مرتبط با امنیت سایبری عملکردی استثنایی دارد و حتی برنامهای برای استفاده از این توانایی در محافظت از زیرساختهای حیاتی راهاندازی کرده بود.
اما همین قابلیت یک روی تاریک نیز دارد. هر ابزاری که بتواند آسیبپذیریها را پیدا کند، بالقوه میتواند برای سوءاستفاده از همان آسیبپذیریها نیز به کار رود. به همین دلیل نهادهای اطلاعاتی کشورهای عضو ائتلاف «فایو آیز» اخیراً هشدار دادهاند که مدلهای هوش مصنوعی نسل بعدی ممکن است ظرف چند ماه آینده توانایی انجام حملات سایبری پیچیده و ویرانگر را پیدا کنند.
شاید مهمترین نکته این ماجرا خود Mythos نباشد، بلکه روندی باشد که نمایندگی میکند. ارزیابیهای رسمی نشان میدهد تواناییهای سایبری مدلهای پیشرفته هوش مصنوعی با سرعتی بیسابقه در حال رشد است و فاصله میان تواناییهای انسانی و ماشینی در حوزه کشف و بهرهبرداری از آسیبپذیریها بهسرعت در حال کاهش است.
اگر گزارشهای منتشرشده دقیق باشند، ما ممکن است در نقطهای قرار گرفته باشیم که یک مدل هوش مصنوعی بتواند در چند ساعت کاری انجام دهد که پیشتر به تیمی از متخصصان امنیتی و هکرهای حرفهای نیاز داشت. این دقیقاً همان سناریویی است که سالها در گزارشهای امنیتی درباره آن هشدار داده میشد و اکنون به نظر میرسد دیگر صرفاً یک فرضیه نیست.
۵۸۵۸
نظر شما