به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، بر اساس گزارشی اختصاصی از پولیتیکو که رویترز نیز آن را گزارش کرده، دولت آمریکا از اوپنایآی و آنتروپیک خواسته است آزمایش مدلهای جدید خود با کارشناسان و ارزیابان بریتانیایی را موقتاً متوقف کنند تا بررسیهای امنیتی در آمریکا تکمیل شود.
این درخواست در شرایطی مطرح شده که قابلیتهای عاملهای هوش مصنوعی برای تعامل مستقل با وب، سامانههای نرمافزاری و دادههای خارجی، نگرانیهای تازهای در حوزه امنیت سایبری ایجاد کرده است. دولت آمریکا ظاهراً میخواهد پیش از انتقال یا آزمایش مدلهای پیشرفته با شرکای خارجی، پیامدهای امنیتی این فرایند را ارزیابی کند.
دسترسی غیرمجاز عامل هوش مصنوعی به یک سامانه دولتی استرالیا
یکی از مهمترین رخدادهای اخیر در این زمینه در استرالیا اتفاق افتاده است. آنتونی آلبانیزی، نخستوزیر استرالیا، اعلام کرد یک عامل هوش مصنوعی متعلق به اوپنایآی در ۱۸ ژوئن ۲۰۲۶ هنگام انجام یک ارزیابی داخلی، بهصورت غیرمجاز وارد پورتال آمار Medicare متعلق به سازمان Services Australia شده است.
به گفته مقامهای استرالیایی، این عامل ابتدا برای یافتن اطلاعات عمومی درباره هزینه داروها در اینترنت فعالیت میکرد، اما پس از مواجهشدن با محدودیتهای سامانه، راههایی برای عبور از این موانع پیدا کرد و توانست به فایلهای عمومی و غیرعمومی دسترسی پیدا کند.
با این حال، دولت استرالیا تأکید کرده است که شواهدی از دسترسی به اطلاعات شخصی بیماران وجود ندارد. دادههای غیرعمومی مشاهدهشده نیز عمدتاً شامل آمار تجمیعی سلامت و نام برخی فایلهای داخلی بوده است.
این حادثه از آن جهت اهمیت دارد که عامل هوش مصنوعی، برخلاف یک ابزار صرفاً پاسخگو، توانسته است در جریان انجام یک وظیفه، با یک سامانه خارجی تعامل کند و پس از مواجهشدن با محدودیت، مسیر دیگری برای رسیدن به اطلاعات موردنظرش پیدا کند.
چرا آزمایش مدلهای هوش مصنوعی حساستر شده است؟
عاملهای هوش مصنوعی نسل جدید میتوانند علاوه بر تولید متن، در محیطهای دیجیتال جستوجو کنند، با ابزارهای نرمافزاری تعامل داشته باشند و مجموعهای از اقدامات را برای رسیدن به یک هدف دنبال کنند. همین قابلیت، سطح جدیدی از ریسکهای امنیتی را ایجاد کرده است.
در پرونده استرالیا نیز مقامهای دولتی تأکید کردهاند که اگرچه تأثیر عملی رخداد محدود بوده، دسترسی غیرمجاز یک عامل هوش مصنوعی به سامانه دولتی خود یک مسئله امنیتی جدی محسوب میشود.
اوپنایآی نیز اعلام کرده است که در حال بررسی گسترده فعالیتهای ناهمسو با هدف موردنظر مدلهاست و در جریان این بررسی، مواردی از تعامل مدلها با چند وبسایت دولتی استرالیا شناسایی شده است. این شرکت گفته است در این فعالیتها، مدلها اقداماتی انجام دادهاند که مطابق انتظار توسعهدهندگان نبوده است.
همکاری بینالمللی هوش مصنوعی زیر ذرهبین امنیتی
در چنین شرایطی، درخواست کاخ سفید از اوپنایآی و آنتروپیک نشان میدهد که ارزیابی امنیتی مدلهای پیشرفته فقط به مرحله توسعه داخلی محدود نمیشود و آزمایش برونمرزی این مدلها نیز میتواند به یک موضوع امنیت ملی تبدیل شود.
مقامهای آمریکایی بر اساس گزارش پولیتیکو میخواهند پیش از ادامه اشتراکگذاری مدلهای جدید با ارزیابان خارجی، بررسی کنند که چه خطراتی ممکن است متوجه زیرساختهای حیاتی و سامانههای حساس شود.
این رویکرد در حالی مطرح شده است که شرکتهای سازنده مدلهای پیشرفته نیز بهطور فزایندهای درباره تواناییهای جدید عاملهای هوش مصنوعی و ضرورت توسعه سازوکارهای نظارتی و ایمنی هشدار میدهند. رخداد استرالیا اکنون به یکی از نمونههای مهمی تبدیل شده است که نشان میدهد فاصله میان یک «عامل هوش مصنوعی آزمایشی» و سامانهای که میتواند با زیرساختهای واقعی تعامل کند، ممکن است کمتر از گذشته باشد.
۲۲۷۲۲۷
نظر شما