گوگل برای آموزش امن هوش مصنوعی کروم، نسخه‌ای شبیه‌سازی‌شده از اینترنت ساخت

گوگل محیطی شبیه‌سازی‌شده به نام «بُعد آینه‌ای» ساخته است تا عامل‌های هوش مصنوعی مرورگر کروم را بدون خطر فعالیت در اینترنت واقعی آموزش دهد. این دنیای مجازی شامل نمونه‌هایی از فروشگاه‌های آنلاین، شبکه‌های اجتماعی و پنل‌های بانکی است و امکان آزمایش عملکرد عامل‌ها در برابر حملات اینترنتی را فراهم می‌کند.

به گزارش خبرگزاری خبرآنلاین، تیم توسعه مرورگر کروم گوگل برای آموزش و ارزیابی عامل‌های هوش مصنوعی مبتنی بر مدل‌های «جمنای» به محیطی فراتر از آزمایشگاه‌های معمولی نیاز داشت. این عامل‌ها قرار است بتوانند به نمایندگی از کاربران در وب‌سایت‌ها جست‌وجو کنند، فرم‌ها را پر کنند و کارهایی مانند خرید اینترنتی را انجام دهند؛ اما فعالیت آن‌ها در اینترنت واقعی، پیش از اطمینان از عملکرد و امنیتشان می‌تواند خطرساز باشد.

گوگل برای حل این مشکل محیطی به نام «بُعد آینه‌ای» (Mirror Dimension) ساخته است؛ نسخه‌ای گسترده و جدا از اینترنت واقعی که کنترل کامل آن در اختیار این شرکت قرار دارد. این محیط شامل وب‌سایت‌ها و سرویس‌هایی شبیه نمونه‌های واقعی، از شبکه‌های اجتماعی و فروشگاه‌های اینترنتی گرفته تا پنل‌های بانکی است. عامل‌های هوش مصنوعی در مرورگر کروم با این وب‌سایت‌ها تعامل می‌کنند و وظایف مختلفی را انجام می‌دهند.

یکی از اهداف اصلی این محیط، بررسی مقاومت عامل‌ها در برابر حملات سایبری است. برای مثال، پژوهشگران دستورهای مخربی را به‌صورت پنهان در محتوای وب‌سایت‌ها قرار می‌دهند تا مشخص شود آیا هوش مصنوعی فریب می‌خورد و از دستور اصلی کاربر منحرف می‌شود یا نه. این روش که «تزریق دستور» نام دارد، از تهدیدهای مهم در استفاده از عامل‌های هوش مصنوعی در اینترنت محسوب می‌شود.

به گفته چارلز چیان، مهندس نرم‌افزار تیم امنیت هوش مصنوعی کروم، پیش‌بینی تمام موقعیت‌هایی که یک عامل ممکن است در اینترنت با آن‌ها روبه‌رو شود امکان‌پذیر نیست. او می‌گوید آزمایش‌ها به عامل‌ها کمک کرده است تشخیص دهند چه اطلاعاتی برای انجام یک وظیفه ضروری است و در چه شرایطی باید برای ادامه کار از کاربر تأیید بگیرند.

ساخت این محیط نیز به کمک گروهی از عامل‌های هوش مصنوعی مخصوص توسعه وب انجام شده است. این ابزارها تعداد زیادی وب‌سایت و سرویس شبیه‌سازی‌شده ساخته‌اند و جزئیاتی مانند امکان واردکردن کد تخفیف در فروشگاه‌ها یا انتشار محتوا در صفحات شبکه‌های اجتماعی را نیز در آن‌ها گنجانده‌اند.

پژوهشگران برای اجرای آزمایش‌ها در نسخه واقعی مرورگر کروم، ناچار شدند برخی سازوکارهای امنیتی آن را در محیط کنترل‌شده دور بزنند و حتی گواهی‌های وب جعلی بسازند. گوگل تأکید کرده است این اقدامات فقط به‌دلیل دسترسی ویژه پژوهشگران به محیط و شبکه شبیه‌سازی‌شده ممکن بوده و خطری برای کاربران عادی کروم در اینترنت واقعی ایجاد نمی‌کند.

گوگل می‌گوید عامل‌هایی که تاکنون در این محیط آزمایش شده‌اند، برای انجام کارهای عادی طراحی شده‌اند و قابلیت اجرای حملات سایبری ندارند. بااین‌حال، این شرکت قصد دارد «بُعد آینه‌ای» را در اختیار تیم‌های تحقیقاتی دیگر خود نیز قرار دهد تا بتوانند عامل‌های هوش مصنوعی را در محیطی امن‌تر و واقع‌گرایانه‌تر آزمایش کنند.

منبع: wired

۲۲۷۲۲۷

کد مطلب 2304541

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.
5 + 7 =

آخرین اخبار

پربیننده‌ترین