نابودی اعتماد به نفس کاذبِ هوش مصنوعی با کمک مغز انسان

به گزارش خبرآنلاین، یکی از مشکلات اساسی سیستم‌های هوش مصنوعی امروزی، «اعتمادبه‌نفس بیش از حد است؛ یعنی مدل‌ها به اشتباهات خود امتیاز بالایی می‌دهند یا حتی اطلاعات نادرست را به عنوان واقعیت به کاربر ارائه می‌کنند. این مسئله در کاربردهای حساس مانند تشخیص پزشکی یا خودروهای خودران می‌تواند عواقب جدی به همراه داشته باشد.

جونگهوان چون و سه-بوم پاک، دو محقق کره‌ای، در مقاله خود روش نوینی را معرفی کرده‌اند که از رشد مغز انسان الهام گرفته شده است. آن‌ها دریافتند که تمرین دادن هوش مصنوعی با اطلاعاتی کاملا تصادفی، قبل از آموزش اصلی، به هوش مصنوعی یاد می‌دهد به حدس‌هایش اطمینان صد در صد نداشته باشد. در واقع این روش نشان می‌دهد که مدل یادگیری عمیق که تاکنون به عنوان رویه معمول تلقی می‌شده، منبع اصلی اعتمادبه‌نفس کاذب در هوش مصنوعی است.

روش پیشنهادی آنها بسیار ساده است: پیش از آن که مدل با داده‌های واقعی آموزش ببیند، یک مرحله پیش‌آموزش کوتاه با داده‌های کاملاً تصادفی و برچسب‌های بی‌ربط پشت سر می‌گذارد.

پس از این مرحله کوتاه مدل به طور عادی روی داده‌های خاصی که در حیطه وظایف مورد نظر برایش تعریف شده آموزش می‌بیند. آزمایش‌ها نشان داد مدل‌هایی که این پیش‌آموزش را پشت سر گذاشته بودند کمتر دچار اعتمادبه‌نفس کاذب می‌شدند، به پیش‌بینی‌های اشتباه امتیاز اطمینان پایین‌تری می‌دادند و در شناسایی ورودی‌های «ناشناخته» عملکرد بسیار بهتری داشتند.

نکته مهم این است که این روش نیازی به مهندسی پیچیده، پردازش اضافی یا تغییر در مجموعه داده‌های آموزشی ندارد. فقط کافی است پیش از آموزش اصلی، چند دقیقه مدل را با داده‌های تصادفی «گرم» کرد.

محققان امیدوارند این رویکرد ساده اما مؤثر، گامی مهم به سوی سیستم‌های هوش مصنوعی ایمن‌تر و قابل اعتمادتر باشد؛ به ویژه در حوزه‌هایی که اشتباه می‌تواند کشنده باشد.

۵۸۵۸