شمشیر دولبه سایبر؛ هوش مصنوعی چگونه میدان نبرد مدافعان و مهاجمان دیجیتال را تغییر می‌دهد؟

هوش مصنوعی هم‌زمان به سپری برای کشف تهدیدها و شتاب‌دهنده‌ای برای حملات سایبری تبدیل شده است؛ رقابتی که در آن، سرعت تصمیم‌گیری، کیفیت داده و آمادگی نیروی انسانی بیش از گذشته اهمیت دارد.

به گزارش خبرگزاری خبرآنلاین، امنیت سایبری سال‌ها با مسئله‌ای قدیمی دست‌وپنجه نرم می‌کرد: حجم اطلاعاتی که باید بررسی می‌شد، بسیار بیشتر از چیزی بود که یک تیم انسانی می‌توانست به‌موقع تحلیل کند. لاگ‌های سرورها، هشدارهای سامانه‌های تشخیص نفوذ، رفتار کاربران، تغییرات شبکه و صدها سیگنال دیگر پیوسته تولید می‌شوند.

در چنین فضایی، هوش مصنوعی به ابزاری برای دسته‌بندی داده‌ها، کشف الگوها و اولویت‌بندی هشدارها تبدیل شده است؛ نه برای جایگزین‌کردن متخصص امنیت، بلکه برای کمک به او تا از میان انبوه داده‌ها، نشانه‌های مهم را سریع‌تر پیدا کند.

یکی از کاربردهای شناخته‌شده هوش مصنوعی، تشخیص ناهنجاری‌های رفتاری است. سامانه‌های یادگیری ماشین می‌توانند الگوهای معمول فعالیت یک کاربر، دستگاه یا سرویس را بررسی کنند و رفتارهای غیرعادی را برای بررسی بیشتر علامت بزنند. برای مثال، ورود غیرمعمول به یک حساب کاربری، تغییر ناگهانی در الگوی دسترسی یا انتقال حجمی غیرمنتظره از داده‌ها ممکن است در کنار نشانه‌های دیگر، به‌عنوان هشدار امنیتی مطرح شود.

نکته مهم این است که چنین سامانه‌ای به‌تنهایی حکم «نفوذ قطعی» صادر نمی‌کند؛ تشخیص نهایی به بررسی زمینه و ارزیابی انسانی وابسته است.

هوش مصنوعی می‌تواند زمان واکنش به رخدادها را نیز کاهش دهد. برخی سامانه‌های امنیتی قادرند هشدارها را خودکار اولویت‌بندی کنند، فعالیتی مشکوک را محدود کنند یا دستگاهی آلوده را برای بررسی بیشتر از بخش‌هایی از شبکه جدا سازند. بااین‌حال، هرچه خودکارسازی گسترده‌تر شود، اهمیت طراحی درست مجوزها و حفظ کنترل انسانی نیز افزایش می‌یابد؛ زیرا تصمیم نادرست در محیطی حساس می‌تواند به‌اندازه یک حمله واقعی پرهزینه باشد.

وقتی مهاجم هم دستیار هوشمند دارد

هوش مصنوعی فقط در اختیار مدافعان نیست. گزارش‌های امنیت سایبری نشان می‌دهند مهاجمان نیز از مدل‌های زبانی و ابزارهای مولد برای سریع‌تر و گسترده‌ترکردن بخشی از فعالیت‌های خود بهره می‌گیرند. گزارش تهدیدات ۲۰۲۶ آژانس امنیت سایبری اتحادیه اروپا (ENISA) می‌گوید استفاده مخرب از هوش مصنوعی رو به گسترش است و این فناوری می‌تواند توان مهاجمان را در تولید محتوای مصنوعی، ترجمه، افزایش مقیاس عملیات و پشتیبانی از فرایندهای نفوذ تقویت کند. گزارش ENISA در سال ۲۰۲۵ نیز به استفاده از مدل‌های زبانی برای تقویت مهندسی اجتماعی و کمک به توسعه ابزارهای مخرب پرداخته است.

یکی از روشن‌ترین میدان‌های این رقابت، مهندسی اجتماعی و فیشینگ است. پیام متنی‌ای که در گذشته به‌دلیل غلط‌های املایی یا لحنی غیرطبیعی قابل تشخیص بود، اکنون می‌تواند با کمک مدل‌های زبانی روان‌تر و متناسب‌تر با زبان و موقعیت قربانی نوشته شود. این موضوع به معنای «غیرقابل‌تشخیص‌شدن فیشینگ» نیست؛ اما نشان می‌دهد برخی نشانه‌های قدیمی دیگر به‌تنهایی برای ارزیابی اعتبار یک پیام کافی نیستند.

هوش مصنوعی همچنین می‌تواند به مهاجمان در پژوهش درباره اهداف، خلاصه‌سازی اطلاعات، تولید محتوای متقاعدکننده و خودکارسازی برخی مراحل عملیات کمک کند. بااین‌حال، ENISA تأکید می‌کند که بسیاری از موارد سوءاستفاده مشاهده‌شده بیشتر به تقویت روش‌های موجود مربوط‌اند تا پدیدآمدن توانایی‌ای کاملاً انقلابی. این تمایز مهم است؛ زیرا گاهی در فضای رسانه‌ای، هر نمونه استفاده از هوش مصنوعی تصویری از «هکرهای کاملاً خودکار» می‌سازد، حال آنکه واقعیت فنی معمولاً تدریجی‌تر و پیچیده‌تر است.

جنگ واقعی؛ رقابت بر سر سرعت، داده و تصمیم

میدان امنیت سایبری به‌تدریج به رقابتی میان سامانه‌هایی تبدیل می‌شود که می‌توانند در زمان کوتاه‌تری حجم بیشتری از داده را تحلیل کنند. مدافع می‌کوشد تهدید را زودتر تشخیص دهد و مهاجم تلاش می‌کند سامانه دفاعی را فریب دهد یا مسیر دیگری برای نفوذ بیابد. به‌بیان ساده، مسئله فقط «هوش بیشتر» نیست؛ بلکه سرعت سازگاری است.

گزارش دفاع دیجیتال مایکروسافت در سال ۲۰۲۵ نیز از رشد استفاده از روش‌های خودکار و هوش مصنوعی در زنجیره حملات، از جمله فیشینگ و حملات چندمرحله‌ای، خبر می‌دهد. این گزارش در کنار اشاره به نقش هوش مصنوعی، یادآوری می‌کند که بخش قابل‌توجهی از حملات همچنان از ضعف‌های شناخته‌شده‌ای مانند سرویس‌های در دسترس از راه دور، دارایی‌های وب و سامانه‌های به‌روزرسانی‌نشده بهره می‌برند. بنابراین، هوش مصنوعی جایگزین اصول پایه امنیت نمی‌شود.

این شاید مهم‌ترین درس برای سازمان‌ها باشد: سامانه هوشمند، در کنار زیرساختی که وصله‌های امنیتی آن به‌روز نیست، دسترسی‌هایش بیش از اندازه گسترده است یا نسخه پشتیبان مطمئنی ندارد، راه‌حل کاملی به شمار نمی‌آید. فناوری جدید زمانی مؤثر است که بر پایه‌های امنیتی درست استوار شود.

هوش مصنوعی در خط مقدم دفاع؛ از کشف تا پیشگیری

یکی از مزیت‌های هوش مصنوعی برای تیم‌های امنیتی، کمک به بررسی حجم بالای رخدادهاست. در مراکز عملیات امنیتی، هشدارها ممکن است بسیار زیاد باشند و همه آن‌ها اهمیت یکسانی نداشته باشند. مدل‌های آماری و یادگیری ماشین می‌توانند هشدارهای مشابه را کنار هم قرار دهند، الگوهای تکرارشونده را شناسایی کنند و موارد مهم‌تر را برای تحلیلگر انسانی برجسته سازند.

در مرحله پیشگیری نیز هوش مصنوعی می‌تواند در بررسی کد، مدیریت آسیب‌پذیری‌ها، تحلیل رفتار نرم‌افزار و اولویت‌بندی اصلاحات مفید باشد. اما باید میان «کمک به کشف ضعف» و «اثبات امنیت» تفاوت گذاشت. یک مدل ممکن است آسیب‌پذیری‌ای را پیدا کند و در همان حال، مورد دیگری را از دست بدهد. به همین دلیل، NIST بر رویکردهای مهندسی‌شده برای امنیت و تاب‌آوری سامانه‌های هوش مصنوعی و زیرساخت‌های پیرامون آن‌ها تأکید می‌کند.

از سوی دیگر، خود سامانه‌های هوش مصنوعی نیز به هدف حمله تبدیل شده‌اند. داده‌های آموزشی، مدل‌ها، رابط‌های برنامه‌نویسی، زنجیره تأمین نرم‌افزار و دسترسی کاربران، همگی می‌توانند سطح حمله تازه‌ای ایجاد کنند. در نتیجه، موضوع فقط «استفاده از هوش مصنوعی برای امنیت» نیست؛ امنیت خود هوش مصنوعی نیز باید هم‌زمان در نظر گرفته شود.

چرا اتکای کامل به ماشین خطرناک است؟

تصویر یک نگهبان دیجیتال که هرگز خسته نمی‌شود، جذاب است؛ اما نباید فراموش کرد که الگوریتم هم ممکن است خطا کند. داده‌های آموزشی ناقص، تغییر شرایط محیطی یا آشنایی مهاجم با الگوهای رفتاری سامانه می‌تواند به هشدارهای اشتباه یا شناسایی‌نشدن یک تهدید واقعی بینجامد.

به همین دلیل، معماری «دفاع در عمق» همچنان اهمیت دارد؛ یعنی امنیت باید بر چند لایه مستقل استوار باشد. کنترل هویت و دسترسی، احراز هویت چندمرحله‌ای، به‌روزرسانی منظم، ثبت و پایش رخدادها، پشتیبان‌گیری، تفکیک شبکه و آموزش کارکنان باید در کنار ابزارهای هوش مصنوعی قرار گیرند. در چنین معماری‌ای، هوش مصنوعی یک لایه تقویتی است، نه کل ساختار دفاعی.

اصل «کمترین سطح دسترسی» نیز اهمیت ویژه‌ای دارد. هر ابزار خودکار یا عامل هوشمندی که به سامانه‌های سازمانی دسترسی دارد، باید فقط مجوزهایی را دریافت کند که برای انجام مأموریتش ضروری است.

گزارش «هزینه نقض داده» شرکت IBM در سال ۲۰۲۵ نشان می‌دهد که گسترش استفاده از هوش مصنوعی در حال پیشی‌گرفتن از سازوکارهای حکمرانی و کنترل آن است. در این گزارش، ۹۷ درصد سازمان‌هایی که رخداد امنیتی مرتبط با هوش مصنوعی را گزارش کرده بودند، گفته‌اند کنترل دسترسی مناسبی برای هوش مصنوعی نداشته‌اند و ۶۳ درصد نیز فاقد سیاست مشخصی برای حکمرانی هوش مصنوعی بوده‌اند. این ارقام نشان می‌دهد مسئله فقط توانایی ابزار نیست؛ نحوه استقرار و کنترل آن نیز اهمیت دارد.

آینده؛ دفاع هوشمندتر و تهدیدهای پیچیده‌تر

مسیر پیش‌رو نه به‌سوی جهانی بدون حمله، بلکه به‌سمت رقابتی پیچیده‌تر بر سر کشف تهدید، خودکارسازی و سرعت سازگاری است. هرچه استفاده سازمان‌ها از سامانه‌های هوش مصنوعی بیشتر شود، احتمالاً سطح حمله تازه‌ای نیز شکل می‌گیرد؛ از داده‌ها و مدل‌ها گرفته تا زنجیره تأمین، ابزارهای توسعه و عامل‌های نرم‌افزاری.

موفق‌ترین سازمان‌ها لزوماً آن‌هایی نیستند که بیشترین ابزارهای هوش مصنوعی را خریده‌اند. مزیت واقعی از ترکیب چند عامل به دست می‌آید: داده باکیفیت، معماری امنیتی چندلایه، سیاست روشن برای استفاده از هوش مصنوعی، کنترل دقیق دسترسی‌ها، نظارت انسانی و توانایی واکنش سریع به رخدادها. گزارش‌های IBM، مایکروسافت، NIST و ENISA، با وجود تفاوت در روش و دامنه بررسی، بر جهت‌گیری کلی مشابهی تأکید دارند: هوش مصنوعی هم می‌تواند توان دفاعی را افزایش دهد و هم ظرفیت سوءاستفاده را بالا ببرد.

شاید نتوان آینده امنیت سایبری را به تصویر ساده «ماشین در برابر ماشین» خلاصه کرد. پشت هر الگوریتم، انسانی قرار دارد که مدل را انتخاب می‌کند، داده‌ها را می‌سنجد، مجوز می‌دهد و درباره واکنش به هشدار تصمیم می‌گیرد. بنابراین، شمشیر دولبه هوش مصنوعی در نهایت به قضاوت انسانی وابسته است. هرچه فناوری سریع‌تر شود، مسئولیت استفاده درست از آن نیز سنگین‌تر خواهد شد.