حملات سایبری خودکار با استفاده از هوش مصنوعی: زمانی که ماشین‌ها به مجرمان سایبری تبدیل می‌شوند

• نویسنده:
• نام نویسنده

  آینده نگاری کوانتوم ران
• سپتامبر 30، 2022

هوش مصنوعی (AI) و یادگیری ماشین (ML) توانایی خودکارسازی تقریباً تمام وظایف، از جمله یادگیری از رفتارها و الگوهای تکراری را حفظ می‌کنند و ابزاری قدرتمند برای شناسایی آسیب‌پذیری‌های یک سیستم می‌سازند. مهمتر از آن، هوش مصنوعی و ML تعیین دقیق یک شخص یا موجودیت در پشت یک الگوریتم را چالش برانگیز می کند.

حملات سایبری خودکار با استفاده از زمینه هوش مصنوعی

در سال 2022، در جریان کمیته فرعی خدمات مسلح سنای ایالات متحده در مورد امنیت سایبری، اریک هورویتز، مدیر ارشد علمی مایکروسافت، از استفاده از هوش مصنوعی (AI) برای خودکارسازی حملات سایبری به عنوان "هوش مصنوعی تهاجمی" یاد کرد. با تاکید بر اینکه تعیین اینکه آیا یک حمله سایبری مبتنی بر هوش مصنوعی است یا خیر، دشوار است. به طور مشابه، یادگیری ماشینی (ML) برای کمک به حملات سایبری استفاده می شود. ML برای یادگیری کلمات و استراتژی های رایج در ایجاد رمز عبور برای هک بهتر آنها استفاده می شود. 

یک نظرسنجی توسط شرکت امنیت سایبری Darktrace نشان داد که تیم‌های مدیریت فناوری اطلاعات به طور فزاینده‌ای نگران استفاده بالقوه هوش مصنوعی در جرایم سایبری هستند، به طوری که 96 درصد از پاسخ‌دهندگان نشان دادند که در حال تحقیق روی راه‌حل‌های ممکن هستند. 

کارشناسان امنیت فناوری اطلاعات تغییری را در روش‌های حمله سایبری از باج‌افزار و فیشینگ به بدافزار پیچیده‌تر احساس می‌کنند که شناسایی و انحراف آن دشوار است. خطر احتمالی جرایم سایبری مبتنی بر هوش مصنوعی، معرفی داده های خراب یا دستکاری شده در مدل های ML است. حمله ML می‌تواند بر نرم‌افزار و سایر فناوری‌هایی که در حال حاضر برای پشتیبانی از محاسبات ابری و هوش مصنوعی لبه‌ای در حال توسعه هستند، تأثیر بگذارد. داده‌های آموزشی ناکافی همچنین می‌تواند سوگیری‌های الگوریتمی مانند برچسب‌گذاری نادرست گروه‌های اقلیت یا تأثیرگذاری بر پلیس پیش‌بینی‌کننده برای هدف قرار دادن جوامع به حاشیه رانده شده را مجدداً تقویت کند. هوش مصنوعی می تواند اطلاعات ظریف اما فاجعه بار را به سیستم ها وارد کند که ممکن است پیامدهای طولانی مدت داشته باشد.

تاثیر مخرب

مطالعه محققان دانشگاه جورج تاون در مورد زنجیره کشتار سایبری (چک لیستی از وظایف انجام شده برای انجام یک حمله سایبری موفق) نشان داد که استراتژی‌های تهاجمی خاص می‌توانند از ML سود ببرند. این روش‌ها عبارتند از spearphishing (کلاهبرداری‌های ایمیلی که به سمت افراد و سازمان‌های خاص هدایت می‌شوند)، شناسایی نقاط ضعف در زیرساخت‌های فناوری اطلاعات، ارسال کدهای مخرب به شبکه‌ها و اجتناب از شناسایی توسط سیستم‌های امنیت سایبری. یادگیری ماشینی همچنین می‌تواند شانس موفقیت حملات مهندسی اجتماعی را افزایش دهد، جایی که افراد فریب داده می‌شوند تا اطلاعات حساس را فاش کنند یا اقدامات خاصی مانند تراکنش‌های مالی را انجام دهند. 

علاوه بر این، زنجیره کشتار سایبری می تواند برخی از فرآیندها را خودکار کند، از جمله: 

• نظارت گسترده - اسکنرهای مستقلی که اطلاعات را از شبکه های هدف، از جمله سیستم های متصل، دفاع و تنظیمات نرم افزار جمع آوری می کنند. 
• تسلیحات گسترده - ابزارهای هوش مصنوعی نقاط ضعف زیرساخت را شناسایی کرده و کدی را برای نفوذ به این حفره ها ایجاد می کنند. این تشخیص خودکار همچنین می‌تواند اکوسیستم‌ها یا سازمان‌های دیجیتال خاصی را هدف قرار دهد. 
• تحویل یا هک - ابزارهای هوش مصنوعی با استفاده از اتوماسیون برای اجرای spearphishing و مهندسی اجتماعی برای هدف قرار دادن هزاران نفر. 

از سال 2022، نوشتن کدهای پیچیده هنوز در قلمرو برنامه نویسان انسانی است، اما کارشناسان معتقدند که زمان زیادی طول نمی کشد که ماشین ها نیز این مهارت را کسب کنند. 

پیامدهای حملات سایبری خودکار با استفاده از هوش مصنوعی

پیامدهای گسترده تر حملات سایبری خودکار با استفاده از هوش مصنوعی ممکن است شامل موارد زیر باشد: 

• شرکت هایی که بودجه دفاع سایبری خود را برای توسعه راه حل های سایبری پیشرفته برای شناسایی و توقف حملات سایبری خودکار افزایش می دهند.
• مجرمان سایبری در حال مطالعه روش‌های ML برای ایجاد الگوریتم‌هایی هستند که می‌توانند مخفیانه به سیستم‌های شرکتی و بخش عمومی حمله کنند.
• افزایش حوادث حملات سایبری که به خوبی سازماندهی شده اند و چندین سازمان را به طور همزمان هدف قرار می دهند.
• نرم افزار تهاجمی هوش مصنوعی که برای به دست گرفتن کنترل سلاح های نظامی، ماشین آلات و مراکز فرماندهی زیرساخت استفاده می شود.
• نرم افزار هوش مصنوعی تهاجمی که برای نفوذ، اصلاح یا سوء استفاده از سیستم های یک شرکت برای از بین بردن زیرساخت های عمومی و خصوصی استفاده می شود. 
• برخی از دولت‌ها به طور بالقوه دفاع دیجیتال بخش خصوصی داخلی خود را تحت کنترل و حفاظت آژانس‌های امنیت سایبری ملی مربوطه خود سازماندهی می‌کنند.

سوالاتی برای اظهار نظر

• سایر پیامدهای احتمالی حملات سایبری مبتنی بر هوش مصنوعی چیست؟
• دیگر چگونه شرکت ها می توانند برای چنین حملاتی آماده شوند؟