Автоматизирани сајбер напади со помош на вештачка интелигенција: кога машините стануваат сајбер-криминалци

• автор:
• име на авторот

  Quantumrun Foresight
• Септември 30, 2022

Резиме на увид

Вештачката интелигенција (AI) и машинското учење (ML) се повеќе се користат во сајбер безбедноста, како за заштита на системите, така и за извршување на сајбер напади. Нивната способност да учат од податоците и однесувањата им овозможува да ги идентификуваат слабостите на системот, но исто така го отежнува следењето на изворот зад овие алгоритми. Овој развој на пејзажот на вештачката интелигенција во сајбер криминалот предизвикува загриженост кај ИТ експертите, бара напредни одбранбени стратегии и може да доведе до значителни промени во начинот на кој владите и компаниите пристапуваат кон сајбер-безбедноста.

Автоматизирани сајбер напади користејќи контекст на вештачка интелигенција

Вештачката интелигенција и ML ја одржуваат способноста да ги автоматизираат скоро сите задачи, вклучително и учење од повторливите однесувања и модели, правејќи моќна алатка за идентификување на ранливости во системот. Што е уште поважно, вештачката интелигенција и ML го прават предизвик да се прецизира личност или ентитет зад алгоритам.

Во 2022 година, за време на Поткомитетот за вооружени служби на американскиот Сенат за сајбер безбедност, Ерик Хорвиц, главен научен директор на Мајкрософт, се осврна на употребата на вештачка интелигенција (ВИ) за автоматизирање на сајбер нападите како „навредлива вештачка интелигенција“. Тој истакна дека е тешко да се одреди дали сајбер нападот е управуван од вештачка интелигенција. Слично на тоа, машинското учење (ML) се користи за помош на сајбер напади; ML се користи за учење најчесто користени зборови и стратегии при креирање лозинки за подобро нивно хакирање. 

Истражувањето на фирмата за сајбер безбедност Darktrace откри дека тимовите за управување со ИТ се повеќе се загрижени за потенцијалната употреба на вештачката интелигенција во сајбер криминалот, при што 96 отсто од испитаниците посочиле дека веќе истражуваат можни решенија. Експертите за ИТ безбедност чувствуваат промена во методите за сајбер напади од ransomware и phishing кон посложени малициозен софтвер кој е тешко да се открие и да се одврати. Можен ризик од компјутерски криминал овозможен со вештачка интелигенција е воведувањето на оштетени или манипулирани податоци во ML моделите.

Нападот на ML може да влијае на софтверот и другите технологии кои моментално се развиваат за поддршка на cloud computing и Edge AI. Недоволните податоци за обука, исто така, може повторно да ги засилат предрасудите на алгоритмите, како што се неправилно означување на малцинските групи или влијание врз предвидливото полициско работење за да се насочат кон маргинализираните заедници. Вештачката интелигенција може да внесе суптилни, но катастрофални информации во системите, што може да има долготрајни последици.

Нарушувачко влијание

Студијата на истражувачите од Универзитетот Џорџтаун за ланецот на сајбер убиства (список на задачи извршени за да се изврши успешен сајбер напад) покажа дека специфичните офанзивни стратегии можат да имаат корист од ML. Овие методи вклучуваат ловење со копје (измами на е-пошта насочени кон одредени луѓе и организации), прецизно лоцирање на слабостите во ИТ инфраструктурите, доставување злонамерен код во мрежите и избегнување откривање од системите за сајбер безбедност. Машинското учење, исто така, може да ги зголеми шансите за успех на нападите од социјалниот инженеринг, каде што луѓето се измамени да откриваат чувствителни информации или да вршат конкретни активности како што се финансиски трансакции. 

Покрај тоа, синџирот на сајбер убивање може да автоматизира некои процеси, вклучувајќи: 

• Опсежен надзор - автономни скенери собираат информации од целните мрежи, вклучувајќи ги нивните поврзани системи, одбрана и софтверски поставки. 
• Огромно вооружување - алатки за вештачка интелигенција кои ги идентификуваат слабостите во инфраструктурата и создаваат код за да се инфилтрираат во овие дупки. Ова автоматизирано откривање може да таргетира и специфични дигитални екосистеми или организации. 
• Испорака или хакирање - Алатки за вештачка интелигенција кои користат автоматизација за извршување на ловење со копје и социјално инженерство за да таргетираат илјадници луѓе. 

Од 2023 година, пишувањето сложен код сè уште е во доменот на човечките програмери, но експертите веруваат дека нема да помине долго пред машините да ја стекнат и оваа вештина. AlphaCode на DeepMind е истакнат пример за такви напредни системи за вештачка интелигенција. Им помага на програмерите со анализа на големи количини на код за да научат шеми и да генерираат оптимизирани решенија за код.

Импликации од автоматизирани сајбер напади со користење на вештачка интелигенција

Пошироките импликации на автоматските сајбер напади со користење на вештачка интелигенција може да вклучуваат: 

• Компаниите ги продлабочуваат своите буџети за сајбер одбрана за да развијат напредни сајбер решенија за откривање и запирање на автоматизирани сајбер напади.
• Сајбер-криминалците ги проучуваат методите на ML за да создадат алгоритми кои можат тајно да ги нападнат системите на корпоративниот и јавниот сектор.
• Зголемени инциденти на сајбер напади кои се добро оркестрирани и насочени кон повеќе организации одеднаш.
• Навредлив софтвер со вештачка интелигенција што се користи за преземање контрола на воено оружје, машини и инфраструктурни командни центри.
• Навредлив софтвер со вештачка интелигенција што се користи за инфилтрирање, модифицирање или искористување на системите на компанијата за уништување на јавните и приватните инфраструктури. 
• Некои влади потенцијално ја реорганизираат дигиталната одбрана на нивниот домашен приватен сектор под контрола и заштита на нивните соодветни национални агенции за сајбер-безбедност.

Прашања што треба да се разгледаат

• Кои се другите потенцијални последици од сајбер нападите овозможени со вештачка интелигенција?
• Како инаку компаниите можат да се подготват за такви напади?