Avtomatizirani kibernetski napadi z uporabo AI: Ko stroji postanejo kibernetski kriminalci

KREDIT ZA SLIKO:
Image kredit
iStock

Avtomatizirani kibernetski napadi z uporabo AI: Ko stroji postanejo kibernetski kriminalci

Avtomatizirani kibernetski napadi z uporabo AI: Ko stroji postanejo kibernetski kriminalci

Besedilo podnaslova
Hekerji izkoriščajo moč umetne inteligence (AI) in strojnega učenja (ML), da naredijo kibernetske napade učinkovitejše in smrtonosnejše.
    • Avtor:
    • ime avtorja
      Quantumrun Foresight
    • September 30, 2022

    Povzetek vpogleda

    Umetna inteligenca (AI) in strojno učenje (ML) se vse bolj uporabljata v kibernetski varnosti, tako za zaščito sistemov kot pri izvajanju kibernetskih napadov. Njihova zmožnost učenja iz podatkov in vedenja jim omogoča odkrivanje sistemskih ranljivosti, vendar tudi otežuje izsleditev vira za temi algoritmi. Ta razvijajoča se pokrajina umetne inteligence v kibernetskem kriminalu vzbuja pomisleke med IT strokovnjaki, zahteva napredne obrambne strategije in lahko vodi do pomembnih sprememb v tem, kako vlade in podjetja pristopajo k kibernetski varnosti.

    Avtomatizirani kibernetski napadi z uporabo konteksta AI

    Umetna inteligenca in strojno učenje ohranjata zmožnost avtomatizacije skoraj vseh nalog, vključno z učenjem iz ponavljajočega se vedenja in vzorcev, zaradi česar sta močno orodje za prepoznavanje ranljivosti v sistemu. Še pomembneje pa je, da je zaradi umetne inteligence in strojnega učenja težko določiti osebo ali entiteto, ki stoji za algoritmom.

    Leta 2022 je med pododborom ameriškega senata za kibernetsko varnost Eric Horvitz, Microsoftov glavni znanstveni uradnik, omenil uporabo umetne inteligence (AI) za avtomatizacijo kibernetskih napadov kot »žaljiv AI«. Poudaril je, da je težko ugotoviti, ali je kibernetski napad posledica umetne inteligence. Podobno se strojno učenje (ML) uporablja za pomoč pri kibernetskih napadih; ML se uporablja za učenje pogosto uporabljenih besed in strategij pri ustvarjanju gesel za boljše vdiranje vnje. 

    Raziskava podjetja Darktrace za kibernetsko varnost je pokazala, da so ekipe za upravljanje IT vse bolj zaskrbljene zaradi morebitne uporabe umetne inteligence pri kibernetskem kriminalu, pri čemer je 96 odstotkov anketirancev navedlo, da že raziskujejo možne rešitve. Strokovnjaki za varnost IT čutijo premik v metodah kibernetskih napadov od izsiljevalske programske opreme in lažnega predstavljanja k bolj zapleteni zlonamerni programski opremi, ki jo je težko odkriti in odvrniti. Možna nevarnost kibernetskega kriminala, ki ga podpira AI, je vnos poškodovanih ali spremenjenih podatkov v modele ML.

    Napad ML lahko vpliva na programsko opremo in druge tehnologije, ki se trenutno razvijajo za podporo računalništva v oblaku in robne umetne inteligence. Nezadostni podatki o usposabljanju lahko tudi okrepijo pristranskost algoritmov, kot je nepravilno označevanje manjšinskih skupin ali vplivanje na napovedno policijsko delovanje, ki cilja na marginalizirane skupnosti. Umetna inteligenca lahko v sisteme vnese subtilne, a katastrofalne informacije, kar ima lahko dolgotrajne posledice.

    Moteč vpliv

    Študija raziskovalcev Univerze Georgetown o verigi kibernetskih ubijanj (kontrolni seznam nalog, opravljenih za izpeljavo uspešnega kibernetskega napada) je pokazala, da bi lahko posebne ofenzivne strategije koristile ML. Te metode vključujejo podvodno lažno predstavljanje (prevare po e-pošti, usmerjene proti določenim ljudem in organizacijam), natančno določanje slabosti v infrastrukturi IT, dostavo zlonamerne kode v omrežja in izogibanje odkrivanju sistemov za kibernetsko varnost. Strojno učenje lahko tudi poveča možnosti za uspeh napadov socialnega inženiringa, kjer so ljudje zavedeni, da razkrijejo občutljive podatke ali izvedejo določena dejanja, kot so finančne transakcije. 

    Poleg tega lahko kibernetska veriga ubijanja avtomatizira nekatere procese, vključno z: 

    • Obsežen nadzor – avtonomni skenerji zbirajo informacije iz ciljnih omrežij, vključno z njihovimi povezanimi sistemi, obrambo in nastavitvami programske opreme. 
    • Obsežna uporaba orožja – orodja AI prepoznajo slabosti v infrastrukturi in ustvarijo kodo za infiltracijo v te vrzeli. To samodejno zaznavanje lahko cilja tudi na določene digitalne ekosisteme ali organizacije. 
    • Dostava ali vdiranje – orodja AI, ki uporabljajo avtomatizacijo za izvajanje podvodnega lažnega predstavljanja in socialnega inženiringa za ciljanje na tisoče ljudi. 

    Od leta 2023 je pisanje kompleksne kode še vedno v domeni človeških programerjev, vendar strokovnjaki menijo, da ne bo minilo dolgo, preden bodo to veščino pridobili tudi stroji. AlphaCode družbe DeepMind je izjemen primer takšnih naprednih sistemov umetne inteligence. Programerjem pomaga z analizo velikih količin kode, da se naučijo vzorcev in ustvarijo optimizirane kodne rešitve.

    Posledice avtomatiziranih kibernetskih napadov z uporabo AI

    Širše posledice avtomatiziranih kibernetskih napadov z uporabo umetne inteligence lahko vključujejo: 

    • Podjetja, ki povečujejo svoje proračune za kibernetsko obrambo za razvoj naprednih kibernetskih rešitev za odkrivanje in zaustavitev avtomatiziranih kibernetskih napadov.
    • Kibernetski kriminalci preučujejo metode ML za ustvarjanje algoritmov, ki lahko na skrivaj vdrejo v sisteme podjetij in javnega sektorja.
    • Povečano število kibernetskih napadov, ki so dobro orkestrirani in ciljajo na več organizacij hkrati.
    • Ofenzivna programska oprema AI, ki se uporablja za prevzem nadzora nad vojaškim orožjem, stroji in infrastrukturnimi poveljniškimi centri.
    • Žaljiva programska oprema AI, ki se uporablja za infiltracijo, spreminjanje ali izkoriščanje sistemov podjetja za rušenje javnih in zasebnih infrastruktur. 
    • Nekatere vlade bi lahko reorganizirale digitalno obrambo svojega domačega zasebnega sektorja pod nadzorom in zaščito svojih ustreznih nacionalnih agencij za kibernetsko varnost.

    Vprašanja, ki jih je treba upoštevati

    • Kakšne so druge morebitne posledice kibernetskih napadov, ki jih podpira AI?
    • Kako drugače se lahko podjetja pripravijo na takšne napade?

    Insight reference

    Za ta vpogled so bile navedene naslednje priljubljene in institucionalne povezave:

    Center za varnost in nastajajoče tehnologije Avtomatizacija kibernetskih napadov