Automatizirani kibernetički napadi pomoću AI: Kada strojevi postanu kibernetički kriminalci

KREDIT ZA SLIKE:
Slika kreditne
Istockphoto

Automatizirani kibernetički napadi pomoću AI: Kada strojevi postanu kibernetički kriminalci

Automatizirani kibernetički napadi pomoću AI: Kada strojevi postanu kibernetički kriminalci

Tekst podnaslova
Hakeri iskorištavaju moć umjetne inteligencije (AI) i strojnog učenja (ML) kako bi kibernetičke napade učinili učinkovitijima i smrtonosnijima.
    • Autor:
    • ime autora
      Quantumrun Foresight
    • Rujna 30, 2022

    Tekst objave

    Umjetna inteligencija (AI) i strojno učenje (ML) održavaju sposobnost automatizacije gotovo svih zadataka, uključujući učenje iz ponašanja i obrazaca koji se ponavljaju, čineći moćan alat za prepoznavanje ranjivosti u sustavu. Još važnije, AI i ML čine izazovom odrediti osobu ili entitet koji stoji iza algoritma.

    Automatizirani cyber napadi koji koriste AI kontekst

    Godine 2022., tijekom Pododbora oružanih snaga američkog Senata za kibernetičku sigurnost, Eric Horvitz, Microsoftov glavni znanstveni časnik, nazvao je upotrebu umjetne inteligencije (AI) za automatizaciju kibernetičkih napada "ofenzivnom AI". Naglašavajući da je teško utvrditi je li kibernetički napad pokrenut umjetnom inteligencijom. Slično tome, strojno učenje (ML) se koristi za pomoć kibernetičkim napadima; ML se koristi za učenje često korištenih riječi i strategija za stvaranje lozinki za njihovo bolje hakiranje. 

    Istraživanje tvrtke Darktrace za kibernetičku sigurnost otkrilo je da su IT timovi za upravljanje sve više zabrinuti zbog potencijalne upotrebe umjetne inteligencije u kibernetičkom kriminalu, pri čemu je 96 posto ispitanika navelo da već istražuju moguća rješenja. 

    Stručnjaci za IT sigurnost osjećaju pomak u metodama kibernetičkih napada s ransomwarea i phishinga na složeniji malware koji je teško otkriti i odvratiti. Mogući rizik kibernetičkog kriminala omogućenog umjetnom inteligencijom je uvođenje oštećenih ili manipuliranih podataka u ML modele. ML napad može utjecati na softver i druge tehnologije koje se trenutno razvijaju za podršku računalstvu u oblaku i rubnoj umjetnoj inteligenciji. Nedovoljno podataka o obuci također može pojačati pristranosti algoritama kao što je netočno označavanje manjinskih skupina ili utjecati na prediktivni policijski rad za ciljanje marginaliziranih zajednica. Umjetna inteligencija može unijeti suptilne, ali katastrofalne informacije u sustave, što može imati dugotrajne posljedice.

    Razarajući učinak

    Studija istraživača sa Sveučilišta Georgetown o lancu kibernetičkih ubojstava (kontrolni popis zadataka koji se izvode za pokretanje uspješnog kibernetičkog napada) pokazala je da određene ofenzivne strategije mogu imati koristi od ML-a. Te metode uključuju spearphishing (prijevare putem e-pošte usmjerene prema određenim osobama i organizacijama), određivanje slabosti u IT infrastrukturi, isporuku zlonamjernog koda u mreže i izbjegavanje otkrivanja od strane sustava kibernetičke sigurnosti. Strojno učenje također može povećati šanse za uspjeh napada društvenim inženjeringom, gdje su ljudi prevareni da otkriju osjetljive informacije ili izvedu određene radnje poput financijskih transakcija. 

    Osim toga, cyber kill lanac može automatizirati neke procese, uključujući: 

    • Ekstenzivni nadzor - autonomni skeneri prikupljaju informacije iz ciljnih mreža, uključujući njihove povezane sustave, obranu i postavke softvera. 
    • Opsežno naoružavanje - AI alati identificiraju slabosti u infrastrukturi i stvaraju kod za infiltraciju u te rupe. Ova automatizirana detekcija također može ciljati na određene digitalne ekosustave ili organizacije. 
    • Isporuka ili hakiranje - alati umjetne inteligencije koji koriste automatizaciju za izvođenje podvodnog krađe i društvenog inženjeringa za ciljanje tisuća ljudi. 

    Od 2022. pisanje složenog koda još uvijek je u domeni ljudskih programera, ali stručnjaci vjeruju da neće proći dugo prije nego što i strojevi steknu ovu vještinu. 

    Posljedice automatiziranih kibernetičkih napada korištenjem AI

    Šire implikacije automatiziranih kibernetičkih napada korištenjem umjetne inteligencije mogu uključivati: 

    • Tvrtke produbljuju svoje proračune za kibernetičku obranu kako bi razvile napredna kibernetička rješenja za otkrivanje i zaustavljanje automatiziranih kibernetičkih napada.
    • Kibernetički kriminalci proučavaju metode ML-a kako bi stvorili algoritme koji mogu tajno upasti u sustave poduzeća i javnog sektora.
    • Povećani broj incidenata kibernetičkih napada koji su dobro orkestrirani i ciljaju više organizacija odjednom.
    • Napadni AI softver koji se koristi za preuzimanje kontrole nad vojnim oružjem, strojevima i zapovjednim centrima infrastrukture.
    • Uvredljivi AI softver koji se koristi za infiltraciju, modificiranje ili iskorištavanje sustava tvrtke za rušenje javne i privatne infrastrukture. 
    • Neke vlade potencijalno reorganiziraju digitalnu obranu svog domaćeg privatnog sektora pod kontrolom i zaštitom svojih odgovarajućih nacionalnih agencija za kibernetičku sigurnost.

    Pitanja za komentar

    • Koje su druge moguće posljedice kibernetičkih napada omogućenih umjetnom inteligencijom?
    • Kako se drugačije tvrtke mogu pripremiti za takve napade?

    Reference uvida

    Za ovaj uvid korištene su sljedeće popularne i institucionalne veze:

    Centar za sigurnost i nove tehnologije Automatiziranje kibernetičkih napada