Automatski sajber napadi pomoću AI: Kada mašine postanu sajber kriminalci

KREDIT ZA SLIKU:
Image credit
iStock

Automatski sajber napadi pomoću AI: Kada mašine postanu sajber kriminalci

Automatski sajber napadi pomoću AI: Kada mašine postanu sajber kriminalci

Tekst podnaslova
Hakeri iskorištavaju moć umjetne inteligencije (AI) i mašinskog učenja (ML) kako bi sajber napade učinili efikasnijim i smrtonosnijim.
    • Autor:
    • Ime autora
      Quantumrun Foresight
    • Septembar 30, 2022

    Umjetna inteligencija (AI) i mašinsko učenje (ML) održavaju sposobnost automatizacije gotovo svih zadataka, uključujući učenje iz ponašanja i obrazaca koji se ponavljaju, čineći moćan alat za identifikaciju ranjivosti u sistemu. Što je još važnije, AI i ML čine izazovnim određivanje osobe ili entiteta iza algoritma.

    Automatski cyber napadi koristeći AI kontekst

    Tokom 2022. godine, tokom podkomiteta za kibernetičku sigurnost američkog Senata, Eric Horvitz, Microsoftov glavni naučni službenik, nazvao je upotrebu umjetne inteligencije (AI) za automatizaciju sajber napada kao “uvredljivu AI”. Naglašavajući da je teško utvrditi da li je cyber napad vođen umjetnom inteligencijom. Slično, to mašinsko učenje (ML) se koristi za pomoć sajber napadima; ML se koristi za učenje najčešće korištenih riječi i strategija u kreiranju lozinki za njihovo bolje hakovanje. 

    Istraživanje firme Darktrace za kibernetičku sigurnost otkrilo je da su IT menadžment timovi sve više zabrinuti zbog potencijalne upotrebe AI u sajber zločinima, pri čemu je 96 posto ispitanika navelo da već istražuje moguća rješenja. 

    Stručnjaci za IT sigurnost osjećaju promjenu u metodama cyber napada od ransomware-a i phishing-a na složeniji zlonamjerni softver koji je teško otkriti i skrenuti. Mogući rizik od sajber kriminala omogućenog umjetnom inteligencijom je uvođenje korumpiranih ili izmanipuliranih podataka u modele ML-a. ML napad može uticati na softver i druge tehnologije koje se trenutno razvijaju za podršku računarstva u oblaku i rubne AI. Nedovoljni podaci o obuci također mogu pojačati pristrasnost algoritama kao što je pogrešno označavanje manjinskih grupa ili utjecanje na prediktivnu policiju kako bi ciljala marginalizirane zajednice. Umjetna inteligencija može unijeti suptilne, ali katastrofalne informacije u sisteme, što može imati dugotrajne posljedice.

    Ometajući uticaj

    Studija istraživača sa Univerziteta Georgetown o lancu cyber ubijanja (kontrolna lista zadataka koji se obavljaju za pokretanje uspješnog cyber napada) pokazala je da specifične ofanzivne strategije mogu imati koristi od ML-a. Ove metode uključuju spearphishing (prevare e-pošte usmjerene prema određenim ljudima i organizacijama), utvrđivanje slabosti u IT infrastrukturama, isporuku zlonamjernog koda u mreže i izbjegavanje otkrivanja od strane sistema sajber sigurnosti. Mašinsko učenje također može povećati šanse da napadi socijalnog inženjeringa uspiju, gdje su ljudi prevareni da otkriju osjetljive informacije ili izvedu određene radnje kao što su finansijske transakcije. 

    Osim toga, lanac cyber ubijanja može automatizirati neke procese, uključujući: 

    • Opsežan nadzor – autonomni skeneri koji prikupljaju informacije iz ciljnih mreža, uključujući njihove povezane sisteme, odbranu i postavke softvera. 
    • Ogromna upotreba oružja – AI alati koji identifikuju slabosti u infrastrukturi i kreiraju kod za infiltriranje u ove rupe. Ova automatizirana detekcija također može ciljati određene digitalne ekosisteme ili organizacije. 
    • Isporuka ili hakovanje - AI alati koji koriste automatizaciju za izvođenje spearphishinga i društvenog inženjeringa za ciljanje hiljada ljudi. 

    Od 2022. godine pisanje složenog koda i dalje je u domenu ljudskih programera, ali stručnjaci vjeruju da neće proći mnogo vremena prije nego što i mašine steknu ovu vještinu. 

    Implikacije automatiziranih cyber napada korištenjem AI

    Šire implikacije automatiziranih cyber napada pomoću AI mogu uključivati: 

    • Kompanije produbljuju svoje budžete za sajber odbranu kako bi razvile napredna sajber rješenja za otkrivanje i zaustavljanje automatiziranih cyber napada.
    • Sajber kriminalci proučavaju ML metode kako bi stvorili algoritme koji mogu tajno upasti u korporativne i sisteme javnog sektora.
    • Povećan broj incidenata sajber napada koji su dobro orkestrirani i ciljaju više organizacija odjednom.
    • Ofanzivni AI softver koji se koristi za preuzimanje kontrole nad vojnim oružjem, mašinama i infrastrukturnim komandnim centrima.
    • Ofanzivni softver veštačke inteligencije koji se koristi za infiltriranje, modifikovanje ili eksploataciju sistema kompanije za rušenje javne i privatne infrastrukture. 
    • Neke vlade potencijalno reorganiziraju digitalnu odbranu svog domaćeg privatnog sektora pod kontrolom i zaštitom svojih odgovarajućih nacionalnih agencija za kibernetičku sigurnost.

    Pitanja za komentar

    • Koje su druge potencijalne posljedice sajber napada sa AI-om?
    • Kako se drugačije kompanije mogu pripremiti za takve napade?

    Insight reference

    Za ovaj uvid referencirane su sljedeće popularne i institucionalne veze:

    Centar za sigurnost i nove tehnologije Automatizacija sajber napada