Quantumrun

CREDITU IMAGE:

iStock

Attacchi cibernetici automatizzati chì utilizanu AI: Quandu e macchine diventanu cibercriminali

U putere di l'intelligenza artificiale (AI) è l'apprendimentu automaticu (ML) hè sfruttatu da i pirate per fà i ciberattacchi più efficaci è letali.

Author:
Nome di l'autore
Quantumrun Foresight
September 30, 2022

Riassuntu insight

L'intelligenza artificiale (AI) è l'apprendimentu automaticu (ML) sò sempre più utilizati in a cibersigurtà, sia per a prutezzione di i sistemi sia in l'esecuzione di ciberattacchi. A so capacità d'amparà da dati è cumpurtamenti li permette di identificà e vulnerabilità di u sistema, ma rende ancu difficiuli di seguità a fonte daretu à questi algoritmi. Stu paisaghju in evoluzione di l'IA in a cibercriminalità suscite preoccupazioni trà l'esperti in IT, richiede strategie di difesa avanzate, è pò purtà à cambiamenti significativi in quantu i guverni è l'imprese si avvicinanu à a cibersigurtà.

Ciberattacchi automatizzati cù u cuntestu AI

L'intelligenza artificiale è u ML mantene a capacità di automatizà quasi tutti i travaglii, cumpresu l'apprendimentu da comportamenti è mudelli ripetitivi, facendu un strumentu putente per identificà e vulnerabilità in un sistema. A più impurtante, AI è ML facenu sfida à identificà una persona o una entità daretu à un algoritmu.

In u 2022, durante u Sottocomitatu di i servizii armati di u Senatu di i Stati Uniti per a Cybersecurity, Eric Horvitz, u capu scientificu di Microsoft, hà riferitu à l'usu di l'intelligenza artificiale (AI) per automatizà i ciberattacchi cum'è "IA offensiva". Hà rializatu chì hè difficiule di determinà se un ciberattaccu hè guidatu da AI. In listessu modu, l'apprendimentu di a macchina (ML) hè aduprata per aiutà i ciberattacchi; ML hè utilizatu per amparà e parolle è strategie cumuni per creà password per pirate megliu.

Un sondaghju da a cumpagnia di cibersicurezza Darktrace hà scupertu chì i squadre di gestione di l'IT sò sempre più preoccupati per l'usu potenziale di l'AI in i cibercrimini, cù u 96 per centu di i rispondenti chì indicanu chì anu digià ricercà soluzioni pussibuli. L'esperti in securità IT sentenu un cambiamentu in i metudi di cyberattack da ransomware è phishing à malware più cumplessi chì sò difficiuli di detectà è devianu. U risicu possibbili di cibercriminalità attivata da AI hè l'intruduzione di dati corrotti o manipulati in mudelli ML.

Un attaccu ML pò impactà u software è altre tecnulugia chì sò attualmente sviluppate per sustene l'informatica in nuvola è l'IA di punta. I dati di furmazione insufficienti ponu ancu rinfurzà i preghjudizii di l'algoritmu, cum'è l'etichettatura incorrecta di i gruppi minoritari o l'influenza di a polizia predittiva per mira à e cumunità marginalizate. L'Intelligenza Artificiale pò intruduce l'infurmazioni sottili ma disastrose in i sistemi, chì ponu avè cunsequenze longu.

Impact disruptive

Un studiu di i circadori di l'Università di Georgetown nantu à a catena di uccisione cibernetica (una lista di verificazione di i travaglii realizati per lancià un ciberattaccu successu) hà dimustratu chì e strategie offensive specifiche puderanu prufittà di ML. Questi metudi includenu spearphishing (scams di e-mail diretti versu persone è urganisazioni specifiche), indicà e debule in infrastrutture IT, trasmette codice maliziusu in rete, è evitendu a rilevazione da i sistemi di cibersecurità. L'apprendimentu di a macchina pò ancu aumentà e probabilità di successu di l'attacchi di l'ingegneria suciale, induve a ghjente hè ingannata à revelà informazioni sensibili o à fà azioni specifiche cum'è transazzione finanziaria.

Inoltre, a catena di uccisioni cibernetica pò automatizà certi prucessi, cumprese:

Surveglianza estensiva - scanners autonomi chì recullanu infurmazioni da e rete di destinazione, cumprese i so sistemi cunnessi, difese è paràmetri di software.
Vasta armamentu - Strumenti AI chì identificanu e debule in l'infrastruttura è creanu codice per infiltrassi in queste lacune. Questa rilevazione automatizata pò ancu destinà ecosistemi o urganisazioni digitali specifichi.
Consegna o pirateria - Strumenti AI chì utilizanu l'automatizazione per eseguisce spearphishing è ingegneria suciale per mira à migliaia di persone.

Da u 2023, a scrittura di codice cumplessu hè sempre in u regnu di i programatori umani, ma l'esperti credi chì ùn ci sarà micca assai prima chì e macchine acquistenu ancu sta cumpetenza. AlphaCode di DeepMind hè un esempiu prominente di tali sistemi AI avanzati. Aiuta i programatori analizendu una grande quantità di codice per amparà mudelli è generà soluzioni di codice ottimizzati

Implicazioni di cyberattacks automatizati cù AI

Implicazioni più larghe di ciberattacchi automatizati chì utilizanu AI ponu include:

L'imprese approfondisce i so bilanci di difesa cibernetica per sviluppà soluzioni cibernetiche avanzate per detectà è piantà i ciberattacchi automatizzati.
I cibercriminali chì studianu i metudi di ML per creà algoritmi chì ponu invade secretamente i sistemi corporativi è di u settore publicu.
Incidenti aumentati di ciberattacchi chì sò ben orchestrati è miranu à parechje urganisazioni in una volta.
U software offensiu AI utilizatu per piglià u cuntrollu di l'armi militari, e macchine è i centri di cummandu di l'infrastruttura.
U software AI offensiu utilizatu per infiltrà, mudificà o sfruttà i sistemi di una cumpagnia per sguassà infrastrutture pubbliche è private.
Certi guverni potenzialmente riorganizzanu e difese digitale di u so settore privatu domesticu sottu u cuntrollu è a prutezzione di e so rispettive agenzie di cibersecurità naziunale.