Quantumrun

Ofbyldingskredyt:

iStock

Automatisearre cyberoanfallen mei AI: As masines cyberkriminelen wurde

De krêft fan keunstmjittige yntelliginsje (AI) en masine learen (ML) wurdt eksploitearre troch hackers om cyberoanfallen effektiver en deadliker te meitsjen.

Skriuwer:
Namme fan auteur
Quantumrun Foresight
Septimber 30, 2022

Ynsjoch gearfetting

Keunstmjittige yntelliginsje (AI) en masine learen (ML) wurde hieltyd mear brûkt yn cyberfeiligens, sawol foar it beskermjen fan systemen as by it útfieren fan cyberoanfallen. Harren mooglikheid om te learen fan gegevens en gedrach stelt se yn steat om systeem kwetsberens te identifisearjen, mar makket it ek lestich om de boarne efter dizze algoritmen op te spoaren. Dit evoluearjende lânskip fan AI yn cyberkriminaliteit makket soargen ûnder IT-eksperts, fereasket avansearre ferdigeningsstrategyen, en kin liede ta wichtige feroaringen yn hoe't oerheden en bedriuwen cyberfeiligens benaderje.

Automatisearre cyberoanfallen mei AI-kontekst

Keunstmjittige yntelliginsje en ML behâlde de mooglikheid om hast alle taken te automatisearjen, ynklusyf learen fan repetitive gedrach en patroanen, it meitsjen fan in krêftich ark om kwetsberens yn in systeem te identifisearjen. Noch wichtiger, AI en ML meitsje it útdaagjend om in persoan as in entiteit efter in algoritme te identifisearjen.

Yn 2022, tidens de Amerikaanske Senaat Armed Services Subkommisje oer Cybersecurity, ferwiisde Eric Horvitz, de haadwittenskiplike offisier fan Microsoft, it gebrûk fan keunstmjittige yntelliginsje (AI) om cyberoanfallen te automatisearjen as "offensive AI." Hy markearre dat it lestich is om te bepalen as in cyberoanfal AI-oandreaune is. Op deselde manier wurdt dat masine learen (ML) brûkt om cyberoanfallen te helpen; ML wurdt brûkt om gewoan brûkte wurden en strategyen te learen by it meitsjen fan wachtwurden om se better te hacken.

In enkête fan it cyberfeiligensbedriuw Darktrace ûntduts dat IT-behearteams hieltyd mear soargen meitsje oer it mooglike gebrûk fan AI yn cyberkriminaliteit, mei 96 persint fan 'e respondinten oanjûn dat se al mooglike oplossingen ûndersiikje. Eksperts foar IT-feiligens fiele in ferskowing yn metoaden foar cyberoanfallen fan ransomware en phishing nei mear komplekse malware dy't lestich te ûntdekken en ôfwike binne. Mooglik risiko fan AI-ynskeakele cyberkriminaliteit is de ynfiering fan beskeadige of manipulearre gegevens yn ML-modellen.

In ML-oanfal kin ynfloed op software en oare technologyen dy't op it stuit ûntwikkele wurde om cloud computing en edge AI te stypjen. Net genôch trainingsgegevens kinne ek algoritme-foaroardielen opnij ôftwinge, lykas ferkeard tagging fan minderheidsgroepen of it beynfloedzjen fan foarsizzend polysje om marginalisearre mienskippen te rjochtsjen. Keunstmjittige yntelliginsje kin subtile, mar rampspoedige ynformaasje ynfiere yn systemen, dy't langduorjende gefolgen kinne hawwe.

Disruptive ynfloed

In stúdzje troch ûndersikers fan 'e Georgetown University oer de cyber kill chain (in checklist fan taken útfierd om in suksesfolle cyberattack te lansearjen) liet sjen dat spesifike offensive strategyen profitearje kinne fan ML. Dizze metoaden omfetsje spearphishing (e-postscams rjochte op spesifike minsken en organisaasjes), it identifisearjen fan swakkens yn IT-ynfrastruktuer, it leverjen fan kweade koade yn netwurken, en it foarkommen fan deteksje troch cyberfeiligenssystemen. Masine learen kin ek de kâns fergrutsje dat oanfallen fan sosjale technyk slagje, wêr't minsken wurde ferrifelje yn it iepenbierjen fan gefoelige ynformaasje of it útfieren fan spesifike aksjes lykas finansjele transaksjes.

Derneist kin de cyber kill chain guon prosessen automatisearje, ynklusyf:

Wiidweidich tafersjoch - autonome scanners sammelje ynformaasje fan doelnetwurken, ynklusyf har ferbûne systemen, ferdigeningswurken en softwareynstellingen.
Enorme bewapening - AI-ark dy't swakkens yn ynfrastruktuer identifisearje en koade oanmeitsje om dizze gatten te ynfiltrearjen. Dizze automatisearre deteksje kin ek rjochtsje op spesifike digitale ekosystemen as organisaasjes.
Levering of hacking - AI-ark mei automatisearring om spearphishing en sosjale engineering út te fieren om tûzenen minsken te rjochtsjen.

Fanôf 2023 is it skriuwen fan komplekse koade noch binnen it ryk fan minsklike programmeurs, mar saakkundigen leauwe dat it net lang duorret foardat masines dizze feardigens ek krije. DeepMind's AlphaCode is in prominint foarbyld fan sokke avansearre AI-systemen. It helpt programmeurs troch it analysearjen fan grutte hoemannichten koade om patroanen te learen en optimalisearre koade-oplossingen te generearjen

Gefolgen fan automatisearre cyberoanfallen mei AI

Bredere gefolgen fan automatisearre cyberoanfallen mei AI kinne omfetsje:

Bedriuwen ferdjipje har budzjetten foar cyberdefinsje om avansearre cyberoplossingen te ûntwikkeljen om automatisearre cyberoanfallen te detectearjen en te stopjen.
Cyberkriminelen dy't ML-metoaden studearje om algoritmen te meitsjen dy't yn 'e geheime systemen fan bedriuwen en publike sektor kinne ynfalle.
Tanommen ynsidinten fan cyberoanfallen dy't goed orkestreare binne en tagelyk meardere organisaasjes rjochtsje.
Offensive AI-software brûkt om kontrôle fan militêre wapens, masines en ynfrastruktuer kommando-sintra te gripen.
Oanfallende AI-software brûkt om de systemen fan in bedriuw te ynfiltrearjen, te feroarjen of te eksploitearjen om publike en partikuliere ynfrastruktueren del te nimmen.
Guon regearingen reorganisearje mooglik de digitale ferdigeningswurken fan har ynlânske partikuliere sektor ûnder de kontrôle en beskerming fan har respektivelike nasjonale cybersecurity-ynstânsjes.