Automatisoidut kyberhyökkäykset tekoälyllä: Kun koneista tulee kyberrikollisia

• Kirjoittaja:
• tekijän nimi

  Quantumrun Foresight
• Syyskuu 30, 2022

Havainnon yhteenveto

Tekoälyä (AI) ja koneoppimista (ML) käytetään yhä enemmän kyberturvallisuudessa sekä järjestelmien suojaamiseen että kyberhyökkäysten toteuttamiseen. Niiden kyky oppia tiedoista ja käyttäytymisestä mahdollistaa järjestelmän haavoittuvuuksien tunnistamisen, mutta vaikeuttaa myös näiden algoritmien taustalla olevien lähteiden jäljittämistä. Tämä kehittyvä tekoälyn kyberrikollisuuden maisema herättää huolta IT-asiantuntijoiden keskuudessa, vaatii kehittyneitä puolustusstrategioita ja voi johtaa merkittäviin muutoksiin siinä, miten hallitukset ja yritykset suhtautuvat kyberturvallisuuteen.

Automatisoidut kyberhyökkäykset tekoälykontekstin avulla

Tekoäly ja ML ylläpitävät kykyä automatisoida lähes kaikki tehtävät, mukaan lukien oppiminen toistuvasta käyttäytymisestä ja malleista, mikä tekee siitä tehokkaan työkalun järjestelmän haavoittuvuuksien tunnistamiseen. Vielä tärkeämpää on, että tekoäly ja ML tekevät algoritmin takana olevan henkilön tai kokonaisuuden paikantamisesta haastavaa.

Vuonna 2022 Yhdysvaltain senaatin kyberturvallisuusalikomitean aikana Microsoftin tieteellinen pääjohtaja Eric Horvitz viittasi tekoälyn (AI) käyttöön kyberhyökkäysten automatisoimiseen "loukkaavaksi tekoälyksi". Hän korosti, että on vaikea määrittää, onko kyberhyökkäys tekoälyn aiheuttamaa. Samoin koneoppimista (ML) käytetään auttamaan kyberhyökkäyksiä; ML:ää käytetään yleisesti käytettyjen sanojen ja strategioiden oppimiseen salasanojen luomisessa niiden hakkeroinnin parantamiseksi. 

Kyberturvallisuusyrityksen Darktracen tekemä tutkimus paljasti, että IT-johtoryhmät ovat yhä enemmän huolissaan tekoälyn mahdollisesta käytöstä kyberrikoksissa, ja 96 prosenttia vastaajista ilmoitti jo tutkivansa mahdollisia ratkaisuja. IT-tietoturvaasiantuntijat kokevat kyberhyökkäysmenetelmien siirtymisen kiristysohjelmista ja tietojenkalasteluista monimutkaisempiin haittaohjelmiin, joita on vaikea havaita ja ohjata. Tekoälyn mahdollistaman kyberrikollisuuden mahdollinen riski on vioittun tai manipuloidun tiedon tuominen ML-malleihin.

ML-hyökkäys voi vaikuttaa ohjelmistoihin ja muihin teknologioihin, joita parhaillaan kehitetään tukemaan pilvilaskentaa ja reuna-AI-tekniikkaa. Riittämättömät koulutustiedot voivat myös vahvistaa algoritmien harhaa, kuten vähemmistöryhmien virheellistä merkitsemistä tai ennakoivan poliisitoiminnan vaikuttamista syrjäytyneisiin yhteisöihin. Tekoäly voi tuoda hienovaraisia, mutta tuhoisia tietoja järjestelmiin, millä voi olla pitkäkestoisia seurauksia.

Häiritsevä vaikutus

Georgetownin yliopiston tutkijoiden tutkimus kybertappamisketjusta (tarkistuslista tehtävistä, jotka suoritetaan onnistuneen kyberhyökkäyksen käynnistämiseksi) osoitti, että tietyt hyökkäysstrategiat voisivat hyötyä ML:stä. Tällaisia ​​menetelmiä ovat phishing (tietyille ihmisille ja organisaatioille suunnatut sähköpostihuijaukset), IT-infrastruktuurien heikkouksien havaitseminen, haitallisen koodin toimittaminen verkkoihin ja kyberturvallisuusjärjestelmien havaitsemisen välttäminen. Koneoppiminen voi myös lisätä onnistumisen mahdollisuuksia sosiaalisen manipuloinnin hyökkäyksille, joissa ihmisiä huijataan paljastamaan arkaluontoisia tietoja tai suorittamaan tiettyjä toimia, kuten rahoitustapahtumia. 

Lisäksi kybertappamisketju voi automatisoida joitain prosesseja, mukaan lukien: 

• Laaja valvonta – autonomiset skannerit, jotka keräävät tietoa kohdeverkoista, mukaan lukien niihin liitetyt järjestelmät, puolustukset ja ohjelmistoasetukset. 
• Laaja aseistus – tekoälytyökalut tunnistavat infrastruktuurin heikkouksia ja luovat koodia näihin porsaanreikiin tunkeutumiseksi. Tämä automaattinen tunnistus voi kohdistua myös tiettyihin digitaalisiin ekosysteemeihin tai organisaatioihin. 
• Toimitus tai hakkerointi – AI-työkalut, jotka käyttävät automaatiota tietojenkalastelun ja sosiaalisen manipuloinnin suorittamiseen tuhansien ihmisten kohdentamiseksi. 

Vuodesta 2023 lähtien monimutkaisen koodin kirjoittaminen on edelleen ihmisten ohjelmoijien käsissä, mutta asiantuntijat uskovat, että ei mene kauaa, ennen kuin koneetkin hankkivat tämän taidon. DeepMindin AlphaCode on näkyvä esimerkki tällaisista edistyneistä tekoälyjärjestelmistä. Se auttaa ohjelmoijia analysoimaan suuria määriä koodia oppimaan malleja ja luomaan optimoituja koodiratkaisuja

Tekoälyä käyttävien automatisoitujen kyberhyökkäysten vaikutukset

Tekoälyä käyttävien automatisoitujen kyberhyökkäysten laajempia seurauksia voivat olla: 

• Yritykset syventävät kyberpuolustusbudjettiaan kehittääkseen edistyneitä kyberratkaisuja automatisoitujen kyberhyökkäysten havaitsemiseen ja pysäyttämiseen.
• Kyberrikolliset tutkivat ML-menetelmiä luodakseen algoritmeja, jotka voivat salaa tunkeutua yritysten ja julkisen sektorin järjestelmiin.
• Useammat kyberhyökkäykset, jotka ovat hyvin organisoituja ja kohdistuvat useisiin organisaatioihin kerralla.
• Hyökkäävä tekoälyohjelmisto, jota käytetään sotilasaseiden, koneiden ja infrastruktuurin komentokeskusten hallintaan.
• Loukkaava tekoälyohjelmisto, jota käytetään tunkeutumaan, muokkaamaan tai hyödyntämään yrityksen järjestelmiä julkisten ja yksityisten infrastruktuurien purkamiseksi. 
• Jotkut hallitukset mahdollisesti järjestävät uudelleen kotimaisen yksityisen sektorinsa digitaalisen suojan kansallisten kyberturvallisuusvirastojensa valvonnassa ja suojassa.

Pohdittavia kysymyksiä

• Mitä muita mahdollisia tekoälyn tukemien kyberhyökkäysten seurauksia on?
• Miten muut yritykset voivat valmistautua tällaisiin hyökkäyksiin?