Automatiseeritud küberrünnakud tehisintellekti abil: kui masinad muutuvad küberkurjategijateks

PILDIKrediit:
Pildikrediit
iStock

Automatiseeritud küberrünnakud tehisintellekti abil: kui masinad muutuvad küberkurjategijateks

Automatiseeritud küberrünnakud tehisintellekti abil: kui masinad muutuvad küberkurjategijateks

Alapealkirja tekst
Häkkerid kasutavad tehisintellekti (AI) ja masinõppe (ML) jõudu küberrünnakute tõhusamaks ja surmavamaks muutmiseks.
    • Autor:
    • autori nimi
      Quantumrun Foresight
    • September 30, 2022

    Postitage tekst

    Tehisintellekt (AI) ja masinõpe (ML) säilitavad võime automatiseerida peaaegu kõiki ülesandeid, sealhulgas õppida korduvast käitumisest ja mustritest, muutes võimsaks tööriistaks süsteemi haavatavuste tuvastamiseks. Veelgi olulisem on see, et AI ja ML muudavad algoritmi taga oleva isiku või üksuse kindlaksmääramise keeruliseks.

    Automatiseeritud küberrünnakud tehisintellekti konteksti kasutades

    2022. aastal viitas USA senati relvajõudude küberjulgeoleku allkomitee istungil Microsofti juhtivteadlane Eric Horvitz tehisintellekti (AI) kasutamisele küberrünnakute automatiseerimiseks kui "solvavaks tehisintellektiks". Rõhutades, et on raske kindlaks teha, kas küberrünnak on AI-põhine. Samamoodi kasutatakse masinõpet (ML) küberrünnakute abistamiseks; ML-i kasutatakse sageli kasutatavate sõnade ja strateegiate õppimiseks paroolide loomisel, et neid paremini häkkida. 

    Küberturbefirma Darktrace küsitlus avastas, et IT-juhtkonnad on üha enam mures tehisintellekti võimaliku kasutamise pärast küberkuritegudes – 96 protsenti vastanutest märkis, et nad juba uurivad võimalikke lahendusi. 

    IT-turbeeksperdid tunnevad küberrünnakumeetodite muutumist lunavaralt ja andmepüügilt keerukamale pahavarale, mida on raske tuvastada ja kõrvale juhtida. AI-toega küberkuritegevuse võimalik oht on rikutud või manipuleeritud andmete lisamine ML-mudelitesse. ML-rünnak võib mõjutada tarkvara ja muid tehnoloogiaid, mida praegu arendatakse, et toetada pilvandmetöötlust ja AI-d. Ebapiisavad koolitusandmed võivad samuti tugevdada algoritmide eelarvamusi, nagu vähemusrühmade ebaõige märgistamine või ennustava politseitöö mõjutamine marginaliseeritud kogukondade sihtimiseks. Tehisintellekt võib viia süsteemidesse peent, kuid hukatuslikku teavet, millel võivad olla pikaajalised tagajärjed.

    Häiriv mõju

    Georgetowni ülikooli teadlaste uuring kübertapmise ahela kohta (eduka küberrünnaku käivitamiseks sooritatud ülesannete kontrollnimekiri) näitas, et ML-st võivad kasu olla konkreetsed ründavad strateegiad. Need meetodid hõlmavad andmepüügi (teatud inimestele ja organisatsioonidele suunatud meilipettused), IT-taristute nõrkade külgede tuvastamist, pahatahtliku koodi edastamist võrkudesse ja küberturbesüsteemide tuvastamise vältimist. Masinõpe võib suurendada ka sotsiaalse manipuleerimise rünnakute õnnestumise võimalusi, kui inimesi petetakse avaldama tundlikku teavet või tegema konkreetseid toiminguid, näiteks finantstehinguid. 

    Lisaks saab kübertapmise kett automatiseerida mõningaid protsesse, sealhulgas: 

    • Laiaulatuslik järelevalve – autonoomsed skannerid, mis koguvad teavet sihtvõrkudest, sealhulgas nende ühendatud süsteemidest, kaitsemehhanismidest ja tarkvaraseadetest. 
    • Suur relvastus – tehisintellekti tööriistad, mis tuvastavad infrastruktuuri nõrkused ja loovad koodi nende lünkade imbumiseks. See automaatne tuvastamine võib olla suunatud ka konkreetsetele digitaalsetele ökosüsteemidele või organisatsioonidele. 
    • Kohaletoimetamine või häkkimine – tehisintellekti tööriistad, mis kasutavad automaatset andmepüügi ja sotsiaalset manipuleerimist tuhandete inimeste sihtimiseks. 

    2022. aasta seisuga kuulub keeruka koodi kirjutamine endiselt programmeerijate pädevusse, kuid eksperdid usuvad, et ei lähe kaua aega, kui ka masinad selle oskuse omandavad. 

    Tehisintellekti kasutavate automatiseeritud küberrünnakute tagajärjed

    Tehisintellekti kasutavate automatiseeritud küberrünnakute laiemad tagajärjed võivad hõlmata järgmist: 

    • Ettevõtted süvendavad oma küberkaitseeelarveid, et töötada välja täiustatud küberlahendusi automatiseeritud küberrünnakute tuvastamiseks ja peatamiseks.
    • Küberkurjategijad, kes uurivad ML-meetodeid, et luua algoritme, mis võivad salaja tungida ettevõtete ja avaliku sektori süsteemidesse.
    • Sagenenud küberrünnakud, mis on hästi korraldatud ja on suunatud korraga mitmele organisatsioonile.
    • Ründav tehisintellekti tarkvara, mida kasutatakse sõjaväerelvade, masinate ja infrastruktuuri juhtimiskeskuste üle kontrolli haaramiseks.
    • Solvav AI-tarkvara, mida kasutatakse ettevõtte süsteemidesse imbumiseks, muutmiseks või ärakasutamiseks avalike ja erainfrastruktuuride hävitamiseks. 
    • Mõned valitsused korraldavad potentsiaalselt ümber oma kodumaise erasektori digitaalse kaitse oma vastavate riiklike küberjulgeolekuagentuuride kontrolli ja kaitse all.

    Küsimused, mida kommenteerida

    • Millised on muud võimalikud AI-toega küberrünnakute tagajärjed?
    • Kuidas muidu saavad ettevõtted sellisteks rünnakuteks valmistuda?

    Insight viited

    Selle ülevaate jaoks viidati järgmistele populaarsetele ja institutsionaalsetele linkidele:

    Turvalisuse ja areneva tehnoloogia keskus Küberrünnakute automatiseerimine