Sjálfvirkar netárásir með gervigreind: Þegar vélar verða netglæpamenn

MYNDAGREIÐSLA:
Image inneign
iStock

Sjálfvirkar netárásir með gervigreind: Þegar vélar verða netglæpamenn

Sjálfvirkar netárásir með gervigreind: Þegar vélar verða netglæpamenn

Texti undirfyrirsagna
Kraftur gervigreindar (AI) og vélanáms (ML) er nýttur af tölvuþrjótum til að gera netárásir skilvirkari og banvænni.
    • Höfundur:
    • Höfundur nafn
      Quantumrun Foresight
    • September 30, 2022

    Innsýn samantekt

    Gervigreind (AI) og vélanám (ML) eru í auknum mæli notuð í netöryggi, bæði til að vernda kerfi og framkvæma netárásir. Hæfni þeirra til að læra af gögnum og hegðun gerir þeim kleift að bera kennsl á veikleika kerfisins, en gerir það einnig erfitt að rekja upprunann á bak við þessi reiknirit. Þetta þróandi landslag gervigreindar í netglæpum vekur áhyggjur meðal upplýsingatæknisérfræðinga, krefst háþróaðra varnaráætlana og getur leitt til verulegra breytinga á því hvernig stjórnvöld og fyrirtæki nálgast netöryggi.

    Sjálfvirkar netárásir með gervigreindarsamhengi

    Gervigreind og ML viðhalda getu til að gera næstum öll verkefni sjálfvirk, þar á meðal að læra af endurtekinni hegðun og mynstrum, sem gerir öflugt tæki til að bera kennsl á veikleika í kerfi. Meira um vert, gervigreind og ML gera það krefjandi að finna mann eða aðila á bak við reiknirit.

    Árið 2022, í undirnefnd bandaríska öldungadeildarinnar um netöryggi, vísaði Eric Horvitz, yfirmaður vísindamanna hjá Microsoft, til notkunar gervigreindar (AI) til að gera netárásir sjálfvirkar sem „móðgandi gervigreind. Hann benti á að það væri erfitt að ákvarða hvort netárás sé knúin gervigreind. Á sama hátt er verið að nota vélanám (ML) til að aðstoða netárásir; ML er notað til að læra almennt notuð orð og aðferðir við að búa til lykilorð til að hakka þau betur. 

    Könnun netöryggisfyrirtækisins Darktrace komst að því að upplýsingatæknistjórnunarteymi hafa sífellt meiri áhyggjur af hugsanlegri notkun gervigreindar í netglæpum, þar sem 96 prósent svarenda gefa til kynna að þeir séu nú þegar að rannsaka mögulegar lausnir. Sérfræðingar í upplýsingatækniöryggi finna fyrir breytingu á aðferðum netárása frá lausnarhugbúnaði og vefveiðum yfir í flóknari spilliforrit sem erfitt er að greina og afvegaleiða. Hugsanleg hætta á gervigreindum virktum netglæpum er innleiðing á skemmdum eða meðhöndluðum gögnum í ML módel.

    ML árás getur haft áhrif á hugbúnað og aðra tækni sem nú er verið að þróa til að styðja skýjatölvu og AI. Ófullnægjandi þjálfunargögn geta einnig framfylgt hlutdrægni reikniritsins á ný eins og ranglega merkingu minnihlutahópa eða haft áhrif á forspárlögreglu til að miða við jaðarsett samfélög. Gervigreind getur komið lúmskum en hörmulegum upplýsingum inn í kerfi, sem geta haft langvarandi afleiðingar.

    Truflandi áhrif

    Rannsókn vísindamanna við Georgetown háskóla á netdrápskeðjunni (gátlisti yfir verkefni sem unnin eru til að koma af stað farsælli netárás) sýndi að sérstakar sóknaraðferðir gætu notið góðs af ML. Þessar aðferðir fela í sér spearphishing (tölvupóstsvindl sem beint er að tilteknu fólki og stofnunum), að finna veikleika í upplýsingatækniinnviðum, koma skaðlegum kóða inn á netkerfi og forðast uppgötvun með netöryggiskerfum. Vélarnám getur einnig aukið líkurnar á því að árásir á félagsverkfræði beri árangur, þar sem fólk er blekkt til að afhjúpa viðkvæmar upplýsingar eða framkvæma sérstakar aðgerðir eins og fjármálaviðskipti. 

    Að auki getur netdrápskeðjan sjálfvirkt sum ferla, þar á meðal: 

    • Umfangsmikið eftirlit - sjálfstæðir skannarar sem safna upplýsingum frá marknetum, þar á meðal tengdum kerfum þeirra, vörnum og hugbúnaðarstillingum. 
    • Mikil vopnavæðing - gervigreind verkfæri sem bera kennsl á veikleika í innviðum og búa til kóða til að síast inn í þessar glufur. Þessi sjálfvirka uppgötvun getur einnig miðað á ákveðin stafræn vistkerfi eða stofnanir. 
    • Afhending eða reiðhestur - gervigreind verkfæri sem nota sjálfvirkni til að framkvæma spearphishing og félagslega verkfræði til að miða á þúsundir manna. 

    Frá og með 2023 er ritun flókins kóða enn á sviði mannlegra forritara, en sérfræðingar telja að það muni ekki líða á löngu þar til vélar öðlist þessa færni líka. AlphaCode frá DeepMind er áberandi dæmi um slík háþróuð gervigreind kerfi. Það aðstoðar forritara með því að greina mikið magn af kóða til að læra mynstur og búa til fínstilltar kóðalausnir

    Afleiðingar sjálfvirkra netárása með gervigreind

    Víðtækari afleiðingar sjálfvirkra netárása með gervigreind geta verið: 

    • Fyrirtæki sem dýpka fjárveitingar til netvarna til að þróa háþróaðar netlausnir til að greina og stöðva sjálfvirkar netárásir.
    • Netglæpamenn rannsaka ML aðferðir til að búa til reiknirit sem geta ráðist inn á kerfi fyrirtækja og hins opinbera með leynd.
    • Aukin tilvik netárása sem eru vel skipulögð og beinast að mörgum stofnunum í einu.
    • Móðgandi gervigreind hugbúnaður notaður til að ná stjórn á hervopnum, vélum og stjórnstöðvum hersins.
    • Móðgandi gervigreind hugbúnaður sem notaður er til að síast inn í, breyta eða nýta kerfi fyrirtækis til að taka niður opinbera og einkaaðila innviði. 
    • Sumar ríkisstjórnir endurskipuleggja hugsanlega stafrænar varnir einkageirans innanlands undir stjórn og vernd viðkomandi innlendra netöryggisstofnana.

    Spurningar sem þarf að íhuga

    • Hverjar eru aðrar hugsanlegar afleiðingar netárása með gervigreind?
    • Hvernig geta fyrirtæki annars búið sig undir slíkar árásir?

    Innsýn tilvísanir

    Vísað var til eftirfarandi vinsælu og stofnanatengla fyrir þessa innsýn:

    Miðstöð öryggis og nýrrar tækni Sjálfvirk netárásir