Outomatiese kuberaanvalle met behulp van KI: Wanneer masjiene kubermisdadigers word

BEELDKREDIET:
Image krediet
iStock

Outomatiese kuberaanvalle met behulp van KI: Wanneer masjiene kubermisdadigers word

Outomatiese kuberaanvalle met behulp van KI: Wanneer masjiene kubermisdadigers word

Subopskrif teks
Die krag van kunsmatige intelligensie (KI) en masjienleer (ML) word deur kuberkrakers uitgebuit om kuberaanvalle doeltreffender en dodeliker te maak.
    • Author:
    • Author naam
      Quantumrun Foresight
    • September 30, 2022

    Insig opsomming

    Kunsmatige intelligensie (KI) en masjienleer (ML) word toenemend in kuberveiligheid gebruik, beide vir die beskerming van stelsels en om kuberaanvalle uit te voer. Hul vermoë om uit data en gedrag te leer stel hulle in staat om stelselkwesbaarhede te identifiseer, maar maak dit ook moeilik om die bron agter hierdie algoritmes op te spoor. Hierdie ontwikkelende landskap van KI in kubermisdaad wek kommer onder IT-kundiges, vereis gevorderde verdedigingstrategieë en kan lei tot beduidende veranderinge in hoe regerings en maatskappye kuberveiligheid benader.

    Outomatiese kuberaanvalle met behulp van KI-konteks

    Kunsmatige intelligensie en ML handhaaf die vermoë om byna alle take te outomatiseer, insluitend leer uit herhalende gedrag en patrone, wat 'n kragtige instrument maak om kwesbaarhede in 'n stelsel te identifiseer. Nog belangriker, KI en ML maak dit uitdagend om 'n persoon of 'n entiteit agter 'n algoritme te identifiseer.

    In 2022, tydens die Amerikaanse Senaat se Gewapende Dienste Subkomitee oor Kuberveiligheid, het Eric Horvitz, Microsoft se hoofwetenskaplike beampte, na die gebruik van kunsmatige intelligensie (KI) om kuberaanvalle te outomatiseer as "aanstootlike KI" verwys. Hy het beklemtoon dat dit moeilik is om te bepaal of 'n kuberaanval KI-gedrewe is. Net so word dat masjienleer (ML) gebruik word om kuberaanvalle te help; ML word gebruik om algemeen gebruikte woorde en strategieë te leer om wagwoorde te skep om dit beter te hack. 

    ’n Opname deur die kuberveiligheidsfirma Darktrace het ontdek dat IT-bestuurspanne toenemend bekommerd is oor die potensiële gebruik van KI in kubermisdade, met 96 persent van die respondente wat aangedui het dat hulle reeds moontlike oplossings ondersoek. IT-sekuriteitskundiges voel 'n verskuiwing in kuberaanvalmetodes van losprysware en uitvissing na meer komplekse wanware wat moeilik is om op te spoor en af ​​te weer. Moontlike risiko van KI-geaktiveerde kubermisdaad is die bekendstelling van korrupte of gemanipuleerde data in ML-modelle.

    'n ML-aanval kan 'n impak hê op sagteware en ander tegnologieë wat tans ontwikkel word om wolkrekenaars en rand-KI te ondersteun. Onvoldoende opleidingsdata kan ook algoritme-vooroordele weer afdwing, soos om minderheidsgroepe verkeerd te merk of om voorspellende polisiëring te beïnvloed om gemarginaliseerde gemeenskappe te teiken. Kunsmatige intelligensie kan subtiele maar rampspoedige inligting in stelsels inbring, wat langdurige gevolge kan hê.

    Ontwrigtende impak

    ’n Studie deur Georgetown-universiteit se navorsers oor die kubermoordketting (’n kontrolelys van take wat uitgevoer word om ’n suksesvolle kuberaanval te loods) het getoon dat spesifieke aanstootlike strategieë by ML kan baat. Hierdie metodes sluit in spearphishing (e-pos-swendelary wat op spesifieke mense en organisasies gerig is), die uitwys van swakhede in IT-infrastruktuur, die lewering van kwaadwillige kode in netwerke en die vermyding van opsporing deur kuberveiligheidstelsels. Masjienleer kan ook die kanse verhoog dat sosiale ingenieursaanvalle sal slaag, waar mense mislei word om sensitiewe inligting te openbaar of spesifieke handelinge soos finansiële transaksies uit te voer. 

    Daarbenewens kan die kuberdoodketting sommige prosesse outomatiseer, insluitend: 

    • Uitgebreide toesig - outonome skandeerders wat inligting van teikennetwerke versamel, insluitend hul gekoppelde stelsels, verdediging en sagteware-instellings. 
    • Groot bewapening - KI-instrumente wat swakhede in infrastruktuur identifiseer en kode skep om hierdie skuiwergate te infiltreer. Hierdie outomatiese opsporing kan ook spesifieke digitale ekosisteme of organisasies teiken. 
    • Aflewering of inbraak - KI-nutsgoed wat outomatisering gebruik om spearphishing en sosiale ingenieurswese uit te voer om duisende mense te teiken. 

    Vanaf 2023 is die skryf van komplekse kode steeds binne die gebied van menslike programmeerders, maar kenners glo dat dit nie lank sal duur voordat masjiene ook hierdie vaardigheid verwerf nie. DeepMind se AlphaCode is 'n prominente voorbeeld van sulke gevorderde KI-stelsels. Dit help programmeerders deur groot hoeveelhede kode te ontleed om patrone te leer en geoptimaliseerde kode-oplossings te genereer

    Implikasies van outomatiese kuberaanvalle met behulp van KI

    Wyer implikasies van outomatiese kuberaanvalle met behulp van KI kan die volgende insluit: 

    • Maatskappye wat hul kuberverdedigingsbegrotings verdiep om gevorderde kuberoplossings te ontwikkel om outomatiese kuberaanvalle op te spoor en te stop.
    • Kubermisdadigers wat ML-metodes bestudeer om algoritmes te skep wat in die geheim korporatiewe en openbare sektorstelsels kan binnedring.
    • Verhoogde voorvalle van kuberaanvalle wat goed georkestreer is en tegelyk verskeie organisasies teiken.
    • Aanstootlike KI-sagteware wat gebruik word om beheer oor militêre wapens, masjiene en infrastruktuur-bevelsentrums oor te neem.
    • Aanstootlike KI-sagteware wat gebruik word om 'n maatskappy se stelsels te infiltreer, te verander of te ontgin om openbare en private infrastruktuur af te neem. 
    • Sommige regerings herorganiseer moontlik die digitale verdediging van hul binnelandse private sektor onder die beheer en beskerming van hul onderskeie nasionale kuberveiligheidsagentskappe.

    Vrae om te oorweeg

    • Wat is die ander potensiële gevolge van KI-geaktiveerde kuberaanvalle?
    • Hoe anders kan maatskappye voorberei vir sulke aanvalle?

    Insig verwysings

    Die volgende gewilde en institusionele skakels is vir hierdie insig verwys:

    Sentrum vir Sekuriteit en Opkomende Tegnologie Outomatisering van kuberaanvalle