Outomatiese kuberaanvalle met behulp van KI: Wanneer masjiene kubermisdadigers word

• Author:
• Author naam

  Quantumrun Foresight
• September 30, 2022

Kunsmatige intelligensie (KI) en masjienleer (ML) handhaaf die vermoë om byna alle take te outomatiseer, insluitend leer van herhalende gedrag en patrone, wat 'n kragtige instrument maak om kwesbaarhede in 'n stelsel te identifiseer. Nog belangriker, KI en ML maak dit uitdagend om 'n persoon of 'n entiteit agter 'n algoritme te identifiseer.

Outomatiese kuberaanvalle met behulp van KI-konteks

In 2022, tydens die Amerikaanse Senaat se Gewapende Dienste Subkomitee oor Kuberveiligheid, het Eric Horvitz, Microsoft se hoof wetenskaplike beampte, na die gebruik van kunsmatige intelligensie (KI) om kuberaanvalle te outomatiseer as “aanstootlike KI” verwys. Beklemtoon dat dit moeilik is om te bepaal of 'n kuberaanval KI-gedrewe is. Net so word dat masjienleer (ML) gebruik word om kuberaanvalle te help; ML word gebruik om algemeen gebruikte woorde en strategieë te leer om wagwoorde te skep om dit beter te hack. 

’n Opname deur die kuberveiligheidsfirma Darktrace het ontdek dat IT-bestuurspanne toenemend bekommerd is oor die potensiële gebruik van KI in kubermisdade, met 96 persent van die respondente wat aangedui het dat hulle reeds moontlike oplossings ondersoek. 

IT-sekuriteitskundiges voel 'n verskuiwing in kuberaanvalmetodes van losprysware en uitvissing na meer komplekse wanware wat moeilik is om op te spoor en af ​​te weer. Moontlike risiko van KI-geaktiveerde kubermisdaad is die bekendstelling van korrupte of gemanipuleerde data in ML-modelle. 'n ML-aanval kan 'n impak hê op sagteware en ander tegnologieë wat tans ontwikkel word om wolkrekenaars en rand-KI te ondersteun. Onvoldoende opleidingsdata kan ook algoritme-vooroordele weer afdwing, soos om minderheidsgroepe verkeerd te merk of om voorspellende polisiëring te beïnvloed om gemarginaliseerde gemeenskappe te teiken. Kunsmatige intelligensie kan subtiele maar rampspoedige inligting in stelsels inbring, wat langdurige gevolge kan hê.

Ontwrigtende impak

’n Studie deur Georgetown-universiteit se navorsers oor die kubermoordketting (’n kontrolelys van take wat uitgevoer word om ’n suksesvolle kuberaanval te loods) het getoon dat spesifieke aanstootlike strategieë by ML kan baat. Hierdie metodes sluit in spearphishing (e-pos-swendelary wat op spesifieke mense en organisasies gerig is), die uitwys van swakhede in IT-infrastruktuur, die lewering van kwaadwillige kode in netwerke en die vermyding van opsporing deur kuberveiligheidstelsels. Masjienleer kan ook die kanse verhoog dat sosiale ingenieursaanvalle sal slaag, waar mense mislei word om sensitiewe inligting te openbaar of spesifieke handelinge soos finansiële transaksies uit te voer. 

Daarbenewens kan die kuberdoodketting sommige prosesse outomatiseer, insluitend: 

• Uitgebreide toesig - outonome skandeerders wat inligting van teikennetwerke versamel, insluitend hul gekoppelde stelsels, verdediging en sagteware-instellings. 
• Groot bewapening - KI-instrumente wat swakhede in infrastruktuur identifiseer en kode skep om hierdie skuiwergate te infiltreer. Hierdie outomatiese opsporing kan ook spesifieke digitale ekosisteme of organisasies teiken. 
• Aflewering of inbraak - KI-nutsgoed wat outomatisering gebruik om spearphishing en sosiale ingenieurswese uit te voer om duisende mense te teiken. 

Vanaf 2022 is die skryf van komplekse kode steeds binne die gebied van menslike programmeerders, maar kenners glo dat dit nie lank sal duur voordat masjiene ook hierdie vaardigheid verwerf nie. 

Implikasies van outomatiese kuberaanvalle met behulp van KI

Wyer implikasies van outomatiese kuberaanvalle met behulp van KI kan die volgende insluit: 

• Maatskappye wat hul kuberverdedigingsbegrotings verdiep om gevorderde kuberoplossings te ontwikkel om outomatiese kuberaanvalle op te spoor en te stop.
• Kubermisdadigers wat ML-metodes bestudeer om algoritmes te skep wat in die geheim korporatiewe en openbare sektorstelsels kan binnedring.
• Verhoogde voorvalle van kuberaanvalle wat goed georkestreer is en tegelyk verskeie organisasies teiken.
• Aanstootlike KI-sagteware wat gebruik word om beheer oor militêre wapens, masjiene en infrastruktuur-bevelsentrums oor te neem.
• Aanstootlike KI-sagteware wat gebruik word om 'n maatskappy se stelsels te infiltreer, te verander of te ontgin om openbare en private infrastruktuur af te neem. 
• Sommige regerings herorganiseer moontlik die digitale verdediging van hul binnelandse private sektor onder die beheer en beskerming van hul onderskeie nasionale kuberveiligheidsagentskappe.

Vrae om op kommentaar te lewer

• Wat is die ander potensiële gevolge van KI-geaktiveerde kuberaanvalle?
• Hoe anders kan maatskappye voorberei vir sulke aanvalle?