Seiberymosodiadau awtomataidd gan ddefnyddio AI: Pan fydd peiriannau'n troi'n seiberdroseddwyr

CREDYD DELWEDD:
Credyd Delwedd
iStock

Seiberymosodiadau awtomataidd gan ddefnyddio AI: Pan fydd peiriannau'n troi'n seiberdroseddwyr

Seiberymosodiadau awtomataidd gan ddefnyddio AI: Pan fydd peiriannau'n troi'n seiberdroseddwyr

Testun is-bennawd
Mae pŵer deallusrwydd artiffisial (AI) a dysgu peiriant (ML) yn cael ei ddefnyddio gan hacwyr i wneud ymosodiadau seiber yn fwy effeithiol a marwol.
    • Awdur:
    • enw awdur
      Rhagolwg Quantumrun
    • Medi 30, 2022

    Crynodeb mewnwelediad

    Mae deallusrwydd artiffisial (AI) a dysgu peiriant (ML) yn cael eu defnyddio fwyfwy mewn seiberddiogelwch, ar gyfer diogelu systemau ac wrth gyflawni ymosodiadau seiber. Mae eu gallu i ddysgu o ddata ac ymddygiadau yn eu galluogi i nodi gwendidau system, ond mae hefyd yn ei gwneud hi'n anodd olrhain y ffynhonnell y tu ôl i'r algorithmau hyn. Mae’r dirwedd esblygol hon o AI mewn seiberdroseddu yn codi pryderon ymhlith arbenigwyr TG, yn gofyn am strategaethau amddiffyn uwch, a gallai arwain at newidiadau sylweddol yn y ffordd y mae llywodraethau a chwmnïau’n ymdrin â seiberddiogelwch.

    Ymosodiadau seibr awtomataidd gan ddefnyddio cyd-destun AI

    Mae deallusrwydd artiffisial ac ML yn cynnal y gallu i awtomeiddio bron pob tasg, gan gynnwys dysgu o ymddygiad a phatrymau ailadroddus, gan wneud offeryn pwerus i nodi gwendidau mewn system. Yn bwysicach fyth, mae AI ac ML yn ei gwneud hi'n heriol nodi person neu endid y tu ôl i algorithm.

    Yn 2022, yn ystod Is-bwyllgor Gwasanaethau Arfog Senedd yr Unol Daleithiau ar Seiberddiogelwch, cyfeiriodd Eric Horvitz, prif swyddog gwyddonol Microsoft, at y defnydd o ddeallusrwydd artiffisial (AI) i awtomeiddio ymosodiadau seiber fel “AI sarhaus.” Tynnodd sylw at y ffaith ei bod yn anodd penderfynu a yw seibr-ymosodiad yn cael ei yrru gan AI. Yn yr un modd, mae dysgu peirianyddol (ML) yn cael ei ddefnyddio i gynorthwyo ymosodiadau seibr; Defnyddir ML i ddysgu geiriau a strategaethau cyffredin wrth greu cyfrineiriau i'w hacio'n well. 

    Darganfu arolwg gan y cwmni seiberddiogelwch Darktrace fod timau rheoli TG yn poeni fwyfwy am y defnydd posibl o AI mewn seiberdroseddau, gyda 96 y cant o ymatebwyr yn nodi eu bod eisoes yn ymchwilio i atebion posibl. Mae arbenigwyr diogelwch TG yn teimlo newid mewn dulliau ymosodiad seiber o ransomware a gwe-rwydo i faleiswedd mwy cymhleth sy'n anodd ei ganfod a'i allwyro. Y risg bosibl o seiberdroseddu wedi’i alluogi gan AI yw cyflwyno data wedi’i lygru neu ei drin mewn modelau ML.

    Gall ymosodiad ML effeithio ar feddalwedd a thechnolegau eraill sy'n cael eu datblygu ar hyn o bryd i gefnogi cyfrifiadura cwmwl ac ymyl AI. Gall data hyfforddi annigonol hefyd atgyfnerthu rhagfarnau algorithm megis tagio grwpiau lleiafrifol yn anghywir neu ddylanwadu ar blismona rhagfynegol i dargedu cymunedau ymylol. Gall Deallusrwydd Artiffisial gyflwyno gwybodaeth gynnil ond trychinebus i systemau, a all gael canlyniadau hirdymor.

    Effaith aflonyddgar

    Dangosodd astudiaeth gan ymchwilwyr Prifysgol Georgetown ar y gadwyn lladd seiber (rhestr wirio o dasgau a gyflawnwyd i lansio ymosodiad seiber llwyddiannus) y gallai strategaethau sarhaus penodol elwa o ML. Mae’r dulliau hyn yn cynnwys sbearphishing (sgamiau e-bost wedi’u cyfeirio at bobl a sefydliadau penodol), nodi gwendidau mewn seilwaith TG, cyflwyno cod maleisus i rwydweithiau, ac osgoi canfod gan systemau seiberddiogelwch. Gall dysgu peirianyddol hefyd gynyddu'r siawns y bydd ymosodiadau peirianneg gymdeithasol yn llwyddo, lle mae pobl yn cael eu twyllo i ddatgelu gwybodaeth sensitif neu gyflawni gweithredoedd penodol fel trafodion ariannol. 

    Yn ogystal, gall y gadwyn lladd seiber awtomeiddio rhai prosesau, gan gynnwys: 

    • Gwyliadwriaeth helaeth - sganwyr ymreolaethol yn casglu gwybodaeth o rwydweithiau targed, gan gynnwys eu systemau cysylltiedig, amddiffynfeydd, a gosodiadau meddalwedd. 
    • Arfogi helaeth - offer AI yn nodi gwendidau mewn seilwaith ac yn creu cod i ymdreiddio i'r bylchau hyn. Gall y canfod awtomataidd hwn hefyd dargedu ecosystemau neu sefydliadau digidol penodol. 
    • Cyflenwi neu hacio - offer AI sy'n defnyddio awtomeiddio i weithredu sbearphishing a pheirianneg gymdeithasol i dargedu miloedd o bobl. 

    O 2023 ymlaen, mae ysgrifennu cod cymhleth yn dal i fod o fewn maes rhaglenwyr dynol, ond mae arbenigwyr yn credu na fydd yn hir cyn i beiriannau ennill y sgil hon hefyd. Mae AlphaCode DeepMind yn enghraifft amlwg o systemau AI datblygedig o'r fath. Mae'n cynorthwyo rhaglenwyr trwy ddadansoddi llawer iawn o god i ddysgu patrymau a chynhyrchu datrysiadau cod wedi'u optimeiddio

    Goblygiadau seibr-ymosodiadau awtomataidd gan ddefnyddio AI

    Gall goblygiadau ehangach ymosodiadau seiber awtomataidd gan ddefnyddio AI gynnwys: 

    • Cwmnïau yn dyfnhau eu cyllidebau amddiffyn seiber i ddatblygu datrysiadau seiber uwch i ganfod ac atal ymosodiadau seiber awtomataidd.
    • Seiberdroseddwyr sy'n astudio dulliau ML i greu algorithmau a all oresgyn systemau corfforaethol a'r sector cyhoeddus yn gyfrinachol.
    • Mwy o ddigwyddiadau o seibr-ymosodiadau sydd wedi'u trefnu'n dda ac sy'n targedu sefydliadau lluosog i gyd ar unwaith.
    • Meddalwedd AI sarhaus a ddefnyddir i gipio rheolaeth ar arfau milwrol, peiriannau, a chanolfannau gorchymyn seilwaith.
    • Meddalwedd AI sarhaus a ddefnyddir i ymdreiddio, addasu neu ecsbloetio systemau cwmni i ddileu seilweithiau cyhoeddus a phreifat. 
    • Mae’n bosibl y bydd rhai llywodraethau’n ad-drefnu amddiffynfeydd digidol eu sector preifat domestig dan reolaeth ac amddiffyniad eu hasiantaethau seiberddiogelwch cenedlaethol priodol.

    Cwestiynau i'w hystyried

    • Beth yw canlyniadau posibl eraill ymosodiadau seibr wedi'u galluogi gan AI?
    • Sut arall y gall cwmnïau baratoi ar gyfer ymosodiadau o'r fath?

    Cyfeiriadau mewnwelediad

    Cyfeiriwyd at y cysylltiadau poblogaidd a sefydliadol canlynol ar gyfer y mewnwelediad hwn:

    Canolfan ar gyfer Diogelwch a Thechnoleg Newydd Awtomeiddio Seiber Ymosodiadau