Ċiberattakki awtomatizzati bl-użu tal-AI: Meta l-magni jsiru ċiberkriminali

KREDITU TAL-IMMAĠNI:
Immaġni kreditu
iStock

Ċiberattakki awtomatizzati bl-użu tal-AI: Meta l-magni jsiru ċiberkriminali

Ċiberattakki awtomatizzati bl-użu tal-AI: Meta l-magni jsiru ċiberkriminali

Test tas-subintestatura
Il-qawwa tal-intelliġenza artifiċjali (AI) u t-tagħlim tal-magni (ML) qed tiġi sfruttata mill-hackers biex jagħmlu l-attakki ċibernetiċi aktar effettivi u letali.
    • awtur:
    • isem awtur
      Quantumrun Foresight
    • Settembru 30, 2022

    Sommarju tal-għarfien

    L-intelliġenza artifiċjali (AI) u t-tagħlim tal-magni (ML) qed jintużaw dejjem aktar fiċ-ċibersigurtà, kemm għall-protezzjoni tas-sistemi kif ukoll fl-eżekuzzjoni ta’ ċiberattakki. Il-kapaċità tagħhom li jitgħallmu mid-dejta u l-imġieba tippermettilhom jidentifikaw il-vulnerabbiltajiet tas-sistema, iżda tagħmilha diffiċli wkoll biex jintraċċaw is-sors wara dawn l-algoritmi. Dan il-pajsaġġ li qed jevolvi tal-IA fiċ-ċiberkriminalità jqajjem tħassib fost l-esperti tal-IT, jeħtieġ strateġiji ta’ difiża avvanzati, u jista’ jwassal għal bidliet sinifikanti fil-mod kif il-gvernijiet u l-kumpaniji jersqu lejn iċ-ċibersigurtà.

    Ċiberattakki awtomatizzati bl-użu tal-kuntest tal-AI

    L-intelliġenza artifiċjali u l-ML iżommu l-abbiltà li awtomatizzati kważi l-kompiti kollha, inkluż it-tagħlim minn imġieba u mudelli ripetittivi, u jagħmlu għodda b'saħħitha biex jidentifikaw il-vulnerabbiltajiet f'sistema. Aktar importanti minn hekk, l-AI u l-ML jagħmluha ta' sfida biex tiġi identifikata persuna jew entità wara algoritmu.

    Fl-2022, waqt is-Sottokumitat tas-Servizzi Armati tas-Senat tal-Istati Uniti dwar iċ-Ċibersigurtà, Eric Horvitz, l-uffiċjal xjentifiku kap ta’ Microsoft, irrefera għall-użu tal-intelliġenza artifiċjali (AI) biex jiġu awtomatizzati ċiberattakki bħala "AI offensiva." Huwa enfasizza li huwa diffiċli li jiġi ddeterminat jekk attakk ċibernetiku huwiex immexxi mill-AI. Bl-istess mod, dak it-tagħlim tal-magni (ML) qed jintuża biex jgħin l-attakki ċibernetiċi; L-ML jintuża biex jitgħallem kliem u strateġiji użati b'mod komuni fil-ħolqien ta' passwords biex jitqabbduhom aħjar. 

    Stħarriġ mid-ditta taċ-ċibersigurtà Darktrace skopra li t-timijiet tal-ġestjoni tal-IT huma dejjem aktar imħassba dwar l-użu potenzjali tal-AI fiċ-ċiberkriminalità, b’96 fil-mija ta’ dawk li wieġbu jindikaw li diġà qed jirriċerkaw soluzzjonijiet possibbli. L-esperti tas-sigurtà tal-IT iħossu bidla fil-metodi ta’ attakki ċibernetiċi minn ransomware u phishing għal malware aktar kumpless li huwa diffiċli biex jinstabu u jiddevjaw. Ir-riskju possibbli taċ-ċiberkriminalità ppermettiet l-AI huwa l-introduzzjoni ta’ data korrotta jew manipulata f’mudelli ML.

    Attakk ML jista' jkollu impatt fuq is-software u teknoloġiji oħra li bħalissa qed jiġu żviluppati biex jappoġġjaw il-cloud computing u l-edge AI. Dejta ta' taħriġ insuffiċjenti tista' wkoll tinforza mill-ġdid il-preġudizzji tal-algoritmu bħall-ittikkettjar ħażin ta' gruppi minoritarji jew l-influwenza tal-pulizija ta' tbassir biex jimmiraw komunitajiet emarġinati. L-Intelliġenza Artifiċjali tista' tintroduċi informazzjoni sottili iżda diżastruża fis-sistemi, li jista' jkollha konsegwenzi fit-tul.

    Impatt li jfixkel

    Studju mir-riċerkaturi tal-Università ta' Georgetown dwar il-katina tal-qtil ċibernetiku (lista ta' kontroll ta' kompiti mwettqa biex jitnieda attakk ċibernetiku b'suċċess) wera li strateġiji offensivi speċifiċi jistgħu jibbenefikaw mill-ML. Dawn il-metodi jinkludu spearphishing (scams tal-posta elettronika diretti lejn nies u organizzazzjonijiet speċifiċi), l-identifikazzjoni ta’ dgħufijiet fl-infrastrutturi tal-IT, it-twassil ta’ kodiċi malizzjuż fin-netwerks, u l-evitar ta’ skoperta mis-sistemi taċ-ċibersigurtà. It-tagħlim bil-magni jista’ wkoll iżid iċ-ċansijiet li l-attakki tal-inġinerija soċjali jirnexxu, fejn in-nies jiġu mqarrqa biex jiżvelaw informazzjoni sensittiva jew iwettqu azzjonijiet speċifiċi bħal tranżazzjonijiet finanzjarji. 

    Barra minn hekk, il-katina tal-qtil ċibernetiku tista’ tawtomatizza xi proċessi, inklużi: 

    • Sorveljanza estensiva - skaners awtonomi li jiġbru informazzjoni minn netwerks fil-mira, inklużi s-sistemi konnessi, id-difiżi u l-issettjar tas-softwer tagħhom. 
    • Armi kbar - Għodod tal-IA li jidentifikaw id-dgħufijiet fl-infrastruttura u joħolqu kodiċi biex jinfiltraw dawn il-lakuni. Din l-iskoperta awtomatizzata tista' wkoll timmira lejn ekosistemi jew organizzazzjonijiet diġitali speċifiċi. 
    • Kunsinna jew hacking - Għodod AI li jużaw l-awtomazzjoni biex iwettqu spearphishing u inġinerija soċjali biex jimmiraw eluf ta 'nies. 

    Mill-2023, il-kitba ta 'kodiċi kumpless għadha fl-isfera tal-programmaturi umani, iżda l-esperti jemmnu li mhux se jdum wisq qabel ma l-magni jiksbu din il-ħila wkoll. AlphaCode ta' DeepMind huwa eżempju prominenti ta' sistemi AI avvanzati bħal dawn. Jgħin lill-programmaturi billi janalizza ammonti kbar ta 'kodiċi biex jitgħallmu mudelli u jiġġeneraw soluzzjonijiet ta' kodiċi ottimizzati

    Implikazzjonijiet ta' attakki ċibernetiċi awtomatizzati bl-użu tal-AI

    Implikazzjonijiet usa' ta' attakki ċibernetiċi awtomatizzati bl-użu tal-AI jistgħu jinkludu: 

    • Kumpaniji li japprofondixxu l-baġits tagħhom tad-difiża ċibernetika biex jiżviluppaw soluzzjonijiet ċibernetiċi avvanzati biex jidentifikaw u jwaqqfu attakki ċibernetiċi awtomatizzati.
    • Ċiberkriminali li jistudjaw metodi ML biex joħolqu algoritmi li jistgħu jinvadu b'mod sigriet is-sistemi korporattivi u tas-settur pubbliku.
    • Żieda fl-inċidenti ta’ attakki ċibernetiċi li huma orkestrati tajjeb u jimmiraw lejn organizzazzjonijiet multipli kollha f’daqqa.
    • Softwer AI offensiv użat biex jaħtaf il-kontroll ta 'armi militari, magni, u ċentri ta' kmand infrastrutturali.
    • Softwer offensiv tal-IA użat biex jinfiltra, jimmodifika jew jisfrutta s-sistemi ta' kumpanija biex iwaqqaf infrastrutturi pubbliċi u privati. 
    • Xi gvernijiet potenzjalment jorganizzaw mill-ġdid id-difiżi diġitali tas-settur privat domestiku tagħhom taħt il-kontroll u l-protezzjoni tal-aġenziji nazzjonali rispettivi taċ-ċibersigurtà tagħhom.

    Mistoqsijiet li għandek tikkunsidra

    • X'inhuma l-konsegwenzi potenzjali l-oħra ta' attakki ċibernetiċi li jaħdmu bl-AI?
    • Kif inkella jistgħu l-kumpaniji jippreparaw għal attakki bħal dawn?

    Referenzi ta' għarfien

    Ir-rabtiet popolari u istituzzjonali li ġejjin ġew referenzjati għal din l-għarfien:

    Ċentru għas-Sigurtà u t-Teknoloġija Emerġenti Awtomatizzazzjoni tal-Attakkijiet Ċibernetiċi