Serangan cyber otomatis nganggo AI: Nalika mesin janten cybercriminals

KREDIT GAMBAR:
Kiridit Gambar
iStock

Serangan cyber otomatis nganggo AI: Nalika mesin janten cybercriminals

Serangan cyber otomatis nganggo AI: Nalika mesin janten cybercriminals

Teks subjudul
Kakuatan intelijen buatan (AI) sareng pembelajaran mesin (ML) dieksploitasi ku peretas pikeun ngajantenkeun serangan siber langkung efektif sareng maot.
    • Author:
    • Ngaran pangarang
      Quantumrun tetempoan
    • September 30, 2022

    Ringkesan wawasan

    Kecerdasan buatan (AI) sareng pembelajaran mesin (ML) beuki seueur dianggo dina kaamanan maya, boh pikeun ngajagi sistem sareng dina ngalaksanakeun serangan cyber. Kamampuhan maranéhna pikeun diajar tina data sareng paripolah ngamungkinkeun aranjeunna pikeun ngaidentipikasi kerentanan sistem, tapi ogé ngajantenkeun hésé ngalacak sumber anu aya di tukangeun algoritma ieu. Lanskap AI anu ngembang dina cybercrime ieu nyababkeun kasalempang para ahli IT, ngabutuhkeun strategi pertahanan canggih, sareng tiasa nyababkeun parobihan anu signifikan dina cara pamaréntahan sareng perusahaan ngadeukeutan kaamanan maya.

    Serangan cyber otomatis nganggo kontéks AI

    Kecerdasan buatan sareng ML ngajaga kamampuan pikeun ngajadikeun otomatis ampir sadaya tugas, kalebet diajar tina kabiasaan sareng pola anu diulang-ulang, ngajantenkeun alat anu kuat pikeun ngaidentipikasi kerentanan dina hiji sistem. Anu langkung penting, AI sareng ML ngajantenkeun nantang pikeun nunjukkeun hiji jalma atanapi éntitas anu aya di tukangeun algoritma.

    Taun 2022, salami Subkomite Layanan Bersenjata Sénat AS ngeunaan Cybersecurity, Eric Horvitz, kapala perwira ilmiah Microsoft, ngarujuk kana panggunaan intelijen buatan (AI) pikeun ngajadikeun otomatis serangan cyber salaku "AI anu nyerang." Anjeunna nyorot yén sesah pikeun nangtoskeun naha serangan cyber didorong ku AI. Nya kitu, éta machine learning (ML) dipaké pikeun mantuan cyberattacks; ML dianggo pikeun diajar kecap sareng strategi anu biasa dianggo dina nyiptakeun kecap konci pikeun ngahakan éta langkung saé. 

    Survei ku firma cybersecurity Darktrace mendakan yén tim manajemén IT beuki hariwang ngeunaan poténsi panggunaan AI dina kejahatan cyber, kalayan 96 persén réspondén nunjukkeun yén aranjeunna parantos naliti solusi anu mungkin. Ahli kaamanan IT ngarasa parobahan dina métode cyberattack tina ransomware sareng phishing kana malware anu langkung kompleks anu hese dideteksi sareng disingkirkeun. Kamungkinan résiko cybercrime anu diaktipkeun AI nyaéta ngenalkeun data anu rusak atanapi dimanipulasi dina modél ML.

    Serangan ML tiasa mangaruhan parangkat lunak sareng téknologi sanés anu ayeuna dikembangkeun pikeun ngadukung komputasi awan sareng AI tepi. Data latihan anu henteu cekap ogé tiasa ngalaksanakeun deui bias algoritma sapertos teu leres méré tag ka grup minoritas atanapi mangaruhan policing prediktif pikeun nargétkeun komunitas marginal. Kecerdasan Buatan tiasa ngenalkeun inpormasi anu halus tapi ngabahayakeun kana sistem, anu tiasa gaduh akibat anu berkepanjangan.

    Dampak ngaganggu

    Panaliti ku peneliti Universitas Georgetown ngeunaan ranté maéhan cyber (daftar pariksa tugas anu dilakukeun pikeun ngaluncurkeun serangan cyber anu suksés) nunjukkeun yén strategi nyerang khusus tiasa nyandak kauntungan tina ML. Métode ieu kalebet spearphishing (scams e-mail anu diarahkeun ka jalma sareng organisasi khusus), nunjukkeun kalemahan dina infrastruktur IT, ngirimkeun kode jahat kana jaringan, sareng ngahindarkeun deteksi ku sistem cybersecurity. Pembelajaran mesin ogé tiasa ningkatkeun kamungkinan serangan rékayasa sosial suksés, dimana jalma-jalma ditipu pikeun ngungkabkeun inpormasi sénsitip atanapi ngalakukeun tindakan khusus sapertos transaksi kauangan. 

    Salaku tambahan, ranté maéhan cyber tiasa ngajadikeun otomatis sababaraha prosés, kalebet: 

    • Panjagaan éksténsif - scanner otonom ngumpulkeun informasi tina jaringan target, kaasup sistem disambungkeun maranéhanana, defenses, sarta setelan software. 
    • Senjata ageung - Alat AI ngaidentipikasi kalemahan dina infrastruktur sareng nyiptakeun kode pikeun nyusupkeun celah ieu. Deteksi otomatis ieu ogé tiasa nargétkeun ékosistem atanapi organisasi digital khusus. 
    • Pangiriman atanapi Hacking - Alat AI nganggo otomatisasi pikeun ngaéksekusi spearphishing sareng rékayasa sosial pikeun nargétkeun rébuan jalma. 

    Nepi ka 2023, nulis kode kompléks masih aya dina ranah programer manusa, tapi para ahli yakin yén éta moal lami sateuacan mesin ogé ngagaduhan kaahlian ieu. DeepMind's AlphaCode mangrupikeun conto anu penting pikeun sistem AI canggih sapertos kitu. Éta ngabantosan programer ku nganalisa sajumlah ageung kode pikeun diajar pola sareng ngahasilkeun solusi kode anu dioptimalkeun

    Implikasi tina serangan cyber otomatis ngagunakeun AI

    Implikasi anu langkung ageung tina serangan siber otomatis nganggo AI tiasa kalebet: 

    • Pausahaan deepening budgets pertahanan cyber maranéhna pikeun ngembangkeun solusi cyber canggih pikeun ngadeteksi jeung ngeureunkeun cyberattacks otomatis.
    • Penjahat siber ngulik metode ML pikeun nyiptakeun algoritma anu cicingeun tiasa nyerang sistem perusahaan sareng sektor publik.
    • Ngaronjatkeun kajadian serangan siber anu disusun sareng nargétkeun sababaraha organisasi sakaligus.
    • Parangkat lunak AI anu nyerang dianggo pikeun ngarebut kadali senjata militer, mesin, sareng pusat komando infrastruktur.
    • Parangkat lunak AI anu nyerang dianggo pikeun nyusup, ngarobih atanapi ngeksploitasi sistem perusahaan pikeun ngaleungitkeun infrastruktur umum sareng swasta. 
    • Sababaraha pamaréntah berpotensi nyusun ulang pertahanan digital séktor swasta domestik maranéhanana dina kontrol sareng panangtayungan agénsi cybersecurity nasional masing-masing.

    Patarosan anu kedah diperhatoskeun

    • Naon konsékuansi poténsi séjén tina cyberattacks AI-diaktipkeun?
    • Kumaha deui perusahaan tiasa nyiapkeun serangan sapertos kitu?

    Rujukan wawasan

    Tumbu populér sareng institusional di handap ieu dirujuk pikeun wawasan ieu:

    Puseur pikeun Kaamanan jeung Munculna Téhnologi Automating Serangan Cyber