Serangan cyber otomatis nganggo AI: Nalika mesin janten cybercriminals

• Author:
• Ngaran pangarang

  Quantumrun tetempoan
• September 30, 2022

Kecerdasan jieunan (AI) sareng pembelajaran mesin (ML) ngajaga kamampuan pikeun ngajadikeun otomatis ampir sadaya tugas, kalebet diajar tina kabiasaan sareng pola anu diulang-ulang, ngajantenkeun alat anu kuat pikeun ngaidentipikasi kerentanan dina sistem. Anu langkung penting, AI sareng ML ngajantenkeun nangtang pikeun nunjuk jalma atanapi éntitas anu aya di tukangeun algoritma.

Serangan cyber otomatis nganggo kontéks AI

Taun 2022, salami Subkomite Layanan Bersenjata Sénat AS ngeunaan Cybersecurity, Eric Horvitz, kapala perwira ilmiah Microsoft, ngarujuk kana panggunaan intelijen buatan (AI) pikeun ngajadikeun otomatis serangan cyber salaku "AI anu nyerang." Nyorot yén sesah pikeun nangtukeun naha serangan cyber didorong ku AI. Nya kitu, éta machine learning (ML) dipaké pikeun mantuan cyberattacks; ML dianggo pikeun diajar kecap sareng strategi anu biasa dianggo dina nyiptakeun kecap konci pikeun ngahakan éta langkung saé. 

Survei ku firma cybersecurity Darktrace mendakan yén tim manajemén IT beuki hariwang ngeunaan poténsi panggunaan AI dina kejahatan cyber, kalayan 96 persén réspondén nunjukkeun yén aranjeunna parantos naliti solusi anu mungkin. 

Ahli kaamanan IT ngarasa parobahan dina métode cyberattack tina ransomware sareng phishing kana malware anu langkung kompleks anu hese dideteksi sareng disingkirkeun. Kamungkinan résiko cybercrime anu diaktipkeun AI nyaéta ngenalkeun data anu rusak atanapi dimanipulasi dina modél ML. Serangan ML tiasa mangaruhan parangkat lunak sareng téknologi sanés anu ayeuna dikembangkeun pikeun ngadukung komputasi awan sareng AI. Data latihan anu henteu cekap ogé tiasa ngalaksanakeun deui bias algoritma sapertos teu leres méré tag ka grup minoritas atanapi mangaruhan policing prediktif pikeun nargétkeun komunitas marginal. Kecerdasan Buatan tiasa ngenalkeun inpormasi anu halus tapi ngabahayakeun kana sistem, anu tiasa gaduh akibat anu berkepanjangan.

Dampak ngaganggu

Panaliti ku peneliti Universitas Georgetown ngeunaan ranté maéhan cyber (daftar pariksa tugas anu dilakukeun pikeun ngaluncurkeun serangan cyber anu suksés) nunjukkeun yén strategi nyerang khusus tiasa nyandak kauntungan tina ML. Métode ieu kalebet spearphishing (scams e-mail anu diarahkeun ka jalma sareng organisasi khusus), nunjukkeun kalemahan dina infrastruktur IT, ngirimkeun kode jahat kana jaringan, sareng ngahindarkeun deteksi ku sistem cybersecurity. Pembelajaran mesin ogé tiasa ningkatkeun kamungkinan serangan rékayasa sosial suksés, dimana jalma-jalma ditipu pikeun ngungkabkeun inpormasi sénsitip atanapi ngalakukeun tindakan khusus sapertos transaksi kauangan. 

Salaku tambahan, ranté maéhan cyber tiasa ngajadikeun otomatis sababaraha prosés, kalebet: 

• Panjagaan éksténsif - scanner otonom ngumpulkeun informasi tina jaringan target, kaasup sistem disambungkeun maranéhanana, defenses, sarta setelan software. 
• Senjata ageung - Alat AI ngaidentipikasi kalemahan dina infrastruktur sareng nyiptakeun kode pikeun nyusupkeun celah ieu. Deteksi otomatis ieu ogé tiasa nargétkeun ékosistem atanapi organisasi digital khusus. 
• Pangiriman atanapi Hacking - Alat AI nganggo otomatisasi pikeun ngaéksekusi spearphishing sareng rékayasa sosial pikeun nargétkeun rébuan jalma. 

Nepi ka 2022, nulis kode kompléks masih aya dina ranah programer manusa, tapi para ahli yakin yén éta moal lami sateuacan mesin ogé ngagaduhan kaahlian ieu. 

Implikasi tina serangan cyber otomatis ngagunakeun AI

Implikasi anu langkung ageung tina serangan siber otomatis nganggo AI tiasa kalebet: 

• Pausahaan deepening budgets pertahanan cyber maranéhna pikeun ngembangkeun solusi cyber canggih pikeun ngadeteksi jeung ngeureunkeun cyberattacks otomatis.
• Penjahat siber ngulik metode ML pikeun nyiptakeun algoritma anu cicingeun tiasa nyerang sistem perusahaan sareng sektor publik.
• Ngaronjatkeun kajadian serangan siber anu disusun sareng nargétkeun sababaraha organisasi sakaligus.
• Parangkat lunak AI anu nyerang dianggo pikeun ngarebut kadali senjata militer, mesin, sareng pusat komando infrastruktur.
• Parangkat lunak AI anu nyerang dianggo pikeun nyusup, ngarobih atanapi ngeksploitasi sistem perusahaan pikeun ngaleungitkeun infrastruktur umum sareng swasta. 
• Sababaraha pamaréntah berpotensi nyusun ulang pertahanan digital séktor swasta domestik maranéhanana dina kontrol sareng panangtayungan agénsi cybersecurity nasional masing-masing.

Patarosan pikeun mairan

• Naon konsékuansi poténsi séjén tina cyberattacks AI-diaktipkeun?
• Kumaha deui perusahaan tiasa nyiapkeun serangan sapertos kitu?