Serangan siber automatik menggunakan AI: Apabila mesin menjadi penjenayah siber

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• September 30, 2022

Kecerdasan buatan (AI) dan pembelajaran mesin (ML) mengekalkan keupayaan untuk mengautomasikan hampir semua tugas, termasuk belajar daripada tingkah laku dan corak yang berulang, menjadikan alat yang berkuasa untuk mengenal pasti kelemahan dalam sistem. Lebih penting lagi, AI dan ML menjadikannya mencabar untuk menentukan seseorang atau entiti di sebalik algoritma.

Serangan siber automatik menggunakan konteks AI

Pada tahun 2022, semasa Jawatankuasa Kecil Perkhidmatan Bersenjata Senat AS mengenai Keselamatan Siber, Eric Horvitz, ketua pegawai saintifik Microsoft, merujuk kepada penggunaan kecerdasan buatan (AI) untuk mengautomasikan serangan siber sebagai "AI yang menyinggung perasaan." Menyerlahkan bahawa sukar untuk menentukan sama ada serangan siber adalah dipacu AI. Begitu juga, pembelajaran mesin (ML) sedang digunakan untuk membantu serangan siber; ML digunakan untuk mempelajari perkataan dan strategi yang biasa digunakan dalam mencipta kata laluan untuk menggodamnya dengan lebih baik. 

Tinjauan oleh firma keselamatan siber Darktrace mendapati bahawa pasukan pengurusan IT semakin bimbang tentang potensi penggunaan AI dalam jenayah siber, dengan 96 peratus responden menunjukkan bahawa mereka sudah meneliti kemungkinan penyelesaian. 

Pakar keselamatan IT merasakan peralihan dalam kaedah serangan siber daripada perisian tebusan dan pancingan data kepada perisian hasad yang lebih kompleks yang sukar dikesan dan dipesongkan. Kemungkinan risiko jenayah siber yang didayakan AI ialah pengenalan data yang rosak atau dimanipulasi dalam model ML. Serangan ML boleh memberi kesan kepada perisian dan teknologi lain yang sedang dibangunkan untuk menyokong pengkomputeran awan dan AI canggih. Data latihan yang tidak mencukupi juga boleh menguatkuasakan semula bias algoritma seperti menandai kumpulan minoriti secara salah atau mempengaruhi kepolisan ramalan untuk menyasarkan komuniti terpinggir. Kecerdasan Buatan boleh memperkenalkan maklumat yang halus tetapi berbahaya ke dalam sistem, yang mungkin mempunyai akibat yang berpanjangan.

Kesan yang mengganggu

Kajian oleh penyelidik Universiti Georgetown mengenai rantaian bunuh siber (senarai semak tugas yang dilakukan untuk melancarkan serangan siber yang berjaya) menunjukkan bahawa strategi serangan tertentu boleh mendapat manfaat daripada ML. Kaedah ini termasuk spearphishing (penipuan e-mel yang ditujukan kepada orang dan organisasi tertentu), mengenal pasti kelemahan dalam infrastruktur IT, menghantar kod hasad ke dalam rangkaian dan mengelakkan pengesanan oleh sistem keselamatan siber. Pembelajaran mesin juga boleh meningkatkan peluang serangan kejuruteraan sosial berjaya, di mana orang ramai diperdaya untuk mendedahkan maklumat sensitif atau melakukan tindakan khusus seperti transaksi kewangan. 

Selain itu, rantaian pembunuhan siber boleh mengautomasikan beberapa proses, termasuk: 

• Pengawasan meluas - pengimbas autonomi mengumpul maklumat daripada rangkaian sasaran, termasuk sistem yang disambungkan, pertahanan dan tetapan perisian. 
• Persenjataan yang luas - Alat AI mengenal pasti kelemahan dalam infrastruktur dan mencipta kod untuk menyusup kelemahan ini. Pengesanan automatik ini juga boleh menyasarkan ekosistem atau organisasi digital tertentu. 
• Penghantaran atau penggodaman - Alat AI menggunakan automasi untuk melaksanakan spearphishing dan kejuruteraan sosial untuk menyasarkan beribu-ribu orang. 

Sehingga 2022, menulis kod kompleks masih berada dalam bidang pengaturcara manusia, tetapi pakar percaya bahawa ia tidak akan lama sebelum mesin memperoleh kemahiran ini juga. 

Implikasi serangan siber automatik menggunakan AI

Implikasi yang lebih luas daripada serangan siber automatik menggunakan AI mungkin termasuk: 

• Syarikat memperdalam belanjawan pertahanan siber mereka untuk membangunkan penyelesaian siber termaju untuk mengesan dan menghentikan serangan siber automatik.
• Penjenayah siber mengkaji kaedah ML untuk mencipta algoritma yang secara rahsia boleh menyerang sistem sektor korporat dan awam.
• Peningkatan insiden serangan siber yang diatur dengan baik dan menyasarkan berbilang organisasi sekaligus.
• Perisian AI yang menyinggung digunakan untuk merebut kawalan senjata tentera, mesin dan pusat arahan infrastruktur.
• Perisian AI yang menyinggung perasaan digunakan untuk menyusup, mengubah suai atau mengeksploitasi sistem syarikat untuk menghapuskan infrastruktur awam dan swasta. 
• Sesetengah kerajaan berpotensi menyusun semula pertahanan digital sektor swasta domestik mereka di bawah kawalan dan perlindungan agensi keselamatan siber nasional masing-masing.

Soalan untuk diulas

• Apakah akibat lain yang berpotensi daripada serangan siber yang didayakan AI?
• Bagaimana lagi syarikat boleh bersedia untuk serangan sedemikian?