Serangan siber otomatis menggunakan AI: Saat mesin menjadi penjahat siber

KREDIT GAMBAR:
Gambar kredit
iStock

Serangan siber otomatis menggunakan AI: Saat mesin menjadi penjahat siber

Serangan siber otomatis menggunakan AI: Saat mesin menjadi penjahat siber

Teks subjudul
Kekuatan kecerdasan buatan (AI) dan pembelajaran mesin (ML) sedang dieksploitasi oleh peretas untuk membuat serangan siber lebih efektif dan mematikan.
    • Penulis:
    • nama penulis
      Pandangan ke Depan Quantumrun
    • September 30, 2022

    Ringkasan wawasan

    Kecerdasan buatan (AI) dan pembelajaran mesin (ML) semakin banyak digunakan dalam keamanan siber, baik untuk melindungi sistem maupun dalam melaksanakan serangan siber. Kemampuan mereka untuk belajar dari data dan perilaku memungkinkan mereka mengidentifikasi kerentanan sistem, namun juga menyulitkan untuk melacak sumber di balik algoritma ini. Perkembangan AI dalam kejahatan siber ini menimbulkan kekhawatiran di kalangan pakar TI, memerlukan strategi pertahanan yang canggih, dan dapat menyebabkan perubahan signifikan dalam cara pemerintah dan perusahaan melakukan pendekatan terhadap keamanan siber.

    Serangan siber otomatis menggunakan konteks AI

    Kecerdasan buatan dan ML mempertahankan kemampuan untuk mengotomatiskan hampir semua tugas, termasuk belajar dari perilaku dan pola yang berulang, menjadikannya alat yang ampuh untuk mengidentifikasi kerentanan dalam suatu sistem. Yang lebih penting lagi, AI dan ML mempersulit penentuan seseorang atau entitas di balik suatu algoritma.

    Pada tahun 2022, di Subkomite Angkatan Bersenjata Senat AS untuk Keamanan Siber, Eric Horvitz, kepala ilmuwan Microsoft, menyebut penggunaan kecerdasan buatan (AI) untuk mengotomatiskan serangan siber sebagai “AI yang ofensif.” Dia menyoroti bahwa sulit untuk menentukan apakah serangan siber didorong oleh AI. Demikian pula, pembelajaran mesin (ML) digunakan untuk membantu serangan siber; ML digunakan untuk mempelajari kata-kata yang umum digunakan dan strategi dalam membuat kata sandi untuk meretasnya dengan lebih baik. 

    Sebuah survei yang dilakukan oleh perusahaan keamanan siber Darktrace menemukan bahwa tim manajemen TI semakin khawatir terhadap potensi penggunaan AI dalam kejahatan siber, dengan 96 persen responden mengindikasikan bahwa mereka sudah meneliti kemungkinan solusinya. Pakar keamanan TI merasakan adanya pergeseran metode serangan siber dari ransomware dan phishing ke malware yang lebih kompleks yang sulit dideteksi dan ditangkis. Kemungkinan risiko kejahatan dunia maya yang didukung AI adalah masuknya data yang rusak atau dimanipulasi ke dalam model ML.

    Serangan ML dapat berdampak pada perangkat lunak dan teknologi lain yang saat ini sedang dikembangkan untuk mendukung komputasi awan dan edge AI. Data pelatihan yang tidak memadai juga dapat memperkuat bias algoritma seperti kesalahan dalam menandai kelompok minoritas atau mempengaruhi kebijakan prediktif untuk menargetkan komunitas yang terpinggirkan. Kecerdasan Buatan dapat memasukkan informasi yang halus namun berbahaya ke dalam sistem, yang mungkin memiliki konsekuensi jangka panjang.

    Dampak yang mengganggu

    Sebuah studi oleh para peneliti Universitas Georgetown tentang rantai pembunuhan siber (daftar tugas yang dilakukan untuk meluncurkan serangan siber yang berhasil) menunjukkan bahwa strategi ofensif tertentu dapat mengambil manfaat dari ML. Metode ini termasuk spearphishing (penipuan email yang ditujukan kepada orang dan organisasi tertentu), menunjukkan kelemahan infrastruktur TI, mengirimkan kode berbahaya ke dalam jaringan, dan menghindari deteksi oleh sistem keamanan siber. Pembelajaran mesin juga dapat meningkatkan peluang keberhasilan serangan rekayasa sosial, di mana orang ditipu untuk mengungkapkan informasi sensitif atau melakukan tindakan tertentu seperti transaksi keuangan. 

    Selain itu, rantai pembunuh dunia maya dapat mengotomatiskan beberapa proses, termasuk: 

    • Pengawasan ekstensif - pemindai otonom mengumpulkan informasi dari jaringan target, termasuk sistem yang terhubung, pertahanan, dan pengaturan perangkat lunak. 
    • Persenjataan yang luas - Alat AI mengidentifikasi kelemahan dalam infrastruktur dan membuat kode untuk menyusup ke celah ini. Deteksi otomatis ini juga dapat menargetkan ekosistem atau organisasi digital tertentu. 
    • Pengiriman atau peretasan - Alat AI menggunakan otomatisasi untuk mengeksekusi spearphishing dan rekayasa sosial untuk menargetkan ribuan orang. 

    Pada tahun 2023, penulisan kode kompleks masih berada dalam lingkup pemrogram manusia, namun para ahli percaya bahwa tidak akan lama lagi mesin akan memperoleh keterampilan ini juga. AlphaCode DeepMind adalah contoh nyata dari sistem AI canggih tersebut. Ini membantu pemrogram dengan menganalisis sejumlah besar kode untuk mempelajari pola dan menghasilkan solusi kode yang dioptimalkan

    Implikasi serangan siber otomatis menggunakan AI

    Implikasi yang lebih luas dari serangan siber otomatis menggunakan AI dapat mencakup: 

    • Perusahaan memperdalam anggaran pertahanan siber mereka untuk mengembangkan solusi siber canggih guna mendeteksi dan menghentikan serangan siber otomatis.
    • Penjahat dunia maya mempelajari metode ML untuk membuat algoritme yang dapat secara diam-diam menyerang sistem perusahaan dan sektor publik.
    • Meningkatnya insiden serangan siber yang terorganisir dengan baik dan menargetkan banyak organisasi sekaligus.
    • Perangkat lunak AI ofensif yang digunakan untuk menguasai senjata militer, mesin, dan pusat komando infrastruktur.
    • Perangkat lunak AI ofensif yang digunakan untuk menyusup, memodifikasi, atau mengeksploitasi sistem perusahaan untuk menghancurkan infrastruktur publik dan swasta. 
    • Beberapa pemerintah berpotensi mengatur ulang pertahanan digital sektor swasta domestik mereka di bawah kendali dan perlindungan badan keamanan siber nasional masing-masing.

    Pertanyaan untuk dipertimbangkan

    • Apa konsekuensi potensial lain dari serangan siber yang diaktifkan AI?
    • Bagaimana lagi perusahaan dapat bersiap untuk serangan seperti itu?

    Referensi wawasan

    Tautan populer dan institusional berikut dirujuk untuk wawasan ini:

    Pusat Keamanan dan Teknologi Berkembang Mengotomatiskan Serangan Cyber