Perang algoritmik: Apakah robot pembunuh adalah wajah baru peperangan modern?

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• Januari 10, 2023

Negara-negara terus meneliti sistem perang kecerdasan artifisial (AI) meskipun resistensi telah meningkat dalam masyarakat sipil terhadap senjata otonom yang mematikan. 

Konteks perang algoritmik

Mesin menggunakan algoritma (satu set instruksi matematika) untuk memecahkan masalah yang meniru kecerdasan manusia. Perang algoritmik melibatkan pengembangan sistem bertenaga AI yang dapat mengelola senjata, taktik, dan bahkan seluruh operasi militer secara mandiri. Mesin yang mengendalikan sistem senjata secara otonom telah membuka perdebatan baru mengenai peran yang harus dimainkan oleh mesin otonom dalam peperangan dan implikasi etisnya. 

Menurut Hukum Humaniter Internasional, setiap mesin (apakah bersenjata atau tidak) harus menjalani tinjauan ketat sebelum digunakan, terutama jika dimaksudkan untuk membahayakan orang atau bangunan. Ini meluas ke sistem AI yang dikembangkan untuk akhirnya menjadi belajar mandiri dan mengoreksi diri, yang dapat menyebabkan mesin ini menggantikan sistem senjata yang dikendalikan manusia dalam operasi militer.

Pada tahun 2017, Google menerima reaksi keras dari karyawannya ketika diketahui bahwa perusahaan tersebut bekerja sama dengan Departemen Pertahanan Amerika Serikat untuk mengembangkan sistem pembelajaran mesin yang akan digunakan di militer. Aktivis khawatir bahwa menciptakan robot militer yang dapat berkembang sendiri dapat melanggar kebebasan sipil atau mengarah pada pengakuan target yang salah. Penggunaan teknologi pengenalan wajah di militer telah meningkat (sejak 2019) untuk membuat database target teroris atau orang yang berkepentingan. Kritikus telah menyatakan keprihatinannya bahwa pengambilan keputusan yang digerakkan oleh AI dapat menyebabkan bencana jika campur tangan manusia dikompromikan. Namun, sebagian besar anggota Perserikatan Bangsa-Bangsa lebih suka melarang sistem senjata otonom mematikan (LAWS) karena kemungkinan entitas ini menjadi nakal.

Dampak yang mengganggu

Menurunnya angka rekrutmen militer yang dialami oleh banyak negara Barat—tren yang semakin dalam selama tahun 2010-an—merupakan faktor kunci yang berkontribusi pada penerapan solusi militer otomatis. Faktor lain yang mendorong penerapan teknologi ini adalah potensinya untuk merampingkan dan mengotomatisasi operasi medan perang, yang mengarah pada peningkatan efisiensi perang dan biaya operasi yang lebih rendah. Beberapa pemangku kepentingan industri militer juga mengklaim bahwa sistem dan algoritme militer yang dikendalikan AI dapat menurunkan jumlah korban manusia dengan memberikan informasi real-time dan akurat yang dapat meningkatkan akurasi sistem yang dikerahkan sehingga mencapai target yang dituju. 

Jika lebih banyak sistem senjata militer yang dikendalikan AI dikerahkan di teater di seluruh dunia, lebih sedikit personel manusia yang dapat dikerahkan di zona konflik, menurunkan korban militer di medan perang. Pembuat senjata yang digerakkan oleh AI dapat menyertakan tindakan pencegahan seperti tombol pemutus sehingga sistem ini dapat segera dinonaktifkan jika terjadi kesalahan.  

Implikasi senjata yang dikendalikan AI 

Implikasi yang lebih luas dari senjata otonom yang dikerahkan oleh militer di seluruh dunia dapat mencakup:

• Persenjataan otonom dikerahkan menggantikan prajurit infanteri, mengurangi biaya peperangan dan korban jiwa prajurit.
• Penerapan kekuatan militer yang lebih besar oleh negara-negara tertentu dengan akses yang lebih besar ke aset otonom atau mekanis, karena pengurangan atau penghapusan korban pasukan dapat meminimalkan perlawanan publik domestik suatu negara untuk berperang di negeri asing.
• Peningkatan anggaran pertahanan antar negara untuk supremasi AI militer karena perang di masa depan dapat diputuskan oleh kecepatan pengambilan keputusan dan kecanggihan senjata dan militer yang dikendalikan AI di masa depan. 
• Meningkatkan kemitraan antara manusia dan mesin, di mana data akan langsung diberikan kepada prajurit manusia, memungkinkan mereka menyesuaikan taktik dan strategi pertempuran secara real time.
• Negara semakin memanfaatkan sumber daya sektor teknologi swasta mereka untuk meningkatkan kemampuan pertahanan AI mereka. 
• Satu atau lebih perjanjian global yang dipromosikan di Perserikatan Bangsa-Bangsa yang melarang atau membatasi penggunaan senjata otonom. Kebijakan seperti itu kemungkinan besar akan diabaikan oleh militer top dunia.

Pertanyaan untuk dikomentari

• Apakah menurut Anda perang algoritmik akan menguntungkan manusia yang terdaftar di militer?
• Apakah Anda percaya bahwa sistem AI yang dirancang untuk peperangan dapat dipercaya, atau haruskah sistem tersebut dibatasi atau dilarang langsung?