Pertempuran perang algoritma: Adakah robot pembunuh wajah baharu peperangan moden?

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Januari 10, 2023

Negara-negara terus meneliti sistem peperangan pintar buatan (AI) walaupun rintangan telah meningkat dalam masyarakat sivil terhadap senjata autonomi yang mematikan. 

Konteks pertempuran perang algoritma

Mesin menggunakan algoritma (satu set arahan matematik) untuk menyelesaikan masalah yang meniru kecerdasan manusia. Algoritma peperangan melibatkan pembangunan sistem berkuasa AI yang boleh mengurus senjata, taktik, dan juga keseluruhan operasi ketenteraan secara autonomi. Mesin yang mengawal sistem senjata secara autonomi telah membuka perdebatan baharu mengenai peranan yang harus dimainkan oleh mesin autonomi dalam peperangan dan implikasi etikanya. 

Menurut Undang-undang Kemanusiaan Antarabangsa, mana-mana mesin (sama ada bersenjata atau tidak bersenjata) harus menjalani semakan ketat sebelum digunakan, terutamanya jika ia bertujuan untuk menyebabkan kemudaratan kepada orang atau bangunan. Ini meliputi sistem AI yang dibangunkan untuk akhirnya menjadi pembelajaran kendiri dan pembetulan kendiri, yang boleh menyebabkan mesin ini menggantikan sistem senjata yang dikawal manusia dalam operasi ketenteraan.

Pada 2017, Google menerima tindak balas yang teruk daripada pekerjanya apabila didapati syarikat itu bekerjasama dengan Jabatan Pertahanan Amerika Syarikat untuk membangunkan sistem pembelajaran mesin untuk digunakan dalam tentera. Aktivis bimbang bahawa mencipta robot tentera yang boleh berkembang sendiri boleh melanggar kebebasan awam atau membawa kepada pengiktirafan sasaran palsu. Penggunaan teknologi pengecaman muka dalam tentera telah meningkat (seawal 2019) untuk mencipta pangkalan data pengganas yang disasarkan atau orang yang berkepentingan. Pengkritik telah menyatakan kebimbangan bahawa pembuatan keputusan yang didorong oleh AI boleh membawa kepada hasil yang buruk jika campur tangan manusia terjejas. Walau bagaimanapun, kebanyakan ahli Pertubuhan Bangsa-Bangsa Bersatu menggemari pengharaman sistem senjata autonomi maut (LAWS) kerana kemungkinan entiti ini menjadi penyangak.

Kesan yang mengganggu

Kejatuhan angka pengambilan tentera yang dialami oleh banyak negara Barat—suatu trend yang semakin mendalam pada tahun 2010-an—adalah faktor utama yang menyumbang kepada penggunaan penyelesaian ketenteraan automatik. Faktor lain yang mendorong penggunaan teknologi ini ialah potensinya untuk menyelaraskan dan mengautomasikan operasi medan perang, yang membawa kepada peningkatan kecekapan perang dan kos operasi yang lebih rendah. Beberapa pihak berkepentingan industri ketenteraan juga telah mendakwa bahawa sistem dan algoritma ketenteraan yang dikawal AI boleh mengurangkan korban manusia dengan menyediakan maklumat masa nyata dan tepat yang boleh meningkatkan ketepatan sistem yang digunakan supaya mereka mencapai sasaran yang dimaksudkan. 

Jika lebih banyak sistem senjata tentera yang dikawal oleh AI digunakan di pawagam di seluruh dunia, lebih sedikit kakitangan manusia mungkin ditempatkan di zon konflik, mengurangkan korban tentera di panggung perang. Pembuat senjata dipacu AI mungkin termasuk tindakan balas seperti suis bunuh supaya sistem ini boleh dilumpuhkan serta-merta jika ralat berlaku.  

Implikasi senjata terkawal AI 

Implikasi yang lebih luas daripada senjata autonomi yang digunakan oleh tentera di seluruh dunia mungkin termasuk:

• Senjata autonomi dikerahkan menggantikan askar berjalan kaki, mengurangkan kos peperangan dan kematian askar.
• Penggunaan kuasa ketenteraan yang lebih besar oleh negara-negara terpilih yang mempunyai akses yang lebih besar kepada aset autonomi atau berjentera, memandangkan pengurangan atau penghapusan korban tentera boleh meminimumkan tentangan awam domestik sesebuah negara untuk melancarkan perang di negara asing.
• Peningkatan belanjawan pertahanan antara negara untuk ketuanan AI ketenteraan kerana peperangan masa depan mungkin ditentukan oleh kepantasan membuat keputusan dan kecanggihan senjata dan ketenteraan masa depan yang dikawal AI. 
• Meningkatkan perkongsian antara manusia dan mesin, di mana data akan diberikan serta-merta kepada askar manusia, membolehkan mereka melaraskan taktik dan strategi pertempuran dalam masa nyata.
• Negara semakin memanfaatkan sumber sektor teknologi swasta mereka untuk memperkukuh keupayaan pertahanan AI mereka. 
• Satu atau lebih perjanjian global dipromosikan di Pertubuhan Bangsa-Bangsa Bersatu yang melarang atau mengehadkan penggunaan senjata autonomi. Dasar sedemikian mungkin akan diabaikan oleh tentera terkemuka dunia.

Soalan untuk diulas

• Adakah anda fikir pertempuran perang algoritma akan memberi manfaat kepada manusia yang disenaraikan dalam tentera?
• Adakah anda percaya bahawa sistem AI yang direka untuk peperangan boleh dipercayai, atau patutkah ia disekat atau diharamkan secara langsung?