Etika kenderaan autonomi: Perancangan untuk keselamatan dan akauntabiliti

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• April 11, 2023

Kenderaan autonomi menggunakan perisian untuk menentukan laluan mereka untuk meminimumkan kesan perlanggaran. Kenderaan ini direka bentuk untuk mengurangkan risiko kemalangan dengan sentiasa memantau persekitaran mereka, meramalkan potensi bahaya dan melaraskan tindakan mereka dengan sewajarnya. Walau bagaimanapun, apabila kenderaan ini menjadi lebih maju, pertimbangan mesin menyebabkan dilema etika dan kebimbangan orang ramai tentang keselamatan mereka. 

Konteks etika kenderaan autonomi

Pihak berkepentingan mempunyai jangkaan yang berbeza terhadap kenderaan autonomi: pengguna mengharapkan kecekapan dan kebolehpercayaan, orang ramai menjangka selamat, dan kerajaan menjangkakan kecekapan pengangkutan. Disokong oleh penyelidikan bertahun-tahun, penglihatan dan penderia 360 darjah, dan kuasa pemprosesan maklumat yang lebih baik daripada manusia, kenderaan sedemikian memberikan pemberat risiko kepada situasi dan membuat keputusan pantas untuk tindakan terbaik yang sepatutnya. Telah dikatakan bahawa kecerdasan di sebalik teknologi akan membuat keputusan yang lebih baik dan lebih cepat daripada manusia dalam kes perlanggaran.

Persoalannya masih ada tentang siapa yang akan bersalah apabila perlanggaran berlaku. Adakah wajar bagi kecerdasan buatan (AI) untuk memilih nyawa yang mana untuk dihargai dan yang mana untuk disimpan apabila berhadapan dengan pilihan itu? Jerman mencadangkan bahawa kereta sedemikian harus sentiasa bertujuan untuk meminimumkan kematian dan menghargai nyawa manusia tanpa diskriminasi. Cadangan ini menghasilkan pandangan yang bercampur-aduk tentang sejauh mana kerajaan sepatutnya boleh meletakkan nilai kepada kehidupan. Lebih-lebih lagi, telah dipertikaikan bahawa teknologi itu berdasarkan etika jurutera yang mereka bentuknya. Ada yang mengatakan keputusan sewenang-wenangnya adalah lebih baik daripada program yang telah ditetapkan yang menentukan kematian. Kemungkinan kenderaan autonomi digodam atau tidak berfungsi menambahkan lagi dilema etika. 

Kesan yang mengganggu 

Kebimbangan etika mengenai kereta automatik sepenuhnya termasuk isu seperti cara kenderaan itu akan membuat keputusan dalam kecemasan, siapa yang akan bertanggungjawab dalam kemalangan dan cara memastikan pengaturcaraan kereta tidak mendiskriminasi kumpulan orang tertentu. Kebimbangan ini mungkin menyebabkan sesetengah individu teragak-agak untuk beralih kepada kenderaan automatik sepenuhnya dan juga boleh menyebabkan peningkatan tekanan untuk jurutera produk supaya lebih telus tentang algoritma yang digunakan dalam kereta.

Satu penyelesaian yang berpotensi untuk kebimbangan etika ini ialah keperluan mandatori untuk kotak hitam automatik, yang boleh membantu menentukan punca kemalangan. Walau bagaimanapun, campur tangan kerajaan dalam bidang ini mungkin juga mendapat tentangan, kerana ada yang berpendapat bahawa bukan peranan kerajaan untuk mengawal penggunaan kenderaan autonomi. 

Syarikat insurans juga perlu menyesuaikan diri dengan kemunculan kereta automatik sepenuhnya. Mereka perlu mereka bentuk semula polisi mereka untuk mengambil kira risiko dan liabiliti unik kenderaan ini. Pelan ini mungkin termasuk persediaan untuk kejadian kerosakan produk dan menentukan siapa yang akan bertanggungjawab sekiranya berlaku kemalangan. Perlindungan menyeluruh adalah perlu kerana telah pun berlaku insiden sistem kereta autonomi yang salah mengenal pasti pejalan kaki sebagai objek, yang membawa kepada kemalangan.

Implikasi etika kenderaan autonomi

Implikasi yang lebih luas daripada etika kenderaan autonomi mungkin termasuk:

• Meningkatkan ketidakpercayaan orang ramai terhadap kenderaan autonomi, terutamanya jika pengeluar tidak telus tentang garis panduan etika AI mereka.
• Badan kawal selia yang memerlukan pengeluar kereta autonomi untuk menerbitkan dasar AI dan pelan daya tahan mereka untuk ralat yang disebabkan oleh sistem ini.
• Firma insurans mencipta pelan komprehensif yang menangani sistem rosak berkaitan AI dan penggodaman siber.
• Dengan peningkatan kenderaan autonomi, data orang ramai boleh dikumpul dan dikongsi dengan pihak ketiga tanpa pengetahuan atau persetujuan mereka.
• Peralihan kepada kenderaan autonomi boleh menyebabkan kehilangan pekerjaan bagi pemandu manusia tetapi juga mewujudkan pekerjaan baharu dalam bidang seperti penyelenggaraan kenderaan, analisis data dan pengurusan pertikaian.
• Potensi diskriminasi terhadap kumpulan pejalan kaki tertentu, terutamanya jika data latihan berat sebelah.
• Kenderaan autonomi terdedah kepada penggodaman dan serangan siber, yang boleh menjejaskan keselamatan penumpang dan pengguna jalan raya yang lain.

Soalan yang perlu dipertimbangkan

• Adakah anda akan mempercayai kereta autonomi sebagai penumpang atau penonton?
• Adakah anda percaya kebimbangan orang ramai perlahan-lahan akan lenyap, atau adakah sesetengah pihak enggan menerima teknologi itu selama-lamanya?