Etika kendaraan otonom: Merencanakan keselamatan dan akuntabilitas

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• 11 April, 2023

Kendaraan otonom menggunakan perangkat lunak untuk menentukan jalurnya guna meminimalkan dampak tabrakan. Kendaraan ini dirancang untuk mengurangi risiko tabrakan dengan terus-menerus memantau sekelilingnya, memprediksi potensi bahaya, dan menyesuaikan tindakannya. Namun, karena kendaraan ini menjadi lebih maju, penilaian mesin menyebabkan dilema etika dan kekhawatiran publik tentang keselamatannya. 

Konteks etika kendaraan otonom

Pemangku kepentingan memiliki ekspektasi yang berbeda terhadap kendaraan otonom: pengguna mengharapkan efisiensi dan keandalan, pengamat mengharapkan keamanan, dan pemerintah mengharapkan efisiensi transportasi. Didukung oleh penelitian bertahun-tahun, penglihatan dan sensor 360 derajat, dan kekuatan pemrosesan informasi yang lebih baik daripada manusia, kendaraan semacam itu memberikan bobot risiko pada situasi dan membuat keputusan cepat untuk tindakan yang dianggap terbaik. Dikatakan bahwa kecerdasan di balik teknologi akan membuat keputusan yang lebih baik dan lebih cepat daripada manusia dalam kasus tabrakan.

Pertanyaannya tetap siapa yang akan salah ketika tabrakan benar-benar terjadi. Apakah boleh bagi kecerdasan buatan (AI) untuk memilih kehidupan mana yang akan dihargai dan mana yang akan diselamatkan ketika dihadapkan pada pilihan? Jerman mengusulkan agar mobil semacam itu selalu bertujuan untuk meminimalkan kematian dan menghargai nyawa manusia tanpa diskriminasi. Proposal ini menghasilkan pandangan yang beragam tentang seberapa besar pemerintah harus dapat memberi nilai pada kehidupan. Selain itu, telah diperdebatkan bahwa teknologi tersebut didasarkan pada etika para insinyur yang merancangnya. Ada yang mengatakan keputusan sewenang-wenang lebih baik daripada program yang ditentukan sebelumnya yang menentukan korban. Kemungkinan kendaraan otonom diretas atau tidak berfungsi semakin menambah dilema etika. 

Dampak yang mengganggu 

Kekhawatiran etis seputar mobil yang sepenuhnya otomatis termasuk masalah seperti bagaimana kendaraan akan membuat keputusan dalam keadaan darurat, siapa yang akan bertanggung jawab dalam kecelakaan, dan bagaimana memastikan bahwa pemrograman mobil tidak mendiskriminasi kelompok orang tertentu. Kekhawatiran ini dapat menyebabkan beberapa individu ragu-ragu untuk beralih ke kendaraan yang sepenuhnya otomatis dan juga dapat menyebabkan peningkatan tekanan bagi insinyur produk untuk lebih transparan tentang algoritme yang digunakan di mobil.

Salah satu solusi potensial untuk masalah etika ini adalah persyaratan wajib untuk kotak hitam otomatis, yang dapat membantu menentukan penyebab kecelakaan. Namun, intervensi pemerintah di bidang ini juga dapat menemui perlawanan, karena beberapa orang mungkin berpendapat bahwa bukan peran pemerintah untuk mengatur penggunaan kendaraan otonom. 

Perusahaan asuransi juga harus beradaptasi dengan munculnya mobil yang sepenuhnya otomatis. Mereka perlu mendesain ulang kebijakan mereka untuk memperhitungkan risiko dan kewajiban unik kendaraan ini. Rencana-rencana ini dapat mencakup persiapan untuk kasus kerusakan produk dan menentukan siapa yang akan bertanggung jawab jika terjadi kecelakaan. Perlindungan komprehensif diperlukan karena sudah ada insiden sistem mobil otonom yang salah mengidentifikasi pejalan kaki sebagai objek, yang menyebabkan kecelakaan.

Implikasi etika kendaraan otonom

Implikasi yang lebih luas dari etika kendaraan otonom dapat meliputi:

• Meningkatkan ketidakpercayaan publik terhadap kendaraan otonom, terutama jika pabrikan tidak transparan tentang pedoman etika AI mereka.
• Badan pengatur yang mewajibkan produsen mobil otonom untuk mempublikasikan kebijakan AI dan rencana ketahanan mereka untuk kesalahan yang disebabkan oleh sistem ini.
• Perusahaan asuransi membuat rencana komprehensif yang menangani sistem rusak terkait AI dan peretasan dunia maya.
• Dengan munculnya kendaraan otonom, data orang dapat dikumpulkan dan dibagikan dengan pihak ketiga tanpa sepengetahuan atau persetujuan mereka.
• Pergeseran ke kendaraan otonom dapat menyebabkan hilangnya pekerjaan bagi pengemudi manusia, tetapi juga menciptakan pekerjaan baru di berbagai bidang seperti pemeliharaan kendaraan, analisis data, dan manajemen perselisihan.
• Potensi diskriminasi terhadap kelompok pejalan kaki tertentu, terutama jika data pelatihannya bias.
• Kendaraan otonom rentan terhadap peretasan dan serangan dunia maya, yang dapat membahayakan keselamatan penumpang dan pengguna jalan lainnya.

Pertanyaan untuk dipertimbangkan

• Apakah Anda akan mempercayai mobil otonom sebagai penumpang atau pengamat?
• Apakah Anda yakin ketakutan publik perlahan akan hilang, atau akankah beberapa orang menolak untuk menerima teknologi selamanya?