Regulasi AI Eropa: Upaya untuk menjaga AI tetap manusiawi

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• Juni 13, 2022

Ringkasan wawasan

Komisi Eropa (EC) mengambil langkah-langkah untuk menetapkan standar etika untuk kecerdasan buatan (AI), dengan fokus pada pencegahan penyalahgunaan di berbagai bidang seperti pengawasan dan data konsumen. Langkah ini telah memicu perdebatan di industri teknologi dan dapat mengarah pada pendekatan terpadu dengan AS, yang bertujuan untuk mendapatkan pengaruh global. Namun, peraturan tersebut mungkin juga mempunyai konsekuensi yang tidak diinginkan, seperti membatasi persaingan pasar dan mempengaruhi peluang kerja di sektor teknologi.

Konteks regulasi AI Eropa

Komisi Eropa secara aktif berfokus pada pembuatan kebijakan untuk menjaga privasi data dan hak online. Baru-baru ini, fokus ini telah diperluas hingga mencakup penggunaan teknologi AI secara etis. Komisi Eropa prihatin dengan potensi penyalahgunaan AI di berbagai sektor, mulai dari pengumpulan data konsumen hingga pengawasan. Dengan melakukan hal ini, Komisi bertujuan untuk menetapkan standar etika AI, tidak hanya di UE tetapi juga berpotensi menjadi model bagi seluruh dunia.

Pada bulan April 2021, Komisi Eropa mengambil langkah signifikan dengan merilis serangkaian aturan yang bertujuan untuk memantau penerapan AI. Aturan-aturan ini dirancang untuk mencegah penggunaan AI untuk pengawasan, melanggengkan bias, atau tindakan represif oleh pemerintah atau organisasi. Secara khusus, peraturan tersebut melarang sistem AI yang dapat membahayakan individu baik secara fisik maupun psikologis. Misalnya, sistem AI yang memanipulasi perilaku masyarakat melalui pesan tersembunyi tidak diperbolehkan, begitu pula sistem yang mengeksploitasi kerentanan fisik atau mental masyarakat.

Selain itu, Komisi Eropa juga telah mengembangkan kebijakan yang lebih ketat terkait sistem AI yang dianggap “berisiko tinggi”. Ini adalah aplikasi AI yang digunakan di sektor-sektor yang memiliki dampak besar terhadap keselamatan dan kesejahteraan publik, seperti peralatan medis, peralatan keselamatan, dan peralatan penegakan hukum. Kebijakan ini menguraikan persyaratan audit yang lebih ketat, proses persetujuan, dan pemantauan berkelanjutan setelah sistem ini diterapkan. Industri seperti identifikasi biometrik, infrastruktur penting, dan pendidikan juga berada di bawah payung ini. Perusahaan yang tidak mematuhi peraturan ini dapat dikenakan denda yang besar, hingga USD $32 juta atau 6 persen dari pendapatan tahunan global mereka.

Dampak yang mengganggu

Industri teknologi telah menyatakan keprihatinannya mengenai kerangka peraturan Komisi Eropa untuk AI, dengan alasan bahwa peraturan tersebut dapat menghambat kemajuan teknologi. Kritikus menunjukkan bahwa definisi sistem AI “berisiko tinggi” dalam kerangka kerja tersebut tidak jelas. Misalnya, perusahaan teknologi besar yang menggunakan AI untuk algoritma media sosial atau iklan bertarget tidak diklasifikasikan sebagai “berisiko tinggi,” meskipun faktanya aplikasi ini telah dikaitkan dengan berbagai masalah sosial seperti misinformasi dan polarisasi. Komisi Eropa menentang hal ini dengan menyatakan bahwa badan pengawas nasional di masing-masing negara UE akan memiliki keputusan akhir mengenai apa yang termasuk dalam penerapan risiko tinggi, namun pendekatan ini dapat menyebabkan inkonsistensi di seluruh negara anggota.

Uni Eropa (UE) tidak bertindak sendirian; ini bertujuan untuk berkolaborasi dengan AS untuk menetapkan standar global untuk etika AI. Undang-Undang Persaingan Strategis Senat AS, yang dirilis pada bulan April 2021, juga menyerukan kerja sama internasional untuk melawan “otoritarianisme digital,” sebuah referensi terselubung terhadap praktik-praktik seperti penggunaan biometrik oleh Tiongkok untuk pengawasan massal. Kemitraan transatlantik ini dapat menentukan arah etika AI global, namun juga menimbulkan pertanyaan tentang bagaimana standar tersebut akan ditegakkan di seluruh dunia. Akankah negara-negara dengan pandangan berbeda mengenai privasi data dan hak individu, seperti Tiongkok dan Rusia, akan mematuhi pedoman ini, atau akankah hal ini menciptakan lanskap etika AI yang terfragmentasi?

Jika peraturan-peraturan ini menjadi undang-undang pada pertengahan hingga akhir tahun 2020-an, maka peraturan-peraturan ini dapat memberikan dampak yang besar terhadap industri teknologi dan tenaga kerja di UE. Perusahaan yang beroperasi di UE dapat memilih untuk menerapkan perubahan peraturan ini secara global, sehingga menyelaraskan seluruh operasi mereka dengan standar baru. Namun, beberapa organisasi mungkin menganggap peraturan tersebut terlalu memberatkan dan memilih untuk keluar dari pasar UE sama sekali. Kedua skenario ini akan berdampak pada lapangan kerja di sektor teknologi UE. Misalnya, keluarnya perusahaan secara massal dapat menyebabkan hilangnya lapangan kerja, sementara penyelarasan global dengan standar UE dapat membuat peran teknologi di UE menjadi lebih terspesialisasi dan berpotensi lebih bernilai.

Implikasi untuk peningkatan regulasi AI di Eropa

Implikasi yang lebih luas dari keinginan Komisi Eropa untuk meregulasi AI dapat mencakup:

• UE dan AS membentuk perjanjian sertifikasi bersama untuk perusahaan AI, sehingga menghasilkan serangkaian standar etika yang selaras yang harus dipatuhi oleh perusahaan, terlepas dari lokasi geografis mereka.
• Pertumbuhan di bidang khusus audit AI, didorong oleh peningkatan kolaborasi antara perusahaan swasta dan sektor publik untuk memastikan kepatuhan terhadap peraturan baru.
• Negara-negara dan dunia usaha di negara berkembang mendapatkan akses ke layanan digital yang mematuhi standar etis AI yang ditetapkan oleh negara-negara Barat, sehingga berpotensi meningkatkan kualitas dan keamanan layanan ini.
• Pergeseran model bisnis untuk memprioritaskan praktik AI yang etis, menarik konsumen yang semakin peduli terhadap privasi data dan penggunaan teknologi yang etis.
• Pemerintah mengadopsi AI dalam layanan publik seperti layanan kesehatan dan transportasi dengan keyakinan yang lebih besar, karena mengetahui bahwa teknologi ini memenuhi standar etika yang ketat.
• Peningkatan investasi dalam program pendidikan yang berfokus pada AI etis, menciptakan generasi ahli teknologi baru yang berpengalaman dalam kemampuan AI dan pertimbangan etis.
• Startup teknologi yang lebih kecil menghadapi hambatan untuk masuk karena tingginya biaya kepatuhan terhadap peraturan, yang berpotensi menghambat persaingan dan mengarah pada konsolidasi pasar.

Pertanyaan untuk dipertimbangkan

• Apakah Anda percaya bahwa pemerintah harus mengatur teknologi AI dan bagaimana penerapannya?
• Bagaimana lagi peningkatan regulasi dalam industri teknologi mempengaruhi cara perusahaan di sektor ini beroperasi?