Privasi pengakuan: Bisakah foto online dilindungi?

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• November 4, 2022

Ringkasan wawasan

Ketika teknologi pengenalan wajah (FRT) semakin meluas, berbagai kelompok telah mencoba membatasi kemanjurannya untuk menjaga privasi. Meskipun upaya untuk mengakali sistem pengenalan wajah tidak selalu memungkinkan, para peneliti telah mulai bereksperimen dengan cara membingungkan aplikasi online yang mengikis dan mengumpulkan foto untuk mesin pengenalan wajah. Metode ini termasuk penggunaan kecerdasan buatan (AI) untuk menambahkan “noise” pada gambar dan perangkat lunak penyelubungan.

Pengakuan konteks privasi

Teknologi pengenalan wajah semakin banyak dimanfaatkan oleh berbagai sektor, termasuk penegakan hukum, pendidikan, ritel, dan penerbangan, untuk tujuan mulai dari mengidentifikasi penjahat hingga pengawasan. Misalnya, di New York, pengenalan wajah telah berperan penting dalam membantu penyelidik melakukan banyak penangkapan dan mengidentifikasi kasus pencurian identitas dan penipuan, secara signifikan sejak tahun 2010. Namun, peningkatan penggunaan ini juga menimbulkan pertanyaan tentang privasi dan etika penggunaan teknologi tersebut. .

Dalam keamanan perbatasan dan imigrasi, Departemen Keamanan Dalam Negeri AS menggunakan pengenalan wajah untuk memverifikasi identitas wisatawan yang masuk dan keluar negara tersebut. Caranya dengan membandingkan foto wisatawan dengan gambar yang ada, seperti yang terdapat di paspor. Demikian pula, pengecer mengadopsi pengenalan wajah untuk mengidentifikasi calon pengutil dengan membandingkan wajah pelanggan dengan database pelaku yang diketahui. 

Terlepas dari manfaat praktisnya, meluasnya penggunaan teknologi pengenalan wajah telah memicu kekhawatiran mengenai privasi dan persetujuan. Contoh penting adalah kasus Clearview AI, sebuah perusahaan yang mengumpulkan miliaran gambar dari platform media sosial dan internet, tanpa izin tertulis, untuk melatih sistem pengenalan wajahnya. Praktik ini menyoroti perbedaan tipis antara domain publik dan pribadi, karena individu yang membagikan foto mereka secara online sering kali memiliki kendali terbatas atas bagaimana gambar tersebut digunakan. 

Dampak yang mengganggu

Pada tahun 2020, perangkat lunak bernama Fawkes dikembangkan oleh peneliti dari University of Chicago. Fawkes menawarkan metode perlindungan pengenalan wajah yang efektif dengan “menyelubungi” foto untuk menipu sistem pembelajaran mendalam, sambil membuat perubahan minimal yang tidak terlihat oleh mata manusia. Alat ini hanya menargetkan sistem yang mengambil gambar pribadi tanpa izin dan tidak memengaruhi model yang dibuat dengan gambar yang diperoleh secara sah, seperti yang digunakan oleh penegak hukum.

Fawkes dapat diunduh dari situs proyek, dan siapa pun dapat menggunakannya dengan mengikuti beberapa langkah sederhana. Perangkat lunak penyelubungan hanya membutuhkan beberapa saat untuk memproses foto sebelum pengguna dapat melanjutkan dan mempostingnya secara publik. Perangkat lunak ini juga tersedia untuk sistem operasi Mac dan PC.

Pada tahun 2021, perusahaan teknologi Adversa AI yang berbasis di Israel membuat algoritme yang menambahkan noise, atau perubahan kecil, pada foto wajah, yang menyebabkan sistem pemindaian wajah mendeteksi wajah yang berbeda sekaligus. Algoritme berhasil secara halus mengubah gambar seseorang menjadi orang lain yang mereka pilih (misalnya, CEO Adversa AI dapat menipu sistem pencarian gambar untuk mengidentifikasinya sebagai Elon Musk Tesla). Teknologi ini unik karena dibuat tanpa pengetahuan mendetail tentang algoritme FRT target. Dengan demikian, seseorang juga dapat menggunakan alat tersebut terhadap mesin pengenalan wajah lainnya.

Implikasi dari pengakuan privasi

Implikasi yang lebih luas dari privasi pengakuan dapat mencakup: 

• Media sosial dan platform berbasis konten lainnya menggabungkan teknologi privasi pengakuan.
• Smartphone, laptop, dan kamera termasuk program yang dapat menyelubungi foto pengguna, meningkatkan privasi pengguna.
• Semakin banyak startup yang mengembangkan kamuflase biometrik atau program untuk membatasi deteksi FRT. 
• Lebih banyak pemerintah nasional dan lokal menerapkan undang-undang yang membatasi atau melarang FRT dalam pengawasan publik.
• Lebih banyak tuntutan hukum terhadap sistem pengenalan wajah yang secara ilegal mengikis gambar pribadi, termasuk membuat perusahaan media sosial bertanggung jawab atas kurangnya langkah keamanan mereka.
• Gerakan warga dan organisasi yang berkembang yang melobi menentang meningkatnya penggunaan FRT.

Pertanyaan untuk dipertimbangkan

• Apa yang bisa dilakukan untuk menyeimbangkan penggunaan sistem pengenalan wajah?
• Bagaimana Anda menggunakan pengenalan wajah di tempat kerja dan dalam kehidupan sehari-hari?