Privasi pangenalan: Apa foto online bisa direksa?

• Babagan Author:
• Jeneng panganggit

  Quantumrun Foresight
• November 4, 2022

Ringkesan wawasan

Minangka teknologi pangenalan rai (FRT) dadi nyebar, macem-macem klompok nyoba mbatesi khasiat kanggo njaga privasi. Nalika nyoba ngatasi sistem pangenalan rai ora mesthi bisa ditindakake, peneliti wis wiwit nyoba cara kanggo mbingungake aplikasi online sing ngikis lan ngumpulake foto kanggo mesin pangenalan rai. Cara kasebut kalebu nggunakake intelijen buatan (AI) kanggo nambah "noise" menyang gambar lan piranti lunak cloaking.

Konteks privasi pangenalan

Teknologi pangenalan rai saya akeh digunakake dening macem-macem sektor, kalebu penegakan hukum, pendidikan, ritel, lan penerbangan, kanggo tujuan wiwit saka ngenali penjahat nganti pengawasan. Contone, ing New York, pangenalan rai wis dadi instrumental kanggo nulungi penyidik ​​supaya bisa nyekel akeh lan ngenali kasus nyolong identitas lan penipuan, sacara signifikan wiwit 2010. Nanging, paningkatan panggunaan iki uga nuwuhake pitakonan babagan privasi lan panggunaan etika teknologi kasebut. .

Ing keamanan tapel wates lan imigrasi, Departemen Keamanan Tanah Air AS nggunakake pangenalan rai kanggo verifikasi identitas wong sing lelungan mlebu lan metu saka negara kasebut. Iki ditindakake kanthi mbandhingake foto lelungan karo gambar sing wis ana, kayata sing ditemokake ing paspor. Kajaba iku, pengecer nggunakake pangenalan rai kanggo ngenali tukang maling potensial kanthi mbandhingake rai pelanggan karo database pelanggar sing dikenal. 

Senadyan mupangat praktis, panggunaan teknologi pangenalan rai sing terus berkembang nyebabake keprihatinan babagan privasi lan idin. Conto penting yaiku kasus Clearview AI, perusahaan sing nglumpukake milyaran gambar saka platform media sosial lan internet, tanpa ijin sing jelas, kanggo nglatih sistem pangenalan rai. Praktek iki nyorot garis tipis ing antarane domain umum lan pribadi, amarga individu sing nuduhake foto kanthi online asring duwe kontrol winates babagan carane gambar kasebut digunakake. 

Dampak gangguan

Ing taun 2020, piranti lunak sing diarani Fawkes dikembangake dening peneliti saka Universitas Chicago. Fawkes nawakake cara efektif kanggo proteksi pangenalan rai kanthi "cloaking" foto kanggo ngapusi sistem sinau jero, kabeh nalika nggawe owah-owahan minimal sing ora katon ing mripat manungsa. Alat kasebut mung ngarahake sistem sing panen gambar pribadhi tanpa ijin lan ora mengaruhi model sing dibangun nganggo gambar sing sah, kayata sing digunakake dening penegak hukum.

Fawkes bisa diundhuh saka situs web proyek, lan sapa wae bisa nggunakake kanthi ngetutake sawetara langkah sing gampang. Piranti lunak cloaking mung butuh sawetara wektu kanggo ngolah foto sadurunge pangguna bisa nerusake lan ngirim menyang publik. Piranti lunak uga kasedhiya kanggo sistem operasi Mac lan PC.

Ing taun 2021, perusahaan teknologi sing berbasis ing Israel Adversa AI nggawe algoritma sing nambah swara, utawa owah-owahan cilik, menyang foto pasuryan, sing nyebabake sistem pemindaian rai ndeteksi pasuryan sing beda. Algoritma kasebut kanthi gampang ngganti gambar individu menyang wong liya sing dipilih (contone, CEO Adversa AI bisa ngapusi sistem telusuran gambar kanggo ngenali dheweke minangka Elon Musk Tesla). Teknologi iki unik amarga digawe tanpa kawruh rinci babagan algoritma target FRT. Mangkono, individu uga bisa nggunakake alat kasebut marang mesin pangenalan rai liyane.

Implikasi privasi pangenalan

Implikasi privasi pangenalan sing luwih akeh bisa uga kalebu: 

• Media sosial lan platform basis konten liyane sing nggabungake teknologi privasi pangenalan.
• Smartphone, laptop, lan kamera kalebu program sing bisa nutupi foto pangguna, nambah privasi pangguna.
• Tambah akeh startups ngembangaken kamuflase biometrik utawa program kanggo matesi deteksi FRT. 
• Luwih akeh pamrentah nasional lan lokal sing ngetrapake hukum sing mbatesi utawa nglarang FRT ing pengawasan umum.
• Tuntutan hukum liyane nglawan sistem pangenalan rai sing ngrusak gambar pribadi kanthi ilegal, kalebu nggawe perusahaan media sosial tanggung jawab amarga ora ana langkah keamanan.
• A gerakan akeh warga lan organisasi sing lobi marang nambah nggunakake FRTs.

Pitakon sing kudu dipikirake

• Apa sing bisa ditindakake kanggo ngimbangi panggunaan sistem pangenalan rai?
• Kepiye cara nggunakake pangenalan rai ing karya lan ing urip saben dina?