Algoritm yo vize moun: Lè machin yo vire kont minorite yo

• otè:
• non otè

  Pwovizyon Quantumrun
• Fevriye 8, 2023

Pa gen okenn dout ke sistèm rekonesans feminen yo ka sèvi ak byen, tankou ede jwenn timoun ki disparèt ak detekte abi, lè yo resevwa fòmasyon kòrèkteman. Sepandan, nan kèk ka wo-pwofil, algorithm yo alimante sistèm rekonesans feminen sa yo ap resevwa fòmasyon lè l sèvi avèk done ki soti nan popilasyon vilnerab san konsantman yo.

Algoritm ki vize kontèks moun

Sistèm rekonesans imaj, tankou teknoloji rekonesans feminen (FRT), yo difisil pou devlope paske algorithm ki kondwi yo bezwen gwo done pou jwenn rezilta egzat. Pa egzanp, Ansanm done Rankont miltip la gen ladan de koleksyon foto anpil: moun ki pa komèt okenn krim ak moun ki mouri. Ansanm done a gen yon pi gwo pwopòsyon imaj ki gen moun ki soti nan gwoup minorite yo pase sa ki reprezante popilasyon jeneral la. Si lapolis sèvi ak done sa yo pou antrene algoritm, li gen anpil chans pou kreye rezilta patipri. 

Anpil imaj yo itilize san konsantman moun nan foto a, espesyalman timoun yo. Devlopè teknoloji rekonesans vizaj yo te itilize pwogram Analytics Image Exploitation Child depi 2016 pou teste ansanm done yo. Pwogram sa a gen foto ti bebe jiska adolesan, pifò ladan yo se viktim fòse, abi, ak agresyon seksyèl, jan sa endike nan dokiman pwojè a.

Dapre yon etid 2019 pa sit nouvèl Slate la, pwogram Tès pou Verifikasyon Rekonesans Facial Ozetazini yo depann anpil sou imaj timoun ki te viktim pònografi timoun, moun ki aplike viza ameriken yo (sitou moun ki soti Meksik), ak moun ki te deja arete. epi apre sa te pase. Gen kèk imaj ki soti nan yon etid Depatman Sekirite Nasyonal (DHS) kote anplwaye DHS yo te pran foto vwayajè regilye yo pou rezon rechèch. Epitou, moun ki gen foto yo prensipalman itilize nan pwogram sa a yo te sispèk nan aktivite kriminèl.

Enpak deranje

Lachin te itilize tou algoritm FRT pou sib minorite yo, patikilyèman kominote Mizilman Uyghur la. An 2021, BBC rapòte ke yon sistèm kamera ki itilize AI ak rekonesans feminen pou detekte emosyon yo te teste sou Uyghurs nan Xinjiang. Siveyans se yon aktivite chak jou pou sitwayen k ap viv nan pwovens lan. Zòn nan se tou lakay yo nan "sant re-edikasyon" (yo rele kan detansyon wo-sekirite pa gwoup dwa moun), kote yo estime yon milyon moun te kenbe.

Si pa gen bon règleman gouvènman an, nenpòt moun ta ka itilize kòm yon sijè tès pou endistri a rekonesans feminen. Moman ki pi vilnerab moun yo ta ka kaptire epi apre sa plis eksplwate pa sektè gouvènman yo sipoze pwoteje piblik la. Anplis de sa, gen kèk seri done yo lage nan piblik la, ki pèmèt sitwayen prive oswa kòporasyon telechaje, estoke, epi sèvi ak yo. 

Li enposib di konbyen sistèm komèsyal yo konte sou done sa yo, men se pratik komen ke anpil pwojè akademik fè. Patipri nan mitan seri done sous kreye pwoblèm lè lojisyèl dwe "fòme" pou travay espesifik li yo (pa egzanp, yo idantifye figi) oswa "teste" pou pèfòmans. Akòz plizyè evènman kote moun yo te fè diskriminasyon kont yo akòz koulè po yo oswa lòt karakteristik, te gen anpil apèl pou pi bon règleman konsènan fason sistèm aprantisaj machin sa yo (ML) yo fòme. Dapre Analytics Insight, se sèlman Bèljik ak Liksanbou ki konplètman entèdi FRT nan teritwa yo.

Enplikasyon algoritm ki vize moun

Enplikasyon pi laj nan algoritm ki vize moun ka gen ladan: 

• Gwoup dwamoun yo ap fè presyon sou gouvènman respektif yo pou limite itilizasyon FRT, enkli aksè a imaj yo.
• Gouvènman k ap travay ansanm pou kreye yon estanda mondyal ki ta klèman defini fason yo pral fòme ak itilize zouti FRT yo.
• Ogmante pwosè kont konpayi ki itilize done fòmasyon ilegal ki soti nan gwoup minorite yo.
• Gen kèk peyi ki pwolonje aplikasyon yo nan algoritm FRT pou kontwole ak kontwole popilasyon respektif yo.
• Zouti AI plis patipri ki vize gwoup etnik espesifik, oryantasyon seksyèl, ak afilyasyon relijye. 

Kesyon pou komante

• Ki kèk fason yo itilize algorithm pou vize gwoup espesifik nan kominote w la, si genyen?
• Ki lòt fason yo ka itilize AI pou toupizi oswa eksplwate popilasyon vilnerab yo?