Patipri entèlijans atifisyèl: Machin yo pa objektif jan nou te espere

• otè:
• non otè

  Pwovizyon Quantumrun
• Fevriye 8, 2022

Rezime Insight

Pandan ke teknoloji ki baze sou done yo kenbe pwomès pou ankouraje yon sosyete ki jis, yo souvan reflete menm prejije moun yo kenbe, ki mennen nan enjistis potansyèl yo. Pou egzanp, prejije nan sistèm entèlijans atifisyèl (AI) ka inadvèrtans vin pi mal estereyotip danjere. Sepandan, efò yo ap fèt pou fè sistèm AI pi ekitab, menmsi sa soulve kesyon konplèks sou balans ki genyen ant sèvis piblik ak jistis, ak nesesite pou regilasyon reflechi ak divèsite nan ekip teknoloji yo.

AI patipri kontèks jeneral

Espwa a se ke teknoloji kondwi pa done pral ede limanite nan etabli yon sosyete kote jistis se nòmal pou tout moun. Sepandan, reyalite aktyèl la pentire yon foto diferan. Anpil nan prejije imen yo genyen, ki te mennen nan enjistis nan tan lontan an, yo kounye a ap reflete nan algoritm yo ki gouvène mond dijital nou an. Prejije sa yo nan sistèm AI souvan soti nan prejije moun ki devlope sistèm sa yo, epi prejije sa yo souvan rantre nan travay yo.

Pran, pou egzanp, yon pwojè nan 2012 ke yo rekonèt kòm ImageNet, ki t'ap chache bay etikèt imaj yo pou fòmasyon nan sistèm aprantisaj machin. Yon gwo rezo neral ki resevwa fòmasyon sou done sa yo te kapab imedyatman idantifye objè ak presizyon enpresyonan. Sepandan, lè yo enspeksyon pi pre, chèchè yo te dekouvri prejije ki kache nan done ImageNet yo. Nan yon ka patikilye, yon algorithm ki te antrene sou done sa yo te patipri nan sipozisyon ke tout pwogramasyon lojisyèl yo se gason blan.

Patipri sa a ta ka lakòz fanm yo te neglije pou wòl sa yo lè pwosesis anbochaj la otomatik. Patipri yo te jwenn wout yo nan seri done yo paske moun nan ajoute etikèt nan imaj "fanm" te gen ladann yon etikèt adisyonèl ki konpoze de yon tèm denigre. Egzanp sa a montre kouman prejije, kit yo espre oswa envolontè, ka enfiltre menm sistèm AI ki pi sofistike yo, ki kapab perpétuer estereyotip danjere ak inegalite.

Enpak deranje 

Efò pou adrese patipri nan done ak algoritm yo te inisye pa chèchè atravè divès òganizasyon piblik ak prive. Nan ka pwojè ImageNet a, pou egzanp, crowdsourcing te anplwaye pou idantifye ak elimine tèm etikèt ki voye yon limyè denigrasyon sou kèk imaj. Mezi sa yo te demontre ke li se tout bon posib pou rekonfigire sistèm AI yo vin pi ekitab.

Sepandan, kèk ekspè diskite ke retire patipri ka potansyèlman rann yon seri done mwens efikas, patikilyèman lè patipri miltip yo nan jwe. Yon seri done dezabiye sèten prejije ka fini manke enfòmasyon ase pou itilizasyon efikas. Li soulve kesyon an sou kisa yon seri done imaj vrèman divès ta sanble, ak ki jan li ta ka itilize san yo pa konpwomèt sèvis piblik li yo.

Tandans sa a souliye nesesite pou yon apwòch reflechi nan itilizasyon AI ak teknoloji ki baze sou done. Pou konpayi yo, sa ka vle di envesti nan zouti deteksyon patipri ak pwomosyon divèsite nan ekip teknoloji. Pou gouvènman yo, li ta ka enplike règleman aplikasyon pou asire itilizasyon san patipri AI. 

Enplikasyon patipri AI

Enplikasyon pi laj nan patipri AI ka gen ladan:

• Òganizasyon yo aktif nan asire jistis ak non-diskriminasyon pandan y ap ogmante AI pou amelyore pwodiktivite ak pèfòmans. 
• Gen yon etik AI nan ekip devlopman pou detekte ak bese risk etik bonè nan yon pwojè. 
• Desine pwodwi AI ak faktè divèsite tankou sèks, ras, klas, ak kilti byen klè nan tèt ou.
• Jwenn reprezantan ki soti nan divès gwoup ki pral sèvi ak pwodwi AI yon konpayi pou teste li anvan li lage.
• Plizyer servis piblik pe ganny restriksyon avek serten manm piblik.
• Serten manm piblik pa kapab ganny akse oubyen kalifye pour serten loportinite travay.
• Ajans ki fè respekte lalwa yo ak pwofesyonèl yo enjis vize sèten manm nan sosyete a plis pase lòt. 

Kesyon yo konsidere

• Èske ou optimis pou pran desizyon otomatik yo pral jis nan tan kap vini an?
• Ki sa ki sou AI pran desizyon fè ou pi nève a?