Preġudizzju tal-intelliġenza artifiċjali: Il-magni mhumiex oġġettivi daqs kemm ttamajna

• awtur:
• isem awtur

  Quantumrun Foresight
• Frar 8, 2022

Sommarju tal-għarfien

Filwaqt li t-teknoloġiji mmexxija mid-dejta għandhom il-wegħda li jrawmu soċjetà ġusta, ħafna drabi jirriflettu l-istess preġudizzji li jġorru l-bnedmin, li jwasslu għal inġustizzji potenzjali. Pereżempju, il-preġudizzji fis-sistemi tal-intelliġenza artifiċjali (AI) jistgħu involontarjament jaggravaw l-isterjotipi li jagħmlu l-ħsara. Madankollu, qed isiru sforzi biex is-sistemi tal-IA jsiru aktar ekwu, għalkemm dan iqajjem mistoqsijiet kumplessi dwar il-bilanċ bejn l-utilità u l-ġustizzja, u l-ħtieġa għal regolamentazzjoni u diversità bil-ħsieb fit-timijiet tat-teknoloġija.

AI bias kuntest ġenerali

It-tama hija li t-teknoloġiji mmexxija mid-dejta jgħinu lill-umanità biex tistabbilixxi soċjetà fejn il-ġustizzja hija n-norma għal kulħadd. Madankollu, ir-realtà attwali tpinġi stampa differenti. Ħafna mill-preġudizzji li għandhom il-bnedmin, li wasslu għal inġustizzji fil-passat, issa qed jiġu riflessi fl-algoritmi li jirregolaw id-dinja diġitali tagħna. Dawn il-preġudizzji fis-sistemi tal-IA spiss joħorġu minn preġudizzji tal-individwi li jiżviluppaw dawn is-sistemi, u dawn il-preġudizzji spiss jidħlu fix-xogħol tagħhom.

Ħu, pereżempju, proġett fl-2012 magħruf bħala ImageNet, li fittex li jakkwista l-ittikkettjar tal-immaġini għat-taħriġ tas-sistemi tat-tagħlim tal-magni. Netwerk newrali kbir imħarreġ fuq din id-dejta kien sussegwentement kapaċi jidentifika oġġetti bi preċiżjoni impressjonanti. Madankollu, wara spezzjoni aktar mill-qrib, ir-riċerkaturi skoprew preġudizzji moħbija fid-dejta ImageNet. F'każ partikolari wieħed, algoritmu mħarreġ fuq din id-dejta kien preġudikat lejn is-suppożizzjoni li l-programmaturi tas-softwer kollha huma irġiel bojod.

Dan il-preġudizzju jista’ potenzjalment jirriżulta li n-nisa jiġu injorati għal tali rwoli meta l-proċess ta’ kiri jkun awtomatizzat. Il-preġudizzji sabu triqthom fis-settijiet tad-dejta minħabba li l-individwu li żied it-tikketti ma 'immaġini ta' "mara" inkluda tikketta addizzjonali li kienet tikkonsisti f'terminu derogatorju. Dan l-eżempju juri kif il-preġudizzji, kemm jekk intenzjonati jew mhux intenzjonati, jistgħu jinfiltraw anke fl-aktar sistemi tal-AI sofistikati, u potenzjalment jipperpetwaw sterjotipi u inugwaljanzi ta' ħsara.

Impatt li jfixkel 

Inbdew sforzi biex tiġi indirizzata l-preġudizzju fid-dejta u l-algoritmi minn riċerkaturi f'diversi organizzazzjonijiet pubbliċi u privati. Fil-każ tal-proġett ImageNet, pereżempju, intuża l-crowdsourcing biex jiġu identifikati u eliminati termini ta’ tikkettar li jitfgħu dawl dispreġjattiv fuq ċerti stampi. Dawn il-miżuri wrew li huwa tabilħaqq possibbli li s-sistemi tal-IA jiġu kkonfigurati mill-ġdid biex ikunu aktar ġusti.

Madankollu, xi esperti jargumentaw li t-tneħħija tal-preġudizzju tista' potenzjalment tirrendi sett ta' data inqas effettiv, b'mod partikolari meta jkun hemm preġudizzji multipli. Sett ta' dejta mqaxxar minn ċerti preġudizzji jista' jispiċċa nieqes minn biżżejjed informazzjoni għal użu effettiv. Tqajjem il-mistoqsija dwar kif se jidher sett tad-dejta tal-immaġni tassew divers, u kif jista 'jintuża mingħajr ma tiġi kompromessa l-utilità tiegħu.

Din it-tendenza tenfasizza l-ħtieġa għal approċċ maħsub għall-użu tal-AI u t-teknoloġiji mmexxija mid-data. Għall-kumpaniji, dan jista' jfisser investiment f'għodod ta' skoperta ta' preġudizzji u promozzjoni tad-diversità fit-timijiet tat-teknoloġija. Għall-gvernijiet, jista' jinvolvi regolamenti implimentattivi biex jiġi żgurat użu ġust tal-IA. 

Implikazzjonijiet tal-preġudizzju tal-AI

Implikazzjonijiet usa' tal-preġudizzju tal-AI jistgħu jinkludu:

• Organizzazzjonijiet li jkunu proattivi fl-iżgurar tal-ġustizzja u n-nondiskriminazzjoni hekk kif jisfruttaw l-AI biex itejbu l-produttività u l-prestazzjoni. 
• Li jkollok etiku tal-IA fit-timijiet tal-iżvilupp biex jiskopri u jtaffi r-riskji etiċi kmieni fi proġett. 
• Iddisinjar ta' prodotti AI b'fatturi ta' diversità bħall-ġeneru, ir-razza, il-klassi u l-kultura f'moħħhom b'mod ċar.
• Ikseb rappreżentanti mill-gruppi diversi li se jkunu qed jużaw prodott AI ta 'kumpanija biex jittestjawh qabel ma jiġi rilaxxat.
• Diversi servizzi pubbliċi qed jiġu ristretti minn ċerti membri tal-pubbliku.
• Ċerti membri tal-pubbliku ma jkunux jistgħu jaċċessaw jew jikkwalifikaw għal ċerti opportunitajiet ta' xogħol.
• Aġenziji tal-infurzar tal-liġi u professjonisti li jimmiraw b'mod inġust lil ċerti membri tas-soċjetà aktar minn oħrajn. 

Mistoqsijiet li għandek tikkunsidra

• Inti ottimista li t-teħid ta' deċiżjonijiet awtomatizzat se jkun ġust fil-futur?
• Xi ngħidu dwar it-teħid tad-deċiżjonijiet tal-AI jagħmlek l-aktar nervuż?