Done fòmasyon pwoblèm: Lè yo anseye AI done patipri

• otè:
• non otè

  Pwovizyon Quantumrun
• 14 Oktòb 2022

Rezime Insight

Nou se sa nou aprann ak entènalize; diktum sa a aplike tou pou entèlijans atifisyèl (AI). Modèl aprantisaj machin (ML) nouri ak done enkonplè, partial, ak san etik pral finalman pran desizyon pwoblèm ak sijesyon. Algoritm pwisan sa yo ka enfliyanse moralite itilizatè yo ak pèsepsyon si chèchè yo pa fè atansyon.

Kontèks done fòmasyon pwoblèm

Depi ane 2010 yo, ekip rechèch yo te egzamine pou yo sèvi ak seri done fòmasyon ki gen kontni ki pa apwopriye oswa yo rasanble yon fason ki pa etik. Pou egzanp, nan 2016, baz done Microsoft a MS-Celeb-1M enkli 10 milyon imaj de 100,000 selebrite diferan. Sepandan, sou plis enspeksyon, korespondan yo te dekouvri ke anpil foto se te moun òdinè rale sou sit entènèt divès kalite san konsantman pwopriyetè a oswa konesans.

Malgre reyalizasyon sa a, seri done a te kontinye itilize pa gwo konpayi tankou Facebook ak SenseTime, yon konpayi Chinwa rekonesans feminen ki gen lyen ak lapolis eta a. Menm jan an tou, yon seri done ki gen foto moun k ap mache sou kanpis Inivèsite Duke a (DukeMTMC) pa t kolekte konsantman tou. Evantyèlman, tou de done yo te retire. 

Pou mete aksan sou efè domaj nan done fòmasyon pwoblèm, chèchè nan Enstiti Teknoloji Massachusetts (MIT) te kreye yon AI ki rele Norman ke yo te anseye yo fè tit imaj nan yon subreddit ki make vyolans grafik. Lè sa a, ekip la mete Norman kont yon rezo neral ki resevwa fòmasyon lè l sèvi avèk done konvansyonèl yo. Chèchè yo te founi tou de sistèm yo ak tach lank Rorschach epi yo te mande AI yo pou dekri sa yo te wè. Rezilta yo te sansasyonèl: kote rezo neral estanda a te wè "yon foto nwa ak blan nan yon gan bezbòl," Norman obsève "yon nonm ki te asasinen pa mitray nan gwo lajounen." Eksperyans lan te demontre ke AI pa gen patipri otomatikman, men metòd antre done sa yo ak motif kreyatè yo ka gen yon enpak siyifikativ sou konpòtman yon AI.

Enpak deranje

Nan 2021, òganizasyon rechèch Allen Institute for AI te kreye Ask Delphi, yon lojisyèl ML ki algoritmik jenere repons pou repons pou nenpòt kesyon etik. Chèchè ki dèyè pwojè a te deklare ke AI piti piti vin pi pwisan ak abitye, kidonk syantis yo bezwen anseye etik sistèm ML sa yo. Modèl Unicorn ML se fondasyon Delphi. Li te formul pou fè rezònman "bon sans", tankou chwazi fen ki pi pwobab nan yon seri tèks. 

Anplis de sa, chèchè yo te itilize 'Commonsense Norm Bank la.' Bank sa a konsiste de 1.7 milyon egzanp evalyasyon etik moun ki soti nan kote tankou Reddit. Kòm yon rezilta, pwodiksyon Delphi a te yon sak melanje. Delphi te reponn kèk kesyon rezonab (egzanp, egalite ant gason ak fanm), tandiske, sou kèk sijè, Delphi te kareman ofansif (egzanp, jenosid se akseptab toutotan li te fè moun kontan).

Sepandan, Delphi AI a ap aprann nan eksperyans li yo e li sanble ap mete ajou repons li yo ki baze sou fidbak. Gen kèk ekspè ki boulvèse pa itilizasyon piblik ak louvri rechèch la, konsidere modèl la ap pwogrese epi li gen tandans jwenn repons iregilye. Lè Ask Delphi te kòmanse, Mar Hicks, yon pwofesè Istwa nan Illinois Tech ki espesyalize nan sèks, travay, ak istwa a nan enfòmatik, te di ke li te neglijans nan chèchè envite moun yo sèvi ak li, konsidere Delphi imedyatman te bay repons trè immoral ak kèk total tenten. 

Nan 2023, Rès mond lan te fè yon etid sou patipri nan dèlko imaj AI. Lè l sèvi avèk Midjourney, chèchè yo te dekouvri ke imaj yo pwodwi afime estereyotip ki egziste deja. Anplis de sa, lè OpenAI te aplike filtè nan done fòmasyon yo pou modèl jenerasyon imaj DALL-E 2 li a, li san entansyonèlman entansifye prejije ki gen rapò ak sèks.

Enplikasyon done fòmasyon pwoblèm

Pi laj enplikasyon done fòmasyon pwoblèm yo ka enkli: 

• Ranfòse prejije nan pwojè rechèch, sèvis, ak devlopman pwogram. Done fòmasyon ki gen pwoblèm yo patikilyèman konsyan si yo itilize nan enstitisyon ki fè respekte lalwa ak bank yo (egzanp, vize yon fason negatif gwoup minorite).
• Ogmantasyon envestisman ak devlopman nan kwasans ak varyete done fòmasyon. 
• Plis gouvènman ogmante règleman pou limite fason kòporasyon devlope, vann, ak itilize done fòmasyon pou plizyè inisyativ komèsyal yo.
• Plis biznis ki tabli depatman etik pou asire ke pwojè ki mache ak sistèm AI swiv direktiv etik yo.
• Egzaminasyon amelyore sou itilizasyon AI nan swen sante ki mennen nan yon gouvènans done pi sevè, asire konfidansyalite pasyan yo ak aplikasyon AI etik.
• Ogmante kolaborasyon sektè piblik ak prive pou ankouraje alfabetizasyon AI, ekipe mendèv la ak konpetans pou yon avni domine AI.
• Ogmante demann pou zouti transparans AI, ki mennen konpayi yo bay priyorite esplikabilite nan sistèm AI pou konpreyansyon konsomatè yo ak konfyans.

Kesyon yo konsidere

• Ki jan òganizasyon yo ta ka evite itilize done fòmasyon pwoblèm?
• Ki lòt konsekans potansyèl done fòmasyon ki pa etik?