Upendeleo wa akili Bandia: Mashine sio lengo kama tulivyotarajia

• mwandishi:
• mwandishi jina

  Mtazamo wa Quantumrun
• Februari 8, 2022

Muhtasari wa maarifa

Ingawa teknolojia zinazoendeshwa na data zinashikilia ahadi ya kukuza jamii yenye haki, mara nyingi zinaonyesha mapendeleo sawa na ambayo wanadamu wanashikilia, na kusababisha ukosefu wa haki. Kwa mfano, upendeleo katika mifumo ya akili bandia (AI) unaweza kuzidisha imani potofu hatari bila kukusudia. Hata hivyo, juhudi zinaendelea ili kufanya mifumo ya AI iwe na usawa zaidi, ingawa hii inazua maswali changamano kuhusu uwiano kati ya matumizi na haki, na hitaji la udhibiti makini na utofauti katika timu za teknolojia.

Muktadha wa jumla wa upendeleo wa AI

Matumaini ni kwamba teknolojia zinazoendeshwa na data zitasaidia ubinadamu katika kuanzisha jamii ambapo haki ni jambo la kawaida kwa wote. Hata hivyo, hali halisi ya sasa inatoa picha tofauti. Mengi ya mapendeleo ambayo wanadamu wanayo, ambayo yamesababisha ukosefu wa haki hapo awali, sasa yanaakisiwa katika kanuni zinazotawala ulimwengu wetu wa kidijitali. Upendeleo huu katika mifumo ya AI mara nyingi hutokana na chuki za watu binafsi wanaounda mifumo hii, na upendeleo huu mara kwa mara huingia kwenye kazi zao.

Chukua, kwa mfano, mradi wa mwaka wa 2012 unaojulikana kama ImageNet, ambao ulitaka kuweka alama kwenye picha kwa ajili ya mafunzo ya mifumo ya kujifunza kwa mashine. Mtandao mkubwa wa neva uliofunzwa kwenye data hii uliweza baadaye kutambua vitu kwa usahihi wa kuvutia. Walakini, baada ya ukaguzi wa karibu, watafiti waligundua upendeleo uliofichwa ndani ya data ya ImageNet. Katika kisa kimoja, algoriti iliyofunzwa kwenye data hii iliegemea kwenye dhana kwamba watengeneza programu wote ni wazungu.

Upendeleo huu unaweza kusababisha wanawake kupuuzwa kwa majukumu kama haya wakati mchakato wa kuajiri unaendeshwa kiotomatiki. Mapendeleo yalipatikana katika seti za data kwa sababu mtu anayeongeza lebo kwenye picha za "mwanamke" alijumuisha lebo ya ziada ambayo ilikuwa na neno la kudhalilisha. Mfano huu unaonyesha jinsi upendeleo, iwe wa kukusudia au bila kukusudia, unavyoweza kupenyeza hata mifumo ya kisasa zaidi ya AI, ambayo inaweza kuendeleza dhana mbaya na ukosefu wa usawa.

Athari ya usumbufu 

Juhudi za kushughulikia upendeleo katika data na algoriti zimeanzishwa na watafiti katika mashirika mbalimbali ya umma na ya kibinafsi. Kwa upande wa mradi wa ImageNet, kwa mfano, kutafuta watu wengi kulitumika ili kutambua na kuondoa masharti ya kuweka lebo ambayo yanatoa mwanga wa kudhalilisha baadhi ya picha. Hatua hizi zilionyesha kuwa kweli inawezekana kusanidi upya mifumo ya AI ili iwe na usawa zaidi.

Hata hivyo, baadhi ya wataalam wanasema kuwa kuondoa upendeleo kunaweza kufanya seti ya data isiwe na ufanisi, haswa wakati upendeleo mwingi unachezwa. Seti ya data iliyoondolewa upendeleo fulani inaweza kuishia kukosa maelezo ya kutosha kwa matumizi bora. Inazua swali la seti ya data ya picha tofauti kabisa ingeonekanaje, na jinsi inavyoweza kutumika bila kuathiri matumizi yake.

Mwenendo huu unasisitiza hitaji la mbinu ya kufikiria ya matumizi ya AI na teknolojia zinazoendeshwa na data. Kwa makampuni, hii inaweza kumaanisha kuwekeza katika zana za kugundua upendeleo na kukuza utofauti katika timu za teknolojia. Kwa serikali, inaweza kuhusisha utekelezaji wa kanuni ili kuhakikisha matumizi ya haki ya AI. 

Athari za upendeleo wa AI

Athari pana za upendeleo wa AI zinaweza kujumuisha:

• Mashirika yanakuwa makini katika kuhakikisha usawa na kutobagua yanapotumia AI kuboresha tija na utendakazi. 
• Kuwa na mtaalamu wa maadili wa AI katika timu za maendeleo ili kugundua na kupunguza hatari za kimaadili mapema katika mradi. 
• Kubuni bidhaa za AI zenye mambo tofauti kama vile jinsia, rangi, tabaka, na utamaduni akilini.
• Kupata wawakilishi kutoka kwa vikundi mbalimbali ambavyo vitakuwa vikitumia bidhaa ya AI ya kampuni ili kuifanyia majaribio kabla haijatolewa.
• Huduma mbalimbali za umma zikizuiliwa kutoka kwa baadhi ya wananchi.
• Wanachama fulani hawawezi kufikia au kuhitimu fursa fulani za kazi.
• Mashirika ya utekelezaji wa sheria na wataalamu wakiwalenga isivyo haki baadhi ya wanajamii kuliko wengine. 

Maswali ya kuzingatia

• Je, una matumaini kwamba ufanyaji maamuzi wa kiotomatiki utakuwa wa haki katika siku zijazo?
• Je, kuhusu kufanya maamuzi ya AI hukufanya uwe na wasiwasi zaidi?