Mpangilio wa AI: Kulinganisha malengo ya akili bandia yanalingana na maadili ya binadamu

• mwandishi:
• mwandishi jina

  Mtazamo wa Quantumrun
• Januari 25, 2023

Usawazishaji wa akili Bandia (AI) ni wakati malengo ya mfumo wa AI yanalingana na maadili ya binadamu. Makampuni kama OpenAI, DeepMind, na Anthropic yana timu za watafiti ambao lengo lao pekee ni kusoma vituo vya ulinzi kwa hali tofauti ambazo hii inaweza kutokea.

Muktadha wa upatanishi wa AI

Kulingana na utafiti wa utafiti wa Chuo Kikuu cha Cornell wa 2021, tafiti kadhaa zimeonyesha kuwa zana au miundo iliyoundwa na algoriti huonyesha upendeleo kutoka kwa data waliyofunzwa. Kwa mfano, katika usindikaji wa lugha asilia (NLP), chagua miundo ya NLP iliyofunzwa kwenye seti chache za data imenakiliwa kufanya ubashiri kulingana na dhana potofu za kijinsia dhidi ya wanawake. Vile vile, tafiti zingine ziligundua kuwa kanuni za algoriti zilizofunzwa kwenye seti ya data iliyoharibiwa zilisababisha mapendekezo ya ubaguzi wa rangi, haswa katika polisi.

Kuna mifano mingi ambayo mifumo ya kujifunza kwa mashine imefanya vibaya zaidi kwa wachache au vikundi vinavyokumbwa na shida nyingi. Hasa, uchanganuzi wa usoni otomatiki na uchunguzi wa huduma ya afya kwa kawaida haufanyi kazi vizuri sana kwa wanawake na watu wa rangi. Wakati mifumo muhimu ambayo inapaswa kutegemea ukweli na mantiki badala ya hisia inatumiwa katika miktadha kama vile kutoa huduma ya afya au elimu, inaweza kufanya uharibifu zaidi kwa kuifanya iwe vigumu kutambua sababu inayochangia mapendekezo haya.

Kwa hivyo, makampuni ya teknolojia yanaunda timu za upatanishi wa AI ili kuzingatia kuweka kanuni za usawa na za kibinadamu. Utafiti ni muhimu ili kuelewa mwelekeo wa mifumo ya hali ya juu ya AI, pamoja na changamoto ambazo tunaweza kukabiliana nazo kadri uwezo wa AI unavyokua.

Athari ya usumbufu

Kulingana na Jan Leike, mkuu wa upatanishi wa AI huko OpenAI (2021), ikizingatiwa kuwa mifumo ya AI imekuwa na uwezo tu katika miaka ya 2010, inaeleweka kuwa utafiti mwingi wa upatanishi wa AI umekuwa wa kinadharia mzito. Mifumo yenye nguvu sana ya AI inapolinganishwa, mojawapo ya changamoto ambazo wanadamu hukabili ni kwamba mashine hizi zinaweza kuunda masuluhisho ambayo ni magumu sana kukagua na kutathmini ikiwa yana mantiki kimaadili.

Leike alibuni mkakati wa uundaji wa zawadi unaorudiwa (RRM) ili kurekebisha tatizo hili. Kwa RRM, AI kadhaa za "msaidizi" hufundishwa ili kumsaidia mwanadamu kutathmini jinsi AI changamano zaidi inavyofanya kazi. Ana matumaini juu ya uwezekano wa kuunda kitu anachorejelea kama "MVP ya usawa." Kwa maneno ya uanzishaji, MVP (au bidhaa ya chini kabisa inayowezekana) ni bidhaa rahisi zaidi ambayo kampuni inaweza kuunda ili kujaribu wazo. Matumaini ni kwamba siku moja, AI inalingana na utendaji wa binadamu katika kutafiti AI na upatanishi wake na maadili huku pia ikifanya kazi.

Ingawa kuongeza hamu ya upatanishi wa AI ni chanya, wachambuzi wengi katika nyanja hii wanafikiri kuwa sehemu kubwa ya "maadili" hufanya kazi katika maabara zinazoongoza za AI ni mahusiano ya umma tu yaliyoundwa ili kufanya kampuni za teknolojia kuonekana vizuri na kuepuka utangazaji hasi. Watu hawa hawatarajii mazoea ya maendeleo ya maadili kuwa kipaumbele kwa kampuni hizi hivi karibuni.

Maoni haya yanaangazia umuhimu wa mbinu baina ya taaluma kwa juhudi za upatanishi wa thamani, kwani hili ni eneo jipya la uchunguzi wa kimaadili na kiufundi. Matawi tofauti ya maarifa yanapaswa kuwa sehemu ya ajenda ya utafiti jumuishi. Mpango huu pia unaonyesha hitaji la wanateknolojia na watunga sera kuendelea kufahamu muktadha wao wa kijamii na washikadau, hata mifumo ya AI inapoendelea zaidi.

Athari za upatanishi wa AI

Athari pana za upatanishi wa AI zinaweza kujumuisha: 

• Maabara za kijasusi Bandia zinazoajiri bodi mbalimbali za maadili ili kusimamia miradi na kutimiza miongozo ya maadili ya AI. 
• Serikali zinazounda sheria zinazohitaji makampuni kuwasilisha mfumo wao wa AI unaowajibika na jinsi wanavyopanga kuendeleza zaidi miradi yao ya AI.
• Kuongezeka kwa mabishano juu ya matumizi ya algoriti katika kuajiri, ufuatiliaji wa umma, na utekelezaji wa sheria.
• Watafiti wakifukuzwa kutoka kwa maabara kubwa za AI kutokana na migongano ya kimaslahi kati ya maadili na malengo ya shirika.
• Shinikizo zaidi kwa serikali kudhibiti mifumo ya hali ya juu ya AI ambayo yote ina nguvu nyingi lakini inaweza kukiuka haki za binadamu.

Maswali ya kutoa maoni

• Je, makampuni yanawezaje kuwajibika kwa mifumo ya AI wanayounda?
• Je, ni hatari gani nyingine zinazoweza kutokea iwapo kutakuwa na mpangilio mbaya wa AI?