Franken-Algorithms: Algorithms imeenda vibaya

• mwandishi:
• mwandishi jina

  Mtazamo wa Quantumrun
• Aprili 12, 2023

Kadiri algoriti za kujifunza kwa mashine (ML) zinavyokuwa za juu zaidi, zinaweza kujifunza na kuzoea muundo katika seti kubwa za data peke yake. Mchakato huu, unaojulikana kama "kujifunza kwa uhuru," unaweza kusababisha algoriti kutoa msimbo au sheria zake za kufanya maamuzi. Suala la hili ni kwamba msimbo unaozalishwa na algoriti inaweza kuwa ngumu au isiwezekane kwa wanadamu kuelewa, na kuifanya iwe changamoto kubainisha upendeleo. 

Muktadha wa Franken-Algorithms

Franken-Algorithms hurejelea algorithms (sheria ambazo kompyuta hufuata wakati wa kuchakata data na kujibu amri) ambazo zimekuwa ngumu sana na zilizoingiliana hivi kwamba wanadamu hawawezi tena kuzifafanua. Neno hili ni nod kwa hadithi ya kisayansi ya Mary Shelley kuhusu "monster" iliyoundwa na mwanasayansi wazimu Dk. Frankenstein. Ingawa kanuni na misimbo ndio msingi wa teknolojia kubwa na zimeruhusu Facebook na Google kuwa kampuni zenye ushawishi ambazo ziko sasa, bado kuna mengi kuhusu teknolojia ambayo wanadamu hawajui. 

Watengenezaji programu wanapounda misimbo na kuziendesha kupitia programu, ML huruhusu kompyuta kuelewa na kutabiri ruwaza. Ingawa teknolojia kubwa inadai kwamba algoriti ni lengo kwa sababu hisia za binadamu na kutotabirika haziwaathiri, kanuni hizi zinaweza kubadilika na kuandika sheria zao, na kusababisha matokeo mabaya. Nambari inayotokana na algoriti hizi mara nyingi huwa changamano na isiyo wazi, hivyo kufanya iwe vigumu kwa watafiti au wataalamu kutafsiri maamuzi ya algoriti au kutambua upendeleo wowote unaoweza kuwa katika mchakato wa kufanya uamuzi wa algoriti. Kizuizi hiki kinaweza kuleta changamoto kubwa kwa biashara zinazotegemea algoriti hizi kufanya maamuzi, kwa kuwa zinaweza kushindwa kuelewa au kueleza sababu inayofanya maamuzi hayo.

Athari ya usumbufu

Wakati Franken-Algorithms inakwenda vibaya, inaweza kuwa suala la maisha na kifo. Mfano ulikuwa ajali mnamo 2018 wakati gari linalojiendesha huko Arizona liligonga na kumuua mwanamke aliyekuwa akiendesha baiskeli. Maagizo ya gari hayakuweza kumtambua kwa usahihi kama binadamu. Wataalam waligunduliwa juu ya sababu kuu ya ajali-je, gari lilipangwa vibaya, na je, kanuni hiyo ilikuwa ngumu sana kwa manufaa yake yenyewe? Kile ambacho watayarishaji programu wanaweza kukubaliana, hata hivyo, ni kwamba kunahitajika kuwa na mfumo wa uangalizi wa kampuni za programu—kanuni za maadili. 

Hata hivyo, kanuni hii ya maadili inakuja na msukumo kutoka kwa teknolojia kubwa kwa sababu wanafanya biashara ya kuuza data na algoriti, na hawawezi kumudu kudhibitiwa au kuhitajika kuwa wazi. Zaidi ya hayo, jambo la hivi majuzi ambalo limezua wasiwasi kwa wafanyakazi wakubwa wa teknolojia ni kuongezeka kwa matumizi ya algoriti ndani ya jeshi, kama vile ushirikiano wa Google na Idara ya Ulinzi ya Marekani ili kujumuisha kanuni za algoriti katika teknolojia ya kijeshi, kama vile drones zinazojiendesha. Maombi haya yamesababisha baadhi ya wafanyakazi kujiuzulu na wataalamu wakieleza wasiwasi wao kuwa kanuni za algoriti bado hazitabiriki kutumiwa kama mashine za kuua. 

Wasiwasi mwingine ni kwamba Franken-Algorithms inaweza kuendeleza na hata kukuza upendeleo kwa sababu ya hifadhidata wanazofunzwa. Utaratibu huu unaweza kusababisha masuala mbalimbali ya kijamii, ikiwa ni pamoja na ubaguzi, ukosefu wa usawa, na kukamatwa kwa makosa. Kwa sababu ya hatari hizi zilizokithiri, makampuni mengi ya teknolojia yanaanza kuchapisha miongozo yao ya kimaadili ya AI ili kuwa wazi kuhusu jinsi wanavyokuza, kutumia, na kufuatilia algoriti zao.

Athari pana kwa Franken-Algorithms

Athari zinazowezekana kwa Franken-Algorithms zinaweza kujumuisha:

• Uundaji wa mifumo inayojitegemea ambayo inaweza kufanya maamuzi na kuchukua hatua bila uangalizi wa kibinadamu, kuibua wasiwasi juu ya uwajibikaji na usalama. Hata hivyo, algoriti kama hizo zinaweza kupunguza gharama za kutengeneza programu na roboti zinazoweza kufanya kazi ya binadamu kiotomatiki katika tasnia nyingi. 
• Uchunguzi zaidi kuhusu jinsi algoriti zinavyoweza kufanya teknolojia ya kijeshi kiotomatiki na kusaidia silaha na magari yanayojiendesha.
• Kuongezeka kwa shinikizo kwa serikali na viongozi wa sekta kutekeleza kanuni za kanuni za maadili na kanuni.
• Kanuni za kanuni za Franken zinaathiri isivyo uwiano baadhi ya vikundi vya idadi ya watu, kama vile jumuiya za kipato cha chini au watu wachache.
• Franken-Algorithms inaweza kuendeleza na kukuza ubaguzi na upendeleo katika kufanya maamuzi, kama vile maamuzi ya kuajiri na kukopesha.
• Kanuni hizi zinazotumiwa na wahalifu wa mtandao kufuatilia na kutumia udhaifu katika mifumo, hasa katika taasisi za fedha.
• Waigizaji wa kisiasa wanaotumia kanuni mbovu kufanyia kampeni za masoko kiotomatiki kwa kutumia mifumo wasilianifu ya AI kwa njia zinazoweza kuathiri maoni ya umma na kushawishi uchaguzi.

Maswali ya kuzingatia

• Je, unafikiri algoriti zitaendelezwa vipi katika siku zijazo?
• Je, serikali na makampuni yanaweza kufanya nini ili kudhibiti kanuni za Franken-Algorithms?