Franken-Algoritmi: Algoritmi marret diżonesti

• awtur:
• isem awtur

  Quantumrun Foresight
• April 12, 2023

Hekk kif l-algoritmi tat-tagħlim tal-magni (ML) isiru aktar avvanzati, huma kapaċi jitgħallmu u jadattaw għal mudelli f'settijiet ta' dejta kbar waħedhom. Dan il-proċess, magħruf bħala "tagħlim awtonomu", jista 'jirriżulta fl-algoritmu jiġġenera l-kodiċi jew ir-regoli tiegħu stess biex jieħu deċiżjonijiet. Il-kwistjoni ma 'dan hija li l-kodiċi ġġenerat mill-algoritmu jista' jkun diffiċli jew impossibbli li l-bnedmin jifhmu, u jagħmilha ta 'sfida biex jiġu identifikati preġudizzji. 

Kuntest Franken-Algoritmi

L-Algoritmi Franken jirreferu għal algoritmi (ir-regoli li jsegwu l-kompjuters meta jipproċessaw id-dejta u jwieġbu għall-kmandi) li tant saru kumplessi u marbutin ma’ xulxin li l-bnedmin ma jistgħux jibqgħu jiddeċifrawhom. It-terminu huwa nod għall-fantaxjenza ta’ Mary Shelley dwar “mostru” maħluq mix-xjenzat tal-ġenn Dr Frankenstein. Filwaqt li l-algoritmi u l-kodiċijiet huma l-blokki tal-bini tat-teknoloġija kbira u ppermettew lil Facebook u Google jkunu l-kumpaniji influwenti li huma issa, għad hemm ħafna dwar it-teknoloġija li l-bnedmin ma jafux. 

Meta l-programmaturi jibnu kodiċijiet u jmexxuhom permezz ta 'softwer, ML jippermetti lill-kompjuters jifhmu u jbassru mudelli. Filwaqt li teknoloġija kbira ssostni li l-algoritmi huma oġġettivi minħabba li l-emozzjonijiet umani u l-imprevedibbiltà ma jinfluwenzawhomx, dawn l-algoritmi jistgħu jevolvu u jiktbu r-regoli tagħhom stess, li jwasslu għal riżultati diżastrużi. Il-kodiċi ġġenerat minn dawn l-algoritmi ħafna drabi huwa kumpless u opak, u jagħmilha diffiċli għar-riċerkaturi jew il-prattikanti biex jinterpretaw id-deċiżjonijiet tal-algoritmu jew biex jidentifikaw kwalunkwe preġudizzju li jista 'jkun preżenti fil-proċess tat-teħid tad-deċiżjonijiet tal-algoritmu. Dan l-ostakolu jista' joħloq sfidi sinifikanti għan-negozji li jiddependu fuq dawn l-algoritmi biex jieħdu deċiżjonijiet, peress li jistgħu ma jkunux kapaċi jifhmu jew jispjegaw ir-raġunament wara dawk id-deċiżjonijiet.

Impatt li jfixkel

Meta Franken-Algoritmi jmorru diżonesti, tista 'tkun kwistjoni ta' ħajja u mewt. Eżempju kien inċident fl-2018 meta karozza li kienet qed issuq waħedha f’Arizona laqtet u qatlet mara riekba bir-rota. L-algoritmi tal-karozza ma setgħux jidentifikawha b'mod korrett bħala bniedem. L-esperti tqattgħu fuq il-kawża ewlenija tal-inċident—il-karozza kienet ipprogrammata ħażin, u l-algoritmu sar kumpless wisq għall-ġid tiegħu stess? Dak li l-programmaturi jistgħu jaqblu, madankollu, huwa li jeħtieġ li jkun hemm sistema ta 'sorveljanza għall-kumpaniji tas-softwer—kodiċi ta' etika. 

Madankollu, dan il-kodiċi tal-etika jiġi ma 'xi pushback minn teknoloġija kbira minħabba li huma fin-negozju tal-bejgħ ta' data u algoritmi, u ma jistgħux jaffordjaw li jkunu regolati jew meħtieġa li jkunu trasparenti. Barra minn hekk, żvilupp reċenti li kkawża tħassib għall-impjegati kbar tat-teknoloġija huwa l-użu dejjem jikber ta 'algoritmi fi ħdan il-militar, bħas-sħubija ta' Google mad-Dipartiment tad-Difiża tal-Istati Uniti biex jinkorpora algoritmi fit-teknoloġija militari, bħal drones awtonomi. Din l-applikazzjoni wasslet biex xi impjegati jirriżenjaw u esperti esprimew tħassib li l-algoritmi għadhom wisq imprevedibbli biex jintużaw bħala magni tal-qtil. 

Tħassib ieħor huwa li Franken-Algorithms jistgħu jipperpetwaw u saħansitra jamplifikaw il-preġudizzji minħabba s-settijiet tad-dejta li huma mħarrġa fuqhom. Dan il-proċess jista’ jwassal għal diversi kwistjonijiet tas-soċjetà, inklużi diskriminazzjoni, inugwaljanza, u arresti inġusti. Minħabba dawn ir-riskji akbar, ħafna kumpaniji tat-teknoloġija qed jibdew jippubblikaw il-linji gwida etiċi tagħhom dwar l-AI biex ikunu trasparenti dwar kif jiżviluppaw, jużaw u jimmonitorjaw l-algoritmi tagħhom.

Implikazzjonijiet usa' għal Franken-Algorithms

Implikazzjonijiet potenzjali għal Franken-Algorithms jistgħu jinkludu:

• Żvilupp ta' sistemi awtonomi li jistgħu jieħdu deċiżjonijiet u jieħdu azzjonijiet mingħajr sorveljanza umana, li jqajmu tħassib dwar ir-responsabbiltà u s-sikurezza. Madankollu, algoritmi bħal dawn jistgħu jnaqqsu l-ispejjeż tal-iżvilupp ta’ softwer u robotika li jistgħu awtomatizzaw ix-xogħol tal-bniedem fil-biċċa l-kbira tal-industriji. 
• Aktar skrutinju dwar kif l-algoritmi jistgħu awtomatizzati teknoloġija militari u jappoġġjaw armi u vetturi awtonomi.
• Żieda fil-pressjoni għall-gvernijiet u l-mexxejja tal-industrija biex jimplimentaw kodiċi tal-algoritmu tal-etika u r-regolamenti.
• Franken-Algoritmi jaffettwaw b'mod sproporzjonat ċerti gruppi demografiċi, bħal komunitajiet bi dħul baxx jew popolazzjonijiet minoritarji.
• Franken-Algorithms jistgħu jipperpetwaw u jamplifikaw id-diskriminazzjoni u l-preġudizzju fit-teħid tad-deċiżjonijiet, bħal deċiżjonijiet ta 'kiri u self.
• Dawn l-algoritmi qed jintużaw miċ-ċiberkriminali biex jimmonitorjaw u jisfruttaw id-dgħufijiet fis-sistemi, partikolarment fl-istituzzjonijiet finanzjarji.
• Atturi politiċi li jużaw algoritmi diżonesti biex awtomatizzati kampanji ta' kummerċjalizzazzjoni bl-użu ta' sistemi ġenerattivi ta' AI b'modi li jistgħu jinfluwenzaw l-opinjoni pubblika u jinfluwenzaw l-elezzjonijiet.

Mistoqsijiet li għandek tikkunsidra

• Kif taħseb li l-algoritmi se jiżviluppaw aktar fil-futur?
• X'jistgħu jagħmlu l-gvernijiet u l-kumpaniji biex jikkontrollaw Franken-Algorithms?