Franken-Algorithms: Algoritmoj iĝis friponaj

• Aŭtoro:
• Aŭtora nomo

  Quantumrun Foresight
• Aprilo 12, 2023

Ĉar algoritmoj de maŝinlernado (ML) fariĝas pli progresintaj, ili povas lerni kaj adaptiĝi al ŝablonoj en grandaj datumaroj memstare. Ĉi tiu procezo, konata kiel "sendependa lernado", povas rezultigi la algoritmon generante sian propran kodon aŭ regulojn por fari decidojn. La problemo kun ĉi tio estas, ke la kodo generita de la algoritmo povas esti malfacila aŭ malebla por homoj kompreni, igante ĝin malfacila precizigi biasojn. 

Kunteksto de Franken-Algoritmoj

Franken-Algoritmoj rilatas al algoritmoj (la reguloj kiujn komputiloj sekvas dum prilaborado de datumoj kaj respondado al komandoj) kiuj fariĝis tiel kompleksaj kaj interplektitaj ke homoj ne plu povas deĉifri ilin. La termino estas kapjeso al la sciencfikcio de Mary Shelley pri "monstro" kreita de la freneza sciencisto d-ro Frankenstein. Dum algoritmoj kaj kodoj estas la konstrubriketoj de granda teknologio kaj permesis al Facebook kaj Google esti la influaj kompanioj, kiujn ili estas nun, estas ankoraŭ tiom multe pri la teknologio, kiun homoj ne konas. 

Kiam programistoj konstruas kodojn kaj kuras ilin per programaro, ML permesas al komputiloj kompreni kaj antaŭdiri ŝablonojn. Dum granda teknologio asertas, ke algoritmoj estas objektivaj ĉar homaj emocioj kaj neantaŭvidebleco ne influas ilin, ĉi tiuj algoritmoj povas evolui kaj skribi siajn proprajn regulojn, kondukante al katastrofaj rezultoj. La kodo generita per tiuj algoritmoj ofte estas kompleksa kaj maldiafana, igante ĝin malfacila por esploristoj aŭ terapiistoj interpreti la decidojn de la algoritmo aŭ identigi iujn ajn biasojn kiuj povas ĉeesti en la decida procezo de la algoritmo. Ĉi tiu vojbaro povas krei signifajn defiojn por entreprenoj, kiuj dependas de ĉi tiuj algoritmoj por fari decidojn, ĉar ili eble ne povas kompreni aŭ klarigi la rezonadon malantaŭ tiuj decidoj.

Disrompa efiko

Kiam Franken-Algoritmoj iĝas friponaj, ĝi povas esti demando pri vivo kaj morto. Ekzemplo estis akcidento en 2018 kiam aŭtoveturanta aŭto en Arizono trafis kaj mortigis virinon biciklon. La algoritmoj de la aŭto estis nekapablaj ĝuste identigi ŝin kiel homo. Ekspertoj estis disŝiritaj pri la radika kaŭzo de la akcidento—ĉu la aŭto estis nedece programita, kaj ĉu la algoritmo fariĝis tro kompleksa por sia propra bono? Pri kio programistoj povas konsenti, tamen, estas ke necesas ekzisti kontrola sistemo por softvarfirmaoj—kodo de etiko. 

Tamen, ĉi tiu etika kodo venas kun iom da repuŝo de granda teknologio ĉar ili estas en la komerco de vendado de datumoj kaj algoritmoj, kaj ne povas pagi esti reguligitaj aŭ postulataj por esti travideblaj. Aldone, lastatempa evoluo, kiu kaŭzis maltrankvilon por grandaj teknikaj dungitoj, estas la kreskanta uzo de algoritmoj ene de la militistaro, kiel la partnereco de Google kun la Usona Departemento pri Defendo por korpigi algoritmojn en armea teknologio, kiel aŭtonomaj virabeloj. Ĉi tiu aplikaĵo kaŭzis ke iuj dungitoj eksiĝis kaj spertuloj esprimis zorgojn pri tio, ke algoritmoj ankoraŭ estas tro neantaŭvideblaj por esti uzataj kiel mortigaj maŝinoj. 

Alia zorgo estas, ke Franken-Algoritmoj povas eternigi kaj eĉ plifortigi biasojn pro la datumaroj, sur kiuj ili estas trejnitaj. Ĉi tiu procezo povas konduki al diversaj sociaj problemoj, inkluzive de diskriminacio, malegaleco kaj maljustaj arestoj. Pro ĉi tiuj pliigitaj riskoj, multaj teknologiaj kompanioj komencas publikigi siajn etikajn AI-gvidliniojn por esti travideblaj pri kiel ili evoluas, uzas kaj kontrolas siajn algoritmojn.

Pli larĝaj implicoj por Franken-Algoritmoj

Eblaj implicoj por Franken-Algoritmoj povas inkludi:

• Disvolviĝo de aŭtonomaj sistemoj, kiuj povas fari decidojn kaj fari agojn sen homa superrigardo, kaŭzante zorgojn pri respondeco kaj sekureco. Tamen, tiaj algoritmoj povas redukti la kostojn de evoluigado de programaro kaj robotiko, kiuj povas aŭtomatigi homan laboron tra la plej multaj industrioj. 
• Pli da ekzamenado pri kiel algoritmoj povas aŭtomatigi armean teknologion kaj subteni aŭtonomiajn armilojn kaj veturilojn.
• Pliigita premo por registaroj kaj industriaj gvidantoj efektivigi algoritmo-kodon de etiko kaj regularoj.
• Franken-Algoritmoj misproporcie influantaj certajn demografiajn grupojn, kiel ekzemple malriĉaj komunumoj aŭ minoritataj populacioj.
• Franken-Algoritmoj povus eternigi kaj plifortigi diskriminacion kaj biason en decidofarado, kiel ekzemple dungado kaj pruntedonado de decidoj.
• Ĉi tiuj algoritmoj estas uzataj de ciberkrimuloj por kontroli kaj ekspluati malfortojn en sistemoj, precipe en financaj institucioj.
• Politikaj aktoroj uzante friponajn algoritmojn por aŭtomatigi merkatajn kampanjojn uzante generajn AI-sistemojn en manieroj kiuj povas influi publikan opinion kaj influi elektojn.

Konsiderindaj demandoj

• Kiel vi pensas, ke algoritmoj pluevoluiĝos estonte?
• Kion povas fari registaroj kaj kompanioj por kontroli Franken-Algoritmojn?