Franken algoritmoak algoritmoak gone rogue

IRUDIAREN KREDITUA:

iStock

Franken-Algoritmoak: Algoritmoak bihurritu ziren

Adimen artifizialaren bilakaerarekin, algoritmoak gizakiak aurreikusi baino azkarrago eboluzionatzen ari dira.

Egilea:
Egilearen izena
Quantumrun Prospektiba
Apirilaren 12, 2023

Ikaskuntza automatikoko algoritmoak (ML) aurreratuagoak diren heinean, datu-multzo handietako ereduak beren kabuz ikasteko eta egokitzeko gai dira. Prozesu honek, "ikaskuntza autonomoa" deritzona, algoritmoak bere kodea edo arauak sortzea eragin dezake erabakiak hartzeko. Honen arazoa da algoritmoak sortutako kodea gizakiek ulertzea zaila edo ezinezkoa izan daitekeela, eta zaila da alborapenak zehaztea.

Franken-Algoritmoen testuingurua

Franken-Algorithms algoritmoak (ordenagailuek datuak prozesatzeko eta aginduei erantzuteko betetzen dituzten arauak) deitzen diete, hain konplexuak eta korapilatuak bihurtu diren gizakiak ezin dituela gehiago deszifratu. Terminoa Frankenstein doktore zientzialari eroak sortutako "munstro" bati buruz Mary Shelleyren zientzia-fikzioari keinu bat da. Algoritmoak eta kodeak teknologia handien oinarriak diren arren eta Facebook eta Google orain diren eragin handiko konpainiak izatea ahalbidetu duten arren, oraindik gizakiek ezagutzen ez duten teknologiari buruz asko dago.

Programatzaileek kodeak eraikitzen dituztenean eta software bidez exekutatzen dituztenean, ML-k ordenagailuei ereduak ulertzeko eta aurreikusteko aukera ematen die. Teknologia handiek algoritmoak objektiboak direla dioen arren, giza emozioek eta ezustekoak ez dutelako eragiten, algoritmo hauek eboluzionatu eta beren arauak idatzi ditzakete, emaitza negargarriak lortuz. Algoritmo hauek sortzen duten kodea konplexua eta opakoa izan ohi da, eta zaila egiten zaie ikertzaileei edo profesionalei algoritmoaren erabakiak interpretatzea edo algoritmoaren erabakiak hartzeko prozesuan egon daitezkeen alborapenak identifikatzea. Bide-bloke honek erronka garrantzitsuak sor ditzake algoritmo hauetan oinarritzen diren enpresei erabakiak hartzeko, baliteke erabaki horien arrazoia ulertu edo azaldu ezin izatea.

Eragin disruptiboa

Franken-Algoritmoak maltzurrak direnean, hil ala biziko kontua izan daiteke. Adibide bat 2018an gertatutako istripu bat izan zen, Arizonan auto gidatzen zuen auto batek bizikletan zihoan emakume bat jo eta hil zuenean. Autoaren algoritmoek ezin izan zuten behar bezala identifikatu gizaki gisa. Adituek istripuaren jatorria urratuta zegoen: autoa gaizki programatu al zen, eta algoritmoa konplexuegia bihurtu al zen bere onerako? Dena den, programatzaileek adosten dutena da software-enpresentzako gainbegiratze sistema bat egon behar dela —kode etiko bat—.

Hala ere, etika-kode honek teknologia handien atzerakada bat dakar, datuak eta algoritmoak saltzen ari direlako, eta ezin dutelako araututa egotea edo gardena izatea eskatzen. Gainera, teknologiako langile handiei kezka eragin dien azken garapen bat armadaren barnean algoritmoen erabilera gero eta handiagoa da, hala nola, Google-k AEBetako Defentsa Departamentuarekin duen lankidetza teknologia militarrean algoritmoak sartzeko, drone autonomoak adibidez. Aplikazio honek langile batzuk dimisioa eman du eta adituek kezka adierazi dute algoritmoak oraindik ezustekoegiak direla hiltzeko makina gisa erabiltzeko.

Beste kezka bat da Franken-Algoritmoek alborapenak iraunarazi eta areagotu ditzaketela entrenatzen diren datu-multzoen ondorioz. Prozesu honek gizarteko hainbat arazo sor ditzake, besteak beste, diskriminazioa, desberdintasuna eta bidegabeko atxiloketak. Arrisku handitu horiek direla eta, teknologia-enpresa asko beren AI-ren jarraibide etikoak argitaratzen hasi dira, beren algoritmoak nola garatzen, erabiltzen eta kontrolatzen dituzten gardenak izateko.

Franken-Algoritmoentzako inplikazio zabalagoak

Franken-algoritmoen inplikazio potentzialak honako hauek izan daitezke:

Erabakiak eta ekintzak hartu ditzaketen sistema autonomoen garapena giza gainbegiratu gabe, erantzukizunaren eta segurtasunaren inguruko kezkak sortuz. Hala ere, algoritmo horiek industria gehienetan giza lana automatiza dezaketen softwarea eta robotika garatzeko kostuak murrizten dituzte.
Aztertu gehiago algoritmoek nola automatiza dezaketen teknologia militarra eta arma eta ibilgailu autonomoak nola onartzen dituzten.
Presioa areagotu egin da gobernuek eta industriako liderrak algoritmoen kode etiko eta araudi bat ezartzeko.
Franken-Algoritmoak talde demografiko batzuetan eragin neurrigabean, hala nola, diru-sarrera baxuko komunitateetan edo gutxiengoen biztanlerian.
Franken-Algoritmoek diskriminazioa eta alborapena iraunarazi eta areagotu ditzake erabakiak hartzerakoan, hala nola kontratazio eta mailegu erabakiak.
Ziberkriminaleek erabiltzen dituzten algoritmo hauek sistemen ahuleziak kontrolatzeko eta ustiatzeko, batez ere finantza-erakundeetan.
Eragile politikoek algoritmo maltzurrak erabiltzen dituzten marketin-kanpainak automatizatzeko AI sistema sortzaileak erabiliz, iritzi publikoan eragin eta hauteskundeetan eragin dezaketen moduan.