Franken-Algoritmid: Algoritmid on pettunud

• Autor:
• autori nimi

  Quantumrun Foresight
• Aprill 12, 2023

Kuna masinõppe (ML) algoritmid muutuvad arenenumaks, on nad võimelised iseseisvalt õppima ja kohanema suurte andmekogumite mustritega. See protsess, mida nimetatakse "autonoomseks õppimiseks", võib põhjustada selle, et algoritm genereerib otsuste tegemiseks oma koodi või reeglid. Probleem on selles, et algoritmi genereeritud koodi võib inimestel olla raske või võimatu mõista, mistõttu on eelarvamuste tuvastamine keeruline. 

Franken-Algoritmide kontekst

Franken-Algoritmid viitavad algoritmidele (reeglid, mida arvutid järgivad andmete töötlemisel ja käskudele vastamisel), mis on muutunud nii keeruliseks ja läbipõimunud, et inimesed ei suuda neid enam dešifreerida. See termin on noogutus Mary Shelley ulmele hullu teadlase dr Frankensteini loodud "koletise" kohta. Kuigi algoritmid ja koodid on suure tehnoloogia ehituskivid ning võimaldanud Facebookil ja Google'il olla praegu mõjukad ettevõtted, on tehnoloogiast veel nii mõndagi, mida inimesed ei tea. 

Kui programmeerijad koostavad koode ja käitavad neid tarkvara kaudu, võimaldab ML arvutitel mustreid mõista ja ennustada. Kuigi suurtehnoloogia väidab, et algoritmid on objektiivsed, kuna inimeste emotsioonid ja ettearvamatus neid ei mõjuta, võivad need algoritmid areneda ja kirjutada oma reegleid, mis toob kaasa katastroofilised tulemused. Nende algoritmide loodud kood on sageli keeruline ja läbipaistmatu, mistõttu on teadlastel või praktikutel raske algoritmi otsuseid tõlgendada või tuvastada mis tahes kõrvalekaldeid, mis võivad algoritmi otsustusprotsessis esineda. See teetõke võib tekitada olulisi väljakutseid ettevõtetele, kes toetuvad otsuste tegemisel nendele algoritmidele, kuna nad ei pruugi mõista ega selgitada nende otsuste tagamaid.

Häiriv mõju

Kui Franken-Algoritmid lähevad petturiteks, võib see olla elu ja surma küsimus. Näiteks 2018. aastal juhtus õnnetus, kui isejuhtiv auto Arizonas sõitis rattaga sõitnud naisele otsa ja tappis. Auto algoritmid ei suutnud teda inimesena õigesti tuvastada. Eksperdid olid mures õnnetuse algpõhjuses – kas auto oli valesti programmeeritud ja kas algoritm muutus enda huvides liiga keeruliseks? Programmeerijad võivad aga nõustuda sellega, et tarkvaraettevõtete jaoks peab olema järelevalvesüsteem – eetikakoodeks. 

Selle eetikakoodeksiga kaasneb aga suurtehnoloogia tagasilöök, kuna nad tegelevad andmete ja algoritmide müügiga ega saa endale lubada, et neid reguleeritakse või nõutakse läbipaistvust. Lisaks on hiljutine suur tehnoloogiatöötajate jaoks muret tekitanud areng algoritmide sagenev kasutamine sõjaväes, näiteks Google'i partnerlus USA kaitseministeeriumiga, et kaasata sõjatehnoloogiasse algoritme, nagu autonoomsed droonid. Selle rakenduse tõttu on mõned töötajad töölt lahkunud ja eksperdid on väljendanud muret, et algoritmid on endiselt liiga ettearvamatud, et neid tapmismasinatena kasutada. 

Teine probleem on see, et Franken-Algoritmid võivad nende väljaõppe saanud andmekogumite tõttu säilitada ja isegi võimendada eelarvamusi. See protsess võib kaasa tuua mitmesuguseid ühiskondlikke probleeme, sealhulgas diskrimineerimist, ebavõrdsust ja ebaseaduslikke vahistamisi. Nende kõrgendatud riskide tõttu hakkavad paljud tehnoloogiaettevõtted avaldama oma eetilisi tehisintellekti juhiseid, et olla läbipaistvad oma algoritmide arendamise, kasutamise ja jälgimise osas.

Franken-algoritmide laiemad tagajärjed

Franken-algoritmide võimalikud tagajärjed võivad hõlmata järgmist:

• Autonoomsete süsteemide arendamine, mis suudavad teha otsuseid ja tegutseda ilma inimliku järelevalveta, tekitades muret vastutuse ja ohutuse pärast. Sellised algoritmid võivad aga vähendada kulusid tarkvara ja robootika arendamiseks, mis suudavad automatiseerida inimtööjõudu enamikus tööstusharudes. 
• Rohkem kontrolli selle kohta, kuidas algoritmid saavad automatiseerida sõjatehnoloogiat ja toetada autonoomseid relvi ja sõidukeid.
• Suurem surve valitsustele ja tööstusharu juhtidele rakendada algoritmi eetikakoodeksit ja eeskirju.
• Frankeni algoritmid, mis mõjutavad ebaproportsionaalselt teatavaid demograafilisi rühmi, näiteks madala sissetulekuga kogukondi või vähemusi.
• Franken-Algoritmid võivad põlistada ja võimendada diskrimineerimist ja erapoolikust otsuste tegemisel, näiteks värbamis- ja laenuotsuste tegemisel.
• Küberkurjategijad kasutavad neid algoritme süsteemide nõrkuste jälgimiseks ja ärakasutamiseks, eriti finantsasutustes.
• Poliitilised osalejad, kes kasutavad petturlikke algoritme turunduskampaaniate automatiseerimiseks, kasutades generatiivseid tehisintellektisüsteeme viisil, mis võib mõjutada avalikku arvamust ja mõjutada valimisi.

Küsimused, mida kaaluda

• Kuidas teie arvates algoritmid tulevikus edasi arenevad?
• Mida saavad valitsused ja ettevõtted Franken-Algoritmide kontrollimiseks teha?