Franken-algoritmit: Algoritmit ovat menneet roistoksi

• Kirjoittaja:
• tekijän nimi

  Quantumrun Foresight
• Huhtikuu 12, 2023

Kun koneoppimisalgoritmit (ML) kehittyvät kehittyneemmiksi, ne pystyvät oppimaan ja mukautumaan suurten tietojoukkojen malleihin yksin. Tämä prosessi, joka tunnetaan nimellä "autonominen oppiminen", voi johtaa siihen, että algoritmi luo oman koodinsa tai säännöt tehdäkseen päätöksiä. Ongelma tässä on se, että algoritmin luomaa koodia voi olla vaikea tai mahdotonta ymmärtää ihmisille, mikä tekee harhojen paikantamisesta haastavaa. 

Franken-Algoritmien konteksti

Franken-algoritmit viittaavat algoritmeihin (sääntöihin, joita tietokoneet noudattavat käsitellessään tietoja ja vastatessaan komentoihin), joista on tullut niin monimutkaisia ​​ja kietoutuneita, että ihmiset eivät voi enää tulkita niitä. Termi on nyökkäys Mary Shelleyn tieteiskirjallisuuteen hullun tiedemiehen tohtori Frankensteinin luomasta "hirviöstä". Vaikka algoritmit ja koodit ovat suuren teknologian rakennuspalikoita ja ovat antaneet Facebookille ja Googlelle olla vaikutusvaltaisia ​​yrityksiä, joita ne nyt ovat, teknologiasta on silti niin paljon, mitä ihmiset eivät tiedä. 

Kun ohjelmoijat rakentavat koodeja ja suorittavat niitä ohjelmiston kautta, ML antaa tietokoneille mahdollisuuden ymmärtää ja ennustaa malleja. Vaikka suurteknologia väittää, että algoritmit ovat objektiivisia, koska ihmisten tunteet ja arvaamattomuus eivät vaikuta niihin, nämä algoritmit voivat kehittyä ja kirjoittaa omia sääntöjään, mikä johtaa tuhoisiin tuloksiin. Näiden algoritmien luoma koodi on usein monimutkaista ja läpinäkymätöntä, mikä vaikeuttaa tutkijoiden tai toimijoiden on tulkita algoritmin päätöksiä tai tunnistaa mahdollisia harhoja, joita voi esiintyä algoritmin päätöksentekoprosessissa. Tämä tiesulku voi luoda merkittäviä haasteita yrityksille, jotka luottavat näihin algoritmeihin päätöksenteossa, koska ne eivät ehkä pysty ymmärtämään tai selittämään päätösten taustaa.

Häiritsevä vaikutus

Kun Franken-algoritmit rikkoutuvat, se voi olla elämän ja kuoleman kysymys. Esimerkkinä oli vuonna 2018 sattunut onnettomuus, kun itseajava auto Arizonassa törmäsi ja tappoi pyörällä ajavan naisen. Auton algoritmit eivät pystyneet tunnistamaan häntä oikein ihmiseksi. Asiantuntijat kiistelivät onnettomuuden perimmäistä syytä – oliko auto ohjelmoitu väärin, ja tuliko algoritmista liian monimutkainen oman edunsa vuoksi? Ohjelmoijat voivat kuitenkin olla yhtä mieltä siitä, että ohjelmistoyrityksille on oltava valvontajärjestelmä – eettiset säännöt. 

Tähän eettiseen sääntöön liittyy kuitenkin suuria teknologioita, koska ne myyvät tietoja ja algoritmeja, eikä niillä ole varaa säännellä tai vaatia läpinäkyvyyttä. Lisäksi viimeaikainen kehitys, joka on aiheuttanut huolta suurille teknologian työntekijöille, on algoritmien lisääntyvä käyttö armeijassa, kuten Googlen kumppanuus Yhdysvaltain puolustusministeriön kanssa algoritmien sisällyttämiseksi sotilastekniikkaan, kuten autonomiset droonit. Tämä sovellus on johtanut siihen, että jotkut työntekijät eroavat ja asiantuntijat ovat ilmaisseet huolensa siitä, että algoritmit ovat edelleen liian arvaamattomia käytettäviksi tappamiskoneina. 

Toinen huolenaihe on, että Franken-algoritmit voivat säilyttää ja jopa vahvistaa harhoja, jotka johtuvat niille koulutetuista tietojoukoista. Tämä prosessi voi johtaa erilaisiin yhteiskunnallisiin ongelmiin, kuten syrjintään, eriarvoisuuteen ja laittomiin pidätyksiin. Näiden kohonneiden riskien vuoksi monet teknologiayritykset alkavat julkaista eettisiä tekoälyohjeitaan kertoakseen avoimesti, kuinka ne kehittävät, käyttävät ja valvovat algoritmejaan.

Laajemmat vaikutukset Franken-algoritmeille

Mahdollisia seurauksia Franken-algoritmeille voivat olla:

• Sellaisten itsenäisten järjestelmien kehittäminen, jotka voivat tehdä päätöksiä ja toimia ilman ihmisen valvontaa, mikä herättää huolta vastuullisuudesta ja turvallisuudesta. Tällaiset algoritmit voivat kuitenkin vähentää kustannuksia sellaisten ohjelmistojen ja robotiikan kehittämisestä, jotka voivat automatisoida ihmistyön useimmilla toimialoilla. 
• Lisää tarkastelua siitä, kuinka algoritmit voivat automatisoida sotilasteknologiaa ja tukea autonomisia aseita ja ajoneuvoja.
• Hallituksiin ja alan johtajiin kohdistuu lisääntynyt paine eettisten ja määräysten algoritmien käyttöönottamiseksi.
• Franken-algoritmit vaikuttavat suhteettomasti tiettyihin väestöryhmiin, kuten pienituloisiin yhteisöihin tai vähemmistöihin.
• Franken-algoritmit voisivat jatkaa ja vahvistaa syrjintää ja harhaa päätöksenteossa, kuten palkkaamis- ja lainauspäätöksissä.
• Kyberrikolliset käyttävät näitä algoritmeja järjestelmien, erityisesti rahoituslaitosten, heikkouksien seuraamiseen ja hyödyntämiseen.
• Poliittiset toimijat, jotka käyttävät petollisia algoritmeja automatisoidakseen markkinointikampanjoita käyttämällä generatiivisia tekoälyjärjestelmiä tavoilla, jotka voivat vaikuttaa yleiseen mielipiteeseen ja vaikuttaa vaaleihin.

Pohdittavia kysymyksiä

• Miten uskot algoritmien kehittyvän tulevaisuudessa?
• Mitä hallitukset ja yritykset voivat tehdä valvoakseen Franken-algoritmeja?