Evropska AI regulativa: pokušaj da se AI zadrži humanom

• Autor:
• Ime autora

  Quantumrun Foresight
• Juni 13, 2022

Sažetak uvida

Evropska komisija (EK) poduzima korake u postavljanju etičkih standarda za umjetnu inteligenciju (AI), fokusirajući se na sprječavanje zloupotrebe u područjima kao što su nadzor i podaci o potrošačima. Ovaj potez izazvao je debatu u tehnološkoj industriji i mogao bi dovesti do jedinstvenog pristupa sa SAD-om, s ciljem globalnog utjecaja. Međutim, propisi mogu imati i neželjene posljedice, poput ograničavanja tržišne konkurencije i uticaja na mogućnosti zapošljavanja u tehnološkom sektoru.

Evropski kontekst regulacije AI

EK se aktivno fokusirala na kreiranje politika za zaštitu privatnosti podataka i prava na internetu. Nedavno se ovaj fokus proširio na etičku upotrebu AI tehnologija. EK je zabrinuta zbog potencijalne zloupotrebe AI u različitim sektorima, od prikupljanja podataka o potrošačima do nadzora. Čineći to, Komisija ima za cilj postaviti standard za etiku umjetne inteligencije, ne samo unutar EU, već potencijalno kao model za ostatak svijeta.

U aprilu 2021. EK je napravila značajan korak objavljivanjem skupa pravila usmjerenih na praćenje aplikacija AI. Ova pravila su osmišljena da spreče upotrebu AI za nadzor, održavanje pristrasnosti ili represivne akcije vlada ili organizacija. Konkretno, propisi zabranjuju sisteme veštačke inteligencije koji mogu da naškode pojedincima, bilo fizički ili psihički. Na primjer, AI sistemi koji manipulišu ponašanjem ljudi kroz skrivene poruke nisu dozvoljeni, kao ni sistemi koji iskorištavaju fizičku ili mentalnu ranjivost ljudi.

Pored toga, EK je razvila i rigorozniju politiku za ono što smatra „visoko rizičnim“ sistemima veštačke inteligencije. Ovo su AI aplikacije koje se koriste u sektorima koji imaju značajan utjecaj na javnu sigurnost i dobrobit, kao što su medicinski uređaji, sigurnosna oprema i alati za provođenje zakona. Politika navodi strože zahtjeve revizije, proces odobravanja i kontinuirano praćenje nakon što se ovi sistemi implementiraju. Industrije poput biometrijske identifikacije, kritične infrastrukture i obrazovanja također su pod ovim kišobranom. Kompanije koje se ne pridržavaju ovih propisa mogu se suočiti sa ogromnim kaznama, do 32 miliona dolara ili 6 posto njihovog globalnog godišnjeg prihoda.

Ometajući uticaj

Tehnološka industrija je izrazila zabrinutost zbog regulatornog okvira EK za AI, tvrdeći da bi takva pravila mogla ometati tehnološki napredak. Kritičari ističu da definicija "visokorizičnih" AI sistema u okviru nije jasna. Na primjer, velike tehnološke kompanije koje koriste umjetnu inteligenciju za algoritme društvenih medija ili ciljano oglašavanje nisu klasificirane kao "visoko rizične", uprkos činjenici da su ove aplikacije povezane s različitim društvenim problemima poput dezinformacija i polarizacije. EK se tome suprotstavlja navodeći da će nacionalne nadzorne agencije u svakoj zemlji EU imati konačnu riječ o tome šta predstavlja visoko rizičnu aplikaciju, ali ovaj pristup može dovesti do nedosljednosti među državama članicama.

Evropska unija (EU) ne djeluje izolovano; ima za cilj da sarađuje sa SAD na uspostavljanju globalnog standarda za etiku veštačke inteligencije. Zakon o strateškoj konkurenciji američkog Senata, objavljen u aprilu 2021., također poziva na međunarodnu saradnju u borbi protiv "digitalnog autoritarizma", prikrivenog pozivanja na prakse poput kineske upotrebe biometrije za masovni nadzor. Ovo transatlantsko partnerstvo moglo bi postaviti ton globalnoj etici umjetne inteligencije, ali također postavlja pitanja o tome kako će se takvi standardi provoditi širom svijeta. Da li bi se zemlje s različitim pogledima na privatnost podataka i individualna prava, poput Kine i Rusije, pridržavale ovih smjernica ili bi to stvorilo fragmentiranu etiku umjetne inteligencije?

Ako ovi propisi postanu zakon sredinom do kasnih 2020-ih, mogli bi imati talasan učinak na tehnološku industriju i radnu snagu u EU. Kompanije koje posluju u EU mogu se odlučiti za primjenu ovih regulatornih promjena globalno, usklađujući svoje cjelokupno poslovanje s novim standardima. Međutim, neke organizacije bi mogle smatrati da su propisi previše opterećujući i odlučili bi u potpunosti napustiti tržište EU. Oba scenarija bi imala implikacije na zapošljavanje u tehnološkom sektoru EU. Na primjer, masovni odlazak kompanija mogao bi dovesti do gubitka radnih mjesta, dok bi globalno usklađivanje sa standardima EU moglo učiniti tehnološke uloge bazirane u EU specijalizovanijima i potencijalno vrednijima.

Implikacije za povećanu regulaciju AI u Evropi

Šire implikacije sve veće želje EK da reguliše AI mogu uključivati:

• EU i SAD formiraju zajednički sporazum o certifikaciji kompanija sa umjetnom inteligencijom, što dovodi do usklađenog skupa etičkih standarda koje kompanije moraju slijediti, bez obzira na njihovu geografsku lokaciju.
• Rast u specijalizovanom polju revizije AI, potaknut povećanom saradnjom između privatnih firmi i javnog sektora kako bi se osigurala usklađenost sa novim propisima.
• Zemlje i kompanije iz svijeta u razvoju dobivaju pristup digitalnim uslugama koje su u skladu s etičkim standardima umjetne inteligencije koje su postavile zapadne zemlje, potencijalno podižući kvalitetu i sigurnost ovih usluga.
• Promjena u poslovnim modelima kako bi se dali prioritet etičkim praksama umjetne inteligencije, privlačeći potrošače koji su sve više zabrinuti za privatnost podataka i etičku upotrebu tehnologije.
• Vlade usvajaju AI u javnim uslugama kao što su zdravstvo i transport sa većim samopouzdanjem, znajući da ove tehnologije ispunjavaju rigorozne etičke standarde.
• Povećano ulaganje u obrazovne programe fokusirane na etičku umjetnu inteligenciju, stvarajući novu generaciju tehnologa koji su dobro upućeni u mogućnosti umjetne inteligencije i etička razmatranja.
• Manji tehnološki startupi suočavaju se s preprekama za ulazak zbog visokih troškova usklađenosti s propisima, što potencijalno guši konkurenciju i dovodi do konsolidacije tržišta.

Pitanja koja treba razmotriti

• Vjerujete li da bi vlade trebale regulirati AI tehnologije i kako se one primjenjuju?
• Kako bi inače pojačana regulativa unutar tehnološke industrije mogla uticati na način na koji kompanije u sektoru rade?