Europska regulacija umjetne inteligencije: pokušaj da umjetna inteligencija ostane humana

• Autor:
• ime autora

  Quantumrun Foresight
• Lipnja 13, 2022

Sažetak uvida

Europska komisija (EK) poduzima korake kako bi postavila etičke standarde za umjetnu inteligenciju (AI), usredotočujući se na sprječavanje zlouporabe u područjima kao što su nadzor i podaci o potrošačima. Ovaj je potez izazvao raspravu u tehnološkoj industriji i mogao bi dovesti do jedinstvenog pristupa sa SAD-om, s ciljem globalnog utjecaja. Međutim, propisi mogu imati i neželjene posljedice, poput ograničavanja tržišnog natjecanja i utjecaja na mogućnosti zapošljavanja u tehnološkom sektoru.

Kontekst europske regulacije umjetne inteligencije

EK se aktivno usredotočuje na stvaranje politika za zaštitu privatnosti podataka i prava na internetu. Nedavno se ovaj fokus proširio na etičku upotrebu AI tehnologija. EK je zabrinuta zbog moguće zlouporabe umjetne inteligencije u raznim sektorima, od prikupljanja podataka o potrošačima do nadzora. Čineći to, Komisija ima za cilj postaviti standard za etiku umjetne inteligencije, ne samo unutar EU-a, već potencijalno kao model za ostatak svijeta.

U travnju 2021. Europska komisija poduzela je značajan korak objavljivanjem skupa pravila usmjerenih na praćenje aplikacija umjetne inteligencije. Ova su pravila osmišljena kako bi se spriječila upotreba umjetne inteligencije za nadzor, održavanje pristranosti ili represivne radnje od strane vlada ili organizacija. Točnije, propisi zabranjuju AI sustave koji bi mogli fizički ili psihički naštetiti pojedincima. Na primjer, sustavi umjetne inteligencije koji manipuliraju ponašanjem ljudi putem skrivenih poruka nisu dopušteni, kao ni sustavi koji iskorištavaju fizičku ili mentalnu ranjivost ljudi.

Uz to, EK je također razvila strožu politiku za ono što smatra "visokorizičnim" AI sustavima. To su AI aplikacije koje se koriste u sektorima koji imaju značajan utjecaj na javnu sigurnost i dobrobit, kao što su medicinski uređaji, sigurnosna oprema i alati za provođenje zakona. Politika ocrtava strože zahtjeve za reviziju, postupak odobravanja i stalni nadzor nakon što se ti sustavi implementiraju. Industrije poput biometrijske identifikacije, kritične infrastrukture i obrazovanja također su pod ovim kišobranom. Tvrtke koje se ne pridržavaju ovih propisa mogu se suočiti s velikim kaznama, do 32 milijuna USD ili 6 posto njihovog globalnog godišnjeg prihoda.

Razarajući učinak

Tehnološka industrija izrazila je zabrinutost zbog regulatornog okvira EK-a za AI, tvrdeći da bi takva pravila mogla spriječiti tehnološki napredak. Kritičari ističu da definicija "visokorizičnih" AI sustava u okviru nije jasna. Na primjer, velike tehnološke tvrtke koje koriste AI za algoritme društvenih medija ili ciljano oglašavanje nisu klasificirane kao "visokorizične", unatoč činjenici da su te aplikacije povezane s raznim društvenim problemima poput dezinformacija i polarizacije. EK se tome suprotstavlja navodeći da će nacionalne nadzorne agencije unutar svake zemlje EU imati konačnu riječ o tome što se smatra visokorizičnom aplikacijom, ali bi ovaj pristup mogao dovesti do nedosljednosti u državama članicama.

Europska unija (EU) ne djeluje izolirano; ima za cilj suradnju sa SAD-om na uspostavi globalnog standarda za etiku umjetne inteligencije. Zakon o strateškom natjecanju američkog Senata, objavljen u travnju 2021., također poziva na međunarodnu suradnju u borbi protiv "digitalnog autoritarizma", prikrivenog upućivanja na prakse poput kineske upotrebe biometrije za masovni nadzor. Ovo transatlantsko partnerstvo moglo bi postaviti ton globalnoj etici umjetne inteligencije, ali također postavlja pitanja o tome kako bi se takvi standardi provodili u cijelom svijetu. Bi li se zemlje s različitim pogledima na privatnost podataka i prava pojedinca, poput Kine i Rusije, pridržavale ovih smjernica ili bi to stvorilo fragmentirani krajolik etike umjetne inteligencije?

Ako ti propisi postanu zakon sredinom do kraja 2020-ih, mogli bi imati snažan učinak na tehnološku industriju i radnu snagu u EU-u. Tvrtke koje posluju u EU mogu odlučiti primijeniti ove regulatorne promjene globalno, usklađujući svoje cjelokupno poslovanje s novim standardima. Međutim, neke bi organizacije mogle smatrati propise preopterećujućima i odlučiti u potpunosti napustiti tržište EU-a. Oba bi scenarija imala implikacije na zapošljavanje u tehnološkom sektoru EU-a. Na primjer, masovni izlazak tvrtki mogao bi dovesti do gubitka radnih mjesta, dok bi globalno usklađivanje sa standardima EU-a tehnološke uloge u EU-u moglo učiniti specijaliziranijim i potencijalno vrednijim.

Implikacije za povećanu regulaciju umjetne inteligencije u Europi

Šire implikacije sve veće želje EK regulirati AI mogu uključivati:

• EU i SAD sklapaju sporazum o međusobnom certificiranju tvrtki s umjetnom inteligencijom, što dovodi do usklađenog skupa etičkih standarda koje tvrtke moraju slijediti, bez obzira na njihov zemljopisni položaj.
• Rast u specijaliziranom području revizije umjetne inteligencije, potaknut pojačanom suradnjom između privatnih tvrtki i javnog sektora kako bi se osigurala usklađenost s novim propisima.
• Države i tvrtke iz zemalja u razvoju dobivaju pristup digitalnim uslugama koje se pridržavaju etičkih standarda umjetne inteligencije koje su postavile zapadne zemlje, što potencijalno podiže kvalitetu i sigurnost tih usluga.
• Promjena u poslovnim modelima u cilju davanja prioriteta etičkim praksama umjetne inteligencije, privlačeći potrošače koji su sve više zabrinuti za privatnost podataka i etičku upotrebu tehnologije.
• Vlade s većim povjerenjem usvajaju umjetnu inteligenciju u javnim uslugama poput zdravstva i prijevoza, znajući da te tehnologije ispunjavaju stroge etičke standarde.
• Povećana ulaganja u obrazovne programe usmjerene na etičku umjetnu inteligenciju, stvarajući novu generaciju tehnologa koji su dobro upućeni u sposobnosti umjetne inteligencije i etička razmatranja.
• Manji tehnološki startupi suočavaju se s preprekama ulasku zbog visokih troškova usklađivanja s propisima, što potencijalno guši konkurenciju i dovodi do konsolidacije tržišta.

Pitanja za razmatranje

• Vjerujete li da bi vlade trebale regulirati tehnologije umjetne inteligencije i način njihove primjene?
• Kako bi inače pojačana regulacija unutar tehnološke industrije mogla utjecati na način na koji tvrtke u tom sektoru posluju?