Reglugerð um gervigreind í Evrópu: tilraun til að halda gervigreindum mannúðlegri

• Höfundur:
• Höfundur nafn

  Quantumrun Foresight
• Júní 13, 2022

Innsýn samantekt

Framkvæmdastjórn Evrópusambandsins (EB) tekur skref til að setja siðferðilega staðla fyrir gervigreind (AI), með áherslu á að koma í veg fyrir misnotkun á sviðum eins og eftirliti og neytendagögnum. Þessi ráðstöfun hefur vakið umræðu í tækniiðnaðinum og gæti leitt til sameinaðrar nálgunar við Bandaríkin, sem miðar að alþjóðlegum áhrifum. Hins vegar geta reglugerðirnar einnig haft ófyrirséðar afleiðingar, svo sem að takmarka samkeppni á markaði og hafa áhrif á atvinnutækifæri í tæknigeiranum.

Evrópsk gervigreind reglugerðarsamhengi

EB hefur lagt virkan áherslu á að búa til stefnu til að vernda persónuvernd gagna og réttindi á netinu. Nýlega hefur þessi áhersla aukist til að fela í sér siðferðilega notkun gervigreindartækni. EB hefur áhyggjur af hugsanlegri misnotkun gervigreindar í ýmsum geirum, allt frá gagnasöfnun neytenda til eftirlits. Með því stefnir framkvæmdastjórnin að því að setja staðal fyrir siðfræði gervigreindar, ekki bara innan ESB heldur hugsanlega sem fyrirmynd fyrir umheiminn.

Í apríl 2021 tók EB mikilvægt skref með því að gefa út sett af reglum sem miða að því að fylgjast með gervigreindarforritum. Þessar reglur eru hannaðar til að koma í veg fyrir notkun gervigreindar við eftirlit, viðhalda hlutdrægni eða kúgunaraðgerðum ríkisstjórna eða stofnana. Sérstaklega banna reglugerðirnar gervigreindarkerfi sem gætu skaðað einstaklinga annaðhvort líkamlega eða andlega. Til dæmis eru gervigreind kerfi sem stjórna hegðun fólks með földum skilaboðum ekki leyfð, né kerfi sem nýta líkamlega eða andlega veikleika fólks.

Samhliða þessu hefur EB einnig þróað strangari stefnu fyrir það sem það telur „hááhættu“ gervigreindarkerfi. Þetta eru gervigreind forrit sem notuð eru í geirum sem hafa veruleg áhrif á almannaöryggi og vellíðan, svo sem lækningatæki, öryggisbúnað og löggæsluverkfæri. Stefnan lýsir strangari endurskoðunarkröfum, samþykkisferli og áframhaldandi eftirliti eftir að þessi kerfi eru tekin í notkun. Atvinnugreinar eins og líffræðileg tölfræði auðkenning, mikilvægar innviðir og menntun eru einnig undir þessari regnhlíf. Fyrirtæki sem ekki fara að þessum reglum gætu átt yfir höfði sér háar sektir, allt að 32 milljónir Bandaríkjadala eða 6 prósent af alþjóðlegum árstekjum þeirra.

Truflandi áhrif

Tækniiðnaðurinn hefur lýst yfir áhyggjum af regluverki EB fyrir gervigreind, með þeim rökum að slíkar reglur gætu hindrað tækniframfarir. Gagnrýnendur benda á að skilgreiningin á „hááhættu“ gervigreindarkerfum í rammanum sé ekki skýr. Til dæmis eru stór tæknifyrirtæki sem nota gervigreind fyrir reiknirit á samfélagsmiðlum eða markvissar auglýsingar ekki flokkuð sem „áhætta“, þrátt fyrir að þessi forrit hafi verið tengd ýmsum samfélagslegum vandamálum eins og rangar upplýsingar og skautun. EB vinnur gegn þessu með því að fullyrða að innlendar eftirlitsstofnanir innan hvers ESB-lands muni hafa lokaorðið um hvað teljist áhættusama umsókn, en þessi nálgun gæti leitt til ósamræmis milli aðildarríkjanna.

Evrópusambandið (ESB) starfar ekki í einangrun; það miðar að því að vinna með Bandaríkjunum til að koma á alþjóðlegum staðli fyrir siðfræði gervigreindar. Lög öldungadeildar Bandaríkjaþings um stefnumótandi samkeppni, sem gefin voru út í apríl 2021, kallar einnig á alþjóðlegt samstarf til að vinna gegn „stafrænu forræðishyggju,“ dulbúin tilvísun í venjur eins og notkun Kína á líffræðilegum tölfræði til fjöldaeftirlits. Þetta samstarf yfir Atlantshafið gæti gefið tóninn fyrir siðfræði gervigreindar á heimsvísu, en það vekur líka spurningar um hvernig slíkum stöðlum yrði framfylgt um allan heim. Myndu lönd með mismunandi skoðanir á persónuvernd og einstaklingsréttindum, eins og Kína og Rússland, fylgja þessum viðmiðunarreglum, eða myndi þetta skapa sundurleitt landslag gervigreindarsiðfræði?

Ef þessar reglugerðir verða að lögum um miðjan til seint 2020, gætu þær haft keðjuverkandi áhrif á tækniiðnaðinn og vinnuaflið í ESB. Fyrirtæki sem starfa í ESB geta valið að beita þessum reglugerðarbreytingum á heimsvísu og samræma alla starfsemi sína við nýju staðlana. Hins vegar gæti sumum stofnunum fundist reglurnar of íþyngjandi og velja að fara alfarið af ESB-markaði. Báðar aðstæður myndu hafa áhrif á atvinnu í tæknigeira ESB. Til dæmis gæti fjöldi brotthvarfs fyrirtækja leitt til atvinnumissis, á meðan alþjóðleg samræming við ESB staðla gæti gert tæknihlutverk í ESB sérhæfðari og hugsanlega verðmætari.

Afleiðingar fyrir aukna gervigreindarreglur í Evrópu

Víðtækari afleiðingar þess að EB vill í auknum mæli stjórna gervigreind geta verið:

• ESB og Bandaríkin mynda gagnkvæman vottunarsamning fyrir gervigreind fyrirtæki, sem leiðir til samræmdra siðferðisstaðla sem fyrirtæki verða að fylgja, óháð landfræðilegri staðsetningu þeirra.
• Vöxtur á sérhæfðu sviði gervigreindarendurskoðunar, knúinn áfram af auknu samstarfi einkafyrirtækja og opinberra geira til að tryggja að farið sé að nýjum reglum.
• Þjóðir og fyrirtæki frá þróunarlöndunum fá aðgang að stafrænni þjónustu sem fylgir siðferðilegum gervigreindarstöðlum sem vestrænar þjóðir setja, sem gæti aukið gæði og öryggi þessarar þjónustu.
• Breyting á viðskiptamódelum til að forgangsraða siðferðilegum gervigreindarháttum og laða að neytendur sem hafa sífellt meiri áhyggjur af persónuvernd gagna og siðferðilegri tækninotkun.
• Ríkisstjórnir sem taka upp gervigreind í opinberri þjónustu eins og heilsugæslu og samgöngum með meira sjálfstrausti, vitandi að þessi tækni uppfyllir ströng siðferðileg viðmið.
• Aukin fjárfesting í fræðsluáætlunum sem beinast að siðferðilegri gervigreind, sem skapar nýja kynslóð tæknifræðinga sem eru vel að sér í bæði gervigreindargetu og siðferðilegum sjónarmiðum.
• Smærri tæknifyrirtæki sem standa frammi fyrir aðgangshindrunum vegna mikils kostnaðar við að fylgja reglum, sem hugsanlega heftir samkeppni og leiðir til samþjöppunar á markaði.

Spurningar sem þarf að íhuga

• Telur þú að stjórnvöld ættu að setja reglur um gervigreindartækni og hvernig henni er beitt?
• Hvernig gæti aukið regluverk innan tækniiðnaðarins haft áhrif á starfsemi fyrirtækja í greininni?