Evropská regulace AI: Pokus udržet AI humánní

• Autor:
• jméno autora

  Quantumrun Foresight
• Června 13, 2022

Shrnutí statistik

Evropská komise (EK) podniká kroky ke stanovení etických standardů pro umělou inteligenci (AI) a zaměřuje se na prevenci zneužití v oblastech, jako je sledování a spotřebitelská data. Tento krok rozpoutal debatu v technologickém průmyslu a mohl by vést ke sjednocenému přístupu s USA s cílem získat globální vliv. Regulace však mohou mít také nezamýšlené důsledky, jako je omezení hospodářské soutěže na trhu a ovlivnění pracovních příležitostí v technologickém sektoru.

Evropský kontext regulace AI

EK se aktivně zaměřuje na vytváření politik na ochranu soukromí dat a online práv. V poslední době se toto zaměření rozšířilo o etické využívání technologií AI. EK se obává možného zneužití umělé inteligence v různých odvětvích, od shromažďování údajů o spotřebitelích až po dohled. Tím chce Komise stanovit standard pro etiku umělé inteligence, a to nejen v rámci EU, ale potenciálně jako model pro zbytek světa.

V dubnu 2021 udělala EK významný krok tím, že vydala soubor pravidel zaměřených na monitorování aplikací AI. Tato pravidla jsou navržena tak, aby zabránila používání umělé inteligence ke sledování, udržování zaujatosti nebo represivním akcím vlád nebo organizací. Předpisy konkrétně zakazují systémy umělé inteligence, které by mohly jednotlivcům ublížit buď fyzicky, nebo psychicky. Nejsou například povoleny systémy umělé inteligence, které manipulují s chováním lidí prostřednictvím skrytých zpráv, ani systémy, které využívají fyzické nebo duševní zranitelnosti lidí.

Kromě toho EK také vyvinula přísnější politiku pro systémy umělé inteligence, které považuje za „vysoce rizikové“. Jedná se o aplikace umělé inteligence používané v odvětvích, která mají podstatný dopad na veřejnou bezpečnost a blahobyt, jako jsou lékařské přístroje, bezpečnostní vybavení a nástroje pro vymáhání práva. Zásady nastiňují přísnější požadavky na audit, schvalovací proces a průběžné monitorování po nasazení těchto systémů. Odvětví jako biometrická identifikace, kritická infrastruktura a vzdělávání jsou také pod touto střechou. Společnosti, které tyto předpisy nedodrží, mohou čelit vysokým pokutám až do výše 32 milionů USD nebo 6 procent jejich globálních ročních příjmů.

Rušivý dopad

Technologický průmysl vyjádřil obavy ohledně regulačního rámce ES pro AI a tvrdil, že taková pravidla by mohla bránit technologickému pokroku. Kritici poukazují na to, že definice „vysoce rizikových“ systémů umělé inteligence v rámci není jasná. Například velké technologické společnosti, které používají AI pro algoritmy sociálních médií nebo cílenou reklamu, nejsou klasifikovány jako „vysoce rizikové“, přestože tyto aplikace byly spojeny s různými společenskými problémy, jako jsou dezinformace a polarizace. EK tomu kontruje tím, že národní dozorové agentury v každé zemi EU budou mít konečné slovo o tom, co představuje vysoce rizikovou aplikaci, ale tento přístup by mohl vést k nejednotnosti mezi členskými státy.

Evropská unie (EU) nejedná izolovaně; jejím cílem je spolupracovat s USA na vytvoření globálního standardu pro etiku umělé inteligence. Zákon o strategické hospodářské soutěži amerického Senátu, vydaný v dubnu 2021, také vyzývá k mezinárodní spolupráci v boji proti „digitálnímu autoritářství“, což je zastřený odkaz na praktiky, jako je čínské používání biometrie pro hromadné sledování. Toto transatlantické partnerství by mohlo nastavit tón pro globální etiku umělé inteligence, ale také vyvolává otázky, jak by se takové standardy celosvětově prosazovaly. Dodržovaly by země s odlišnými názory na ochranu osobních údajů a individuální práva, jako je Čína a Rusko, tyto pokyny, nebo by to vytvořilo roztříštěné prostředí etiky umělé inteligence?

Pokud se tyto předpisy stanou zákonem v polovině až koncem roku 2020, mohly by mít dominový efekt na technologický průmysl a pracovní sílu v EU. Společnosti působící v EU se mohou rozhodnout uplatňovat tyto regulační změny globálně, čímž sladí celé své fungování s novými standardy. Některé organizace však mohou považovat nařízení za příliš zatěžující a rozhodnout se zcela opustit trh EU. Oba scénáře by měly dopad na zaměstnanost v technologickém sektoru EU. Například hromadný odchod společností by mohl vést ke ztrátě pracovních míst, zatímco globální sladění s normami EU by mohlo učinit technologické role v EU specializovanější a potenciálně hodnotnější.

Důsledky pro zvýšenou regulaci umělé inteligence v Evropě

Širší důsledky toho, že EK stále více chce regulovat AI, mohou zahrnovat:

• EU a USA vytvářejí dohodu o vzájemné certifikaci pro společnosti AI, což vede k harmonizovanému souboru etických norem, které musí společnosti dodržovat, bez ohledu na jejich zeměpisnou polohu.
• Růst ve specializované oblasti auditu AI, poháněný zvýšenou spoluprací mezi soukromými firmami a veřejným sektorem s cílem zajistit soulad s novými předpisy.
• Národy a podniky z rozvojového světa získávají přístup k digitálním službám, které dodržují etické standardy AI stanovené západními zeměmi, což potenciálně zvyšuje kvalitu a bezpečnost těchto služeb.
• Posun v obchodních modelech k upřednostňování etických postupů umělé inteligence, který přitahuje spotřebitele, kteří se stále více zajímají o ochranu osobních údajů a etické využívání technologií.
• Vlády přijímají AI do veřejných služeb, jako je zdravotnictví a doprava, s větší jistotou, protože vědí, že tyto technologie splňují přísné etické standardy.
• Zvýšené investice do vzdělávacích programů zaměřených na etickou umělou inteligenci a vytvoření nové generace technologů, kteří jsou dobře obeznámeni jak s možnostmi umělé inteligence, tak s etickými ohledy.
• Menší technologické startupy čelí překážkám vstupu kvůli vysokým nákladům na dodržování předpisů, což může potenciálně potlačit konkurenci a vést ke konsolidaci trhu.

Otázky k zamyšlení

• Domníváte se, že by vlády měly regulovat technologie AI a způsob jejich nasazení?
• Jak jinak by mohla zvýšená regulace v technologickém průmyslu ovlivnit způsob, jakým společnosti v tomto sektoru fungují?