Európska regulácia AI: Pokus udržať AI humánnu

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Júna 13, 2022

Súhrn prehľadu

Európska komisia (EK) podniká kroky na stanovenie etických noriem pre umelú inteligenciu (AI) so zameraním na predchádzanie zneužitiu v oblastiach, ako je dohľad a údaje o spotrebiteľoch. Tento krok vyvolal diskusiu v technologickom priemysle a mohol by viesť k jednotnému prístupu s USA s cieľom dosiahnuť globálny vplyv. Nariadenia však môžu mať aj neúmyselné dôsledky, ako je obmedzenie hospodárskej súťaže na trhu a ovplyvnenie pracovných príležitostí v technologickom sektore.

Európsky kontext regulácie AI

EK sa aktívne zameriava na vytváranie politík na ochranu súkromia údajov a online práv. Nedávno sa toto zameranie rozšírilo aj o etické využitie technológií AI. EK je znepokojená možným zneužívaním AI v rôznych sektoroch, od zberu údajov o spotrebiteľoch až po dohľad. Komisia sa tak snaží stanoviť štandard pre etiku umelej inteligencie nielen v rámci EÚ, ale potenciálne aj ako model pre zvyšok sveta.

V apríli 2021 urobila EK významný krok tým, že vydala súbor pravidiel zameraných na monitorovanie aplikácií AI. Tieto pravidlá sú navrhnuté tak, aby zabránili používaniu AI na dohľad, udržiavanie zaujatosti alebo represívne akcie zo strany vlád alebo organizácií. Predpisy konkrétne zakazujú systémy AI, ktoré by mohli jednotlivcom fyzicky alebo psychicky ublížiť. Napríklad nie sú povolené systémy umelej inteligencie, ktoré manipulujú správanie ľudí prostredníctvom skrytých správ, ani systémy, ktoré využívajú fyzickú alebo duševnú zraniteľnosť ľudí.

Okrem toho EK vypracovala aj prísnejšiu politiku pre systémy AI, ktoré považuje za „vysokorizikové“. Ide o aplikácie umelej inteligencie používané v sektoroch, ktoré majú podstatný vplyv na verejnú bezpečnosť a blahobyt, ako sú napríklad lekárske prístroje, bezpečnostné vybavenie a nástroje presadzovania práva. Politika načrtáva prísnejšie požiadavky na audit, schvaľovací proces a priebežné monitorovanie po nasadení týchto systémov. Pod túto záštitu patria aj odvetvia ako biometrická identifikácia, kritická infraštruktúra a vzdelávanie. Spoločnosti, ktoré tieto nariadenia nedodržia, môžu čeliť vysokým pokutám až do výšky 32 miliónov USD alebo 6 percent ich celosvetového ročného príjmu.

Rušivý vplyv

Technologický priemysel vyjadril obavy v súvislosti s regulačným rámcom ES pre AI a tvrdil, že takéto pravidlá by mohli brániť technologickému pokroku. Kritici poukazujú na to, že definícia „vysokorizikových“ systémov AI v rámci nie je jasná. Napríklad veľké technologické spoločnosti, ktoré používajú AI pre algoritmy sociálnych médií alebo cielenú reklamu, nie sú klasifikované ako „vysoko rizikové“ napriek skutočnosti, že tieto aplikácie sú spojené s rôznymi spoločenskými problémami, ako sú dezinformácie a polarizácia. EK tomu bráni konštatovaním, že národné dozorné agentúry v rámci každej krajiny EÚ budú mať posledné slovo o tom, čo predstavuje vysokorizikovú aplikáciu, ale tento prístup by mohol viesť k nezrovnalostiam medzi členskými štátmi.

Európska únia (EÚ) nekoná izolovane; jej cieľom je spolupracovať s USA na vytvorení globálneho štandardu pre etiku AI. Zákon o strategickej hospodárskej súťaži amerického Senátu, ktorý bol vydaný v apríli 2021, tiež vyzýva na medzinárodnú spoluprácu v boji proti „digitálnemu autoritárstvu“, čo je zastretý odkaz na praktiky, ako je čínske používanie biometrie na hromadné sledovanie. Toto transatlantické partnerstvo by mohlo udávať tón globálnej etike AI, no zároveň vyvoláva otázky o tom, ako by sa takéto štandardy presadzovali na celom svete. Dodržiavali by krajiny s rôznymi názormi na súkromie údajov a individuálne práva, ako napríklad Čína a Rusko, tieto usmernenia, alebo by to vytvorilo roztrieštené prostredie etiky AI?

Ak sa tieto nariadenia stanú zákonom v polovici až koncom roka 2020, mohli by mať dominový efekt na technologický priemysel a pracovnú silu v EÚ. Spoločnosti pôsobiace v EÚ sa môžu rozhodnúť uplatňovať tieto regulačné zmeny globálne, čím zosúladia celú svoju činnosť s novými normami. Niektoré organizácie však môžu považovať nariadenia za príliš zaťažujúce a rozhodnúť sa úplne opustiť trh EÚ. Oba scenáre by mali vplyv na zamestnanosť v technologickom sektore EÚ. Napríklad hromadný odchod spoločností by mohol viesť k strate pracovných miest, zatiaľ čo celosvetové zosúladenie s normami EÚ by mohlo zvýšiť špecializáciu a potenciálne hodnotnejšie úlohy v oblasti technológií v EÚ.

Dôsledky pre zvýšenú reguláciu AI v Európe

Širšie dôsledky toho, že ES stále viac chce regulovať AI, môžu zahŕňať:

• EÚ a USA vytvárajú dohodu o vzájomnej certifikácii pre spoločnosti AI, čo vedie k harmonizovanému súboru etických noriem, ktoré musia spoločnosti dodržiavať bez ohľadu na ich geografickú polohu.
• Rast v špecializovanej oblasti auditu AI, podporovaný zvýšenou spoluprácou medzi súkromnými firmami a verejným sektorom s cieľom zabezpečiť súlad s novými nariadeniami.
• Národy a podniky z rozvojového sveta získavajú prístup k digitálnym službám, ktoré dodržiavajú etické štandardy AI stanovené západnými krajinami, čo potenciálne zvyšuje kvalitu a bezpečnosť týchto služieb.
• Posun v obchodných modeloch na uprednostňovanie etických praktík umelej inteligencie priťahuje spotrebiteľov, ktorí sa čoraz viac zaujímajú o ochranu osobných údajov a etické používanie technológií.
• Vlády prijímajúce AI do verejných služieb, ako je zdravotná starostlivosť a doprava, s väčšou dôverou, vediac, že ​​tieto technológie spĺňajú prísne etické normy.
• Zvýšené investície do vzdelávacích programov zameraných na etickú AI, čím sa vytvorila nová generácia technológov, ktorí sú dobre oboznámení s možnosťami AI aj s etickými úvahami.
• Menšie technologické startupy čelia prekážkam vstupu kvôli vysokým nákladom na dodržiavanie predpisov, čo môže potláčať hospodársku súťaž a viesť ku konsolidácii trhu.

Otázky na zváženie

• Myslíte si, že vlády by mali regulovať technológie AI a spôsob ich nasadenia?
• Ako inak môže zvýšená regulácia v rámci technologického priemyslu ovplyvniť spôsob, akým spoločnosti v tomto sektore fungujú?