Europeisk AI-reglering: Ett försök att hålla AI human

• Författare:
• författarnamn

  Quantumrun Framsyn
• Juni 13, 2022

Insiktssammanfattning

Europeiska kommissionen (EC) tar steg för att fastställa etiska standarder för artificiell intelligens (AI), med fokus på att förhindra missbruk inom områden som övervakning och konsumentdata. Detta drag har väckt debatt i teknikindustrin och kan leda till ett enhetligt tillvägagångssätt med USA, som syftar till globalt inflytande. Regleringen kan dock också få oavsiktliga konsekvenser, som att begränsa konkurrensen på marknaden och påverka jobbmöjligheterna inom tekniksektorn.

Europeisk AI-reglering

EG har aktivt fokuserat på att skapa policyer för att skydda datasekretess och rättigheter online. Nyligen har detta fokus utökats till att omfatta den etiska användningen av AI-teknik. EG är oroad över det potentiella missbruket av AI inom olika sektorer, från insamling av konsumentdata till övervakning. Genom att göra det strävar kommissionen efter att sätta en standard för AI-etik, inte bara inom EU utan potentiellt som en modell för resten av världen.

I april 2021 tog EG ett betydande steg genom att släppa en uppsättning regler som syftar till att övervaka AI-tillämpningar. Dessa regler är utformade för att förhindra användning av AI för övervakning, bevarande av partiskhet eller repressiva handlingar från regeringar eller organisationer. Specifikt förbjuder reglerna AI-system som kan skada individer antingen fysiskt eller psykiskt. Till exempel är AI-system som manipulerar människors beteende genom dolda meddelanden inte tillåtna och inte heller system som utnyttjar människors fysiska eller psykiska sårbarheter.

Vid sidan av detta har EC också utvecklat en mer rigorös policy för vad den anser vara "högrisk" AI-system. Dessa är AI-tillämpningar som används i sektorer som har en betydande inverkan på allmän säkerhet och välbefinnande, såsom medicinsk utrustning, säkerhetsutrustning och brottsbekämpande verktyg. Policyn beskriver strängare revisionskrav, en godkännandeprocess och löpande övervakning efter att dessa system har implementerats. Branscher som biometrisk identifiering, kritisk infrastruktur och utbildning är också under detta paraply. Företag som inte följer dessa regler kan få rejäla böter, upp till 32 miljoner USD eller 6 procent av sina globala årliga intäkter.

Störande inverkan

Teknikindustrin har uttryckt oro över EG:s regelverk för AI och hävdat att sådana regler kan hindra tekniska framsteg. Kritiker påpekar att definitionen av "högrisk" AI-system i ramverket inte är entydig. Till exempel klassificeras inte stora teknikföretag som använder AI för sociala mediealgoritmer eller riktad reklam som "högrisk", trots att dessa applikationer har kopplats till olika samhällsfrågor som desinformation och polarisering. EG motarbetar detta genom att konstatera att nationella tillsynsmyndigheter inom varje EU-land kommer att ha sista ordet om vad som utgör en högriskapplikation, men detta tillvägagångssätt kan leda till inkonsekvenser mellan medlemsländerna.

Europeiska unionen (EU) agerar inte isolerat; det syftar till att samarbeta med USA för att etablera en global standard för AI-etik. Den amerikanska senatens strategiska konkurrenslag, som släpptes i april 2021, kräver också internationellt samarbete för att motverka "digital auktoritarism", en beslöjad hänvisning till praxis som Kinas användning av biometri för massövervakning. Detta transatlantiska partnerskap skulle kunna sätta tonen för global AI-etik, men det väcker också frågor om hur sådana standarder skulle upprätthållas över hela världen. Skulle länder med olika åsikter om datasekretess och individuella rättigheter, som Kina och Ryssland, följa dessa riktlinjer, eller skulle detta skapa ett fragmenterat landskap av AI-etik?

Om dessa regleringar blir lagar i mitten till slutet av 2020-talet kan de få en ringeffekt på teknikindustrin och arbetskraften i EU. Företag som är verksamma i EU kan välja att tillämpa dessa regeländringar globalt och anpassa hela sin verksamhet till de nya standarderna. Vissa organisationer kan dock tycka att reglerna är för betungande och väljer att helt lämna EU-marknaden. Båda scenarierna skulle få konsekvenser för sysselsättningen inom EU:s tekniska sektor. Till exempel kan ett massutträde av företag leda till förluster av arbetstillfällen, medan global anpassning till EU:s standarder skulle kunna göra EU-baserade tekniska roller mer specialiserade och potentiellt mer värdefulla.

Konsekvenser för ökad AI-reglering i Europa

Vidare konsekvenser av att EG i allt större utsträckning vill reglera AI kan inkludera:

• EU och USA bildar ett ömsesidigt certifieringsavtal för AI-företag, vilket leder till en harmoniserad uppsättning etiska standarder som företag måste följa, oavsett geografiskt läge.
• Tillväxt inom det specialiserade området AI-revision, som drivs av ökat samarbete mellan privata företag och offentliga sektorer för att säkerställa efterlevnad av nya regler.
• Nationer och företag från utvecklingsvärlden får tillgång till digitala tjänster som följer de etiska AI-standarder som fastställts av västerländska nationer, vilket potentiellt höjer kvaliteten och säkerheten för dessa tjänster.
• En förändring av affärsmodeller för att prioritera etisk AI-praxis, vilket lockar konsumenter som är allt mer oroade över datasekretess och etisk teknikanvändning.
• Regeringar som använder AI i offentliga tjänster som sjukvård och transporter med större självförtroende, med vetskapen om att dessa teknologier uppfyller rigorösa etiska standarder.
• Ökade investeringar i utbildningsprogram fokuserade på etisk AI, vilket skapar en ny generation av teknologer som är väl insatta i både AI-kapacitet och etiska överväganden.
• Mindre tekniska startups möter inträdeshinder på grund av de höga kostnaderna för regelefterlevnad, vilket potentiellt kväver konkurrensen och leder till marknadskonsolidering.

Frågor att överväga

• Anser du att regeringar bör reglera AI-teknik och hur de används?
• Hur kan annars ökad reglering inom teknikindustrin påverka hur företagen i branschen fungerar?