Etické směrnice v technologii: Když obchod převezme výzkum

• Autor:
• jméno autora

  Quantumrun Foresight
• Února 15, 2023

Shrnutí statistik

Kvůli potenciálním nebezpečím a algoritmickému zkreslení, které mohou systémy umělé inteligence (AI) způsobit vybraným menšinovým skupinám, mnoho federálních agentur a společností stále více vyžaduje, aby poskytovatelé technologií zveřejnili etické pokyny o tom, jak vyvíjejí a zavádějí AI. Použití těchto pokynů v reálném životě je však mnohem složitější a temnější.

Kontext střetu etiky

V Silicon Valley podniky stále zkoumají, jak nejlépe uplatnit etické principy v praxi, včetně položení otázky: „Kolik stojí upřednostnění etiky?“ Dne 2. prosince 2020 zveřejnila Timnit Gebru, spoluvedoucí etického týmu Google pro umělou inteligenci, tweet, že byla vyhozena. Byla široce respektována v komunitě AI pro její zaujatost a výzkum rozpoznávání obličeje. Incident, který vedl k jejímu propuštění, se týkal dokumentu, na jehož spoluautorství se Google rozhodl, že nesplňuje jejich standardy pro zveřejnění. 

Gebru a další však tvrdí, že palba byla motivována spíše vztahy s veřejností než pokrokem. K propuštění došlo poté, co Gebru zpochybnil příkaz nezveřejňovat studii o tom, jak může umělá inteligence, která napodobuje lidský jazyk, poškodit marginalizované populace. V únoru 2021 byla vyhozena i spoluautorka Gebru Margaret Mitchell. 

Google uvedl, že Mitchell porušil kodex chování a bezpečnostní zásady společnosti tím, že přesunul elektronické soubory mimo společnost. Mitchell důvody jejího propuštění blíže neupřesnil. Tento krok vyvolal lavinu kritiky, což vedlo Google k tomu, aby do února 2021 oznámil změny ve svých zásadách diverzity a výzkumu. Tento incident je jen jedním z příkladů toho, jak etické střety rozdělují velké technologické firmy a jejich údajně objektivní výzkumná oddělení.

Rušivý dopad

Podle Harvard Business Review je největším problémem, kterému majitelé firem čelí, najít rovnováhu mezi vnějšími tlaky reagovat na etické krize a vnitřními požadavky jejich společností a odvětví. Externí kritika tlačí společnosti k přehodnocení svých obchodních praktik. Tlaky ze strany managementu, průmyslové konkurence a obecných tržních očekávání ohledně toho, jak by podniky měly být řízeny, však mohou někdy vytvářet protichůdné pobídky, které podporují status quo. V souladu s tím budou etické střety pouze narůstat s tím, jak se budou vyvíjet kulturní normy a jak společnosti (zejména vlivné technologické firmy) pokračují v posouvání hranic nových obchodních praktik, které mohou zavést, aby generovaly nové příjmy.

Dalším příkladem korporací, které se potýkají s touto etickou rovnováhou, je společnost Meta. Aby Facebook vyřešil své zveřejněné etické nedostatky, zřídil v roce 2020 nezávislou dozorčí radu, která má pravomoc zvrátit rozhodnutí o moderování obsahu, a to i ta, která učinil zakladatel Mark Zuckerberg. V lednu 2021 výbor vydal svá první rozhodnutí o sporném obsahu a zrušil většinu případů, které viděl. 

S miliardami příspěvků na Facebooku denně a nevýslovným počtem stížností na obsah však dozorčí rada funguje mnohem pomaleji než tradiční vlády. Představenstvo nicméně učinilo některá platná doporučení. V roce 2022 panel doporučil Meta Platforms, aby zasáhly proti incidentům s doxxingem zveřejněným na Facebooku tím, že uživatelům zakážou sdílet adresy domů jednotlivců na platformách, i když jsou veřejně dostupné. Představenstvo také prosazovalo, aby Facebook otevřel komunikační kanál, který by transparentně vysvětlil, proč dochází k porušování pravidel a jak se s nimi zachází.

Důsledky etických střetů soukromého sektoru

Širší důsledky etických střetů v soukromém sektoru mohou zahrnovat: 

• Více společností buduje nezávislé etické rady, aby dohlížely na implementaci etických směrnic v jejich příslušných obchodních praktikách.
• Zvýšená kritika z akademické sféry na to, jak komercializace technologického výzkumu vedla k pochybnějším praktikám a systémům.
• Více mozků z veřejného sektoru, protože technologické firmy vyhledávají talentované veřejné a univerzitní výzkumníky umělé inteligence, které nabízejí značné platy a výhody.
• Vlády stále více vyžadují, aby všechny firmy zveřejňovaly své etické směrnice bez ohledu na to, zda poskytují technologické služby či nikoli.
• Otevřenější výzkumníci byli propouštěni z velkých společností kvůli střetu zájmů, aby byli rychle nahrazeni.

Otázky k zamyšlení

• Jak si myslíte, že etické střety ovlivní druh produktů a služeb, které spotřebitelé dostávají?
• Co mohou firmy udělat, aby zajistily transparentnost ve svém technologickém výzkumu?