Etické smernice v technológii: Keď obchod prevezme výskum

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Februára 15, 2023

Súhrn prehľadu

Kvôli potenciálnym nebezpečenstvám a algoritmickej zaujatosti, ktoré môžu systémy umelej inteligencie (AI) spôsobiť vybraným menšinovým skupinám, mnohé federálne agentúry a spoločnosti čoraz viac vyžadujú, aby poskytovatelia technológií zverejnili etické usmernenia o tom, ako vyvíjajú a nasadzujú AI. Uplatňovanie týchto pokynov v reálnom živote je však oveľa zložitejšie a nejasnejšie.

Kontext konfliktu etiky

V Silicon Valley podniky stále skúmajú, ako čo najlepšie uplatniť etické princípy v praxi, vrátane kladenia si otázky: „Koľko stojí uprednostňovanie etiky? Dňa 2. decembra 2020 Timnit Gebru, spoluvedúca etického tímu Google pre umelú inteligenciu, zverejnila tweet, v ktorom uviedla, že bola vyhodená. V komunite AI bola široko rešpektovaná pre jej zaujatosť a výskum rozpoznávania tváre. Incident, ktorý viedol k jej prepusteniu, sa týkal dokumentu, ktorého bola spoluautorkou a o ktorom sa Google rozhodol, že nespĺňa ich štandardy na publikovanie. 

Gebru a iní však tvrdia, že motivácia prepustenia bola skôr vzťahom s verejnosťou než pokrokom. K prepusteniu došlo po tom, čo Gebru spochybnil príkaz nezverejniť štúdiu o tom, ako môže AI, ktorá napodobňuje ľudský jazyk, poškodiť marginalizované populácie. Vo februári 2021 bola prepustená aj spoluautorka Gebru Margaret Mitchell. 

Google uviedol, že Mitchell porušil kódex správania a bezpečnostné zásady spoločnosti tým, že presunul elektronické súbory mimo spoločnosti. Mitchell dôvody jej odvolania bližšie nekonkretizoval. Tento krok vyvolal lavínu kritiky, čo viedlo Google k tomu, že do februára 2021 oznámil zmeny v politike diverzity a výskumu. Tento incident je len jedným z príkladov toho, ako etické konflikty rozdeľujú veľké technologické firmy a ich údajne objektívne výskumné oddelenia.

Rušivý vplyv

Podľa Harvard Business Review je najväčšou výzvou, ktorej majitelia firiem čelia, nájsť rovnováhu medzi vonkajšími tlakmi na reakciu na etické krízy a vnútornými požiadavkami ich spoločností a odvetví. Externá kritika núti spoločnosti prehodnotiť svoje obchodné praktiky. Tlaky zo strany manažmentu, priemyselnej konkurencie a všeobecných trhových očakávaní o tom, ako by mali byť podniky riadené, však môžu niekedy vytvárať protichodné stimuly, ktoré uprednostňujú status quo. V súlade s tým sa etické konflikty budú len zväčšovať, keď sa budú kultúrne normy vyvíjať a ako spoločnosti (najmä vplyvné technologické firmy) pokračujú v posúvaní hraníc nových obchodných praktík, ktoré môžu implementovať na generovanie nových príjmov.

Ďalším príkladom korporácií, ktoré zápasia s touto etickou rovnováhou, je spoločnosť Meta. Aby Facebook vyriešil svoje zverejnené etické nedostatky, v roku 2020 zriadil nezávislú dozornú radu s právomocou zrušiť rozhodnutia o moderovaní obsahu, dokonca aj tie, ktoré urobil zakladateľ Mark Zuckerberg. V januári 2021 výbor prijal prvé rozhodnutia o spornom obsahu a zrušil väčšinu prípadov, ktoré videl. 

S miliardami príspevkov na Facebooku denne a nevýslovným počtom sťažností na obsah však dozorná rada funguje oveľa pomalšie ako tradičné vlády. Napriek tomu rada vydala niekoľko platných odporúčaní. V roku 2022 porota odporučila spoločnosti Meta Platforms, aby zakročila proti incidentom s doxxingom zverejneným na Facebooku tým, že používateľom zakáže zdieľať domáce adresy jednotlivcov na platformách, aj keď sú verejne dostupné. Predstavenstvo tiež presadzovalo, aby Facebook otvoril komunikačný kanál, ktorý by transparentne vysvetlil, prečo dochádza k porušeniam a ako sa s nimi zaobchádza.

Dôsledky etických konfliktov v súkromnom sektore

Širšie dôsledky etických konfliktov v súkromnom sektore môžu zahŕňať: 

• Viac spoločností buduje nezávislé etické rady, aby dohliadali na implementáciu etických smerníc v ich príslušných obchodných praktikách.
• Zvýšená kritika z akademickej obce o tom, ako komercializácia technologického výskumu viedla k pochybnejším praktikám a systémom.
• Väčší únik mozgov z verejného sektora, keďže technologické firmy vyhľadávajú talentovaných verejných a univerzitných výskumníkov AI, ktorí ponúkajú značné platy a výhody.
• Vlády čoraz viac vyžadujú, aby všetky firmy zverejňovali svoje etické smernice bez ohľadu na to, či poskytujú technologické služby alebo nie.
• Otvorenejší výskumníci boli prepúšťaní z veľkých spoločností kvôli konfliktu záujmov, aby ich rýchlo nahradili.

Otázky na zváženie

• Ako si myslíte, že etické konflikty ovplyvnia druh produktov a služieb, ktoré spotrebitelia dostávajú?
• Čo môžu firmy urobiť, aby zabezpečili transparentnosť svojho technologického výskumu?