Linee guida etiche nella tecnologia: quando il commercio prende il sopravvento sulla ricerca

• Autore:
• Nome dell'autore

  Preveggenza quantistica
• 15 Febbraio 2023

Riepilogo approfondimenti

A causa dei potenziali pericoli e dei pregiudizi algoritmici che i sistemi di intelligenza artificiale (AI) possono infliggere a gruppi di minoranza selezionati, molte agenzie e aziende federali richiedono sempre più ai fornitori di tecnologia di pubblicare linee guida etiche su come stanno sviluppando e implementando l'IA. Tuttavia, l'applicazione di queste linee guida nella vita reale è molto più complessa e oscura.

Contesto di scontro etico

Nella Silicon Valley, le aziende stanno ancora esplorando il modo migliore per applicare i principi etici nella pratica, inclusa la domanda "quanto costa dare priorità all'etica?" Il 2 dicembre 2020, Timnit Gebru, co-responsabile del team AI etico di Google, ha pubblicato un tweet dicendo che era stata licenziata. Era ampiamente rispettata nella comunità dell'IA per i suoi pregiudizi e la ricerca sul riconoscimento facciale. L'incidente che ha portato al suo licenziamento riguardava un articolo di cui era coautrice e che Google ha deciso di non soddisfare i propri standard di pubblicazione. 

Tuttavia, Gebru e altri sostengono che il licenziamento sia stato motivato dalle pubbliche relazioni piuttosto che dal progresso. Il licenziamento è avvenuto dopo che Gebru ha contestato l'ordine di non pubblicare uno studio su come l'IA che imita il linguaggio umano possa danneggiare le popolazioni emarginate. Nel febbraio 2021, anche la coautrice di Gebru, Margaret Mitchell, è stata licenziata. 

Google ha dichiarato che Mitchell ha infranto il codice di condotta e le politiche di sicurezza dell'azienda spostando i file elettronici all'esterno dell'azienda. Mitchell non ha elaborato i motivi del suo licenziamento. La mossa ha suscitato una valanga di critiche, portando Google ad annunciare modifiche alle sue politiche sulla diversità e sulla ricerca entro febbraio 2021. Questo incidente è solo un esempio di come gli scontri etici dividano le grandi aziende tecnologiche e i loro dipartimenti di ricerca apparentemente obiettivi.

Impatto dirompente

Secondo l'Harvard Business Review, la più grande sfida che gli imprenditori devono affrontare è trovare un equilibrio tra le pressioni esterne per rispondere alle crisi etiche e le esigenze interne delle loro aziende e industrie. Le critiche esterne spingono le aziende a rivalutare le loro pratiche commerciali. Tuttavia, le pressioni del management, la concorrenza del settore e le aspettative generali del mercato su come dovrebbero essere gestite le imprese possono a volte creare incentivi compensativi che favoriscono lo status quo. Di conseguenza, gli scontri etici aumenteranno solo con l'evolversi delle norme culturali e poiché le aziende (in particolare le aziende tecnologiche influenti) continuano a spingere i limiti sulle nuove pratiche commerciali che possono implementare per generare nuovi ricavi.

Un altro esempio di società alle prese con questo equilibrio etico è la società Meta. Per affrontare le sue carenze etiche pubblicizzate, Facebook ha istituito un consiglio di supervisione indipendente nel 2020, con l'autorità di ribaltare le decisioni di moderazione dei contenuti, anche quelle prese dal fondatore Mark Zuckerberg. Nel gennaio 2021, il comitato ha emesso le sue prime decisioni sui contenuti contestati e ha ribaltato la maggior parte dei casi che ha visto. 

Tuttavia, con miliardi di post su Facebook ogni giorno e un numero incalcolabile di reclami sui contenuti, il consiglio di sorveglianza opera molto più lentamente dei governi tradizionali. Tuttavia, il consiglio aveva formulato alcune valide raccomandazioni. Nel 2022, il panel ha consigliato a Meta Platforms di reprimere gli incidenti di doxxing pubblicati su Facebook vietando agli utenti di condividere gli indirizzi di casa delle persone sulle piattaforme anche se sono pubblicamente disponibili. Il consiglio ha anche sostenuto che Facebook apra un canale di comunicazione per spiegare in modo trasparente perché si verificano violazioni e come vengono gestite.

Implicazioni degli scontri etici del settore privato

Le implicazioni più ampie degli scontri etici nel settore privato possono includere: 

• Più aziende creano comitati etici indipendenti per supervisionare l'implementazione delle linee guida etiche nelle rispettive pratiche commerciali.
• Crescenti critiche da parte del mondo accademico su come la commercializzazione della ricerca tecnologica abbia portato a pratiche e sistemi più discutibili.
• Più fuga di cervelli nel settore pubblico mentre le aziende tecnologiche danno la caccia a talentuosi ricercatori di intelligenza artificiale pubblici e universitari, offrendo stipendi e benefici sostanziali.
• I governi richiedono sempre più a tutte le aziende di pubblicare le loro linee guida etiche indipendentemente dal fatto che forniscano o meno servizi tecnologici.
• Ricercatori più schietti vengono licenziati da grandi aziende a causa di conflitti di interesse solo per essere rapidamente sostituiti.

Domande da considerare

• In che modo pensi che gli scontri etici influenzeranno il tipo di prodotti e servizi che i consumatori ricevono?
• Cosa possono fare le aziende per garantire la trasparenza nella loro ricerca tecnologica?