Els mitjans sintètics i la llei: la lluita contra els continguts enganyosos

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Febrer 17, 2023

La proliferació de tecnologies sintètiques o falsificades accessibles ha fet que els consumidors siguin més vulnerables a la desinformació i a les formes manipulades de mitjans, i sense els recursos necessaris per protegir-se. Per abordar els efectes nocius de la manipulació de continguts, organitzacions clau, com ara agències governamentals, mitjans de comunicació i empreses tecnològiques, estan treballant junts per fer que els mitjans sintètics siguin més transparents.

Els mitjans sintètics i el context jurídic

A part de la propaganda i la desinformació, el contingut sintètic o alterat digitalment ha provocat l'augment de la dismorfia corporal i la baixa autoestima entre els joves. La dismorfia corporal és una condició de salut mental que fa que la gent s'obsessioni amb els seus defectes d'aparença percebuts. Els adolescents són especialment susceptibles a aquesta condició, ja que són bombardejats contínuament pels estàndards de bellesa i acceptabilitat dictats per la societat.

Alguns governs s'estan col·laborant amb organitzacions per fer que les entitats que utilitzen vídeos i fotos manipulats digitalment siguin responsables de les persones. Per exemple, el Congrés dels EUA va aprovar la Llei del grup de treball Deepfake el 2021. Aquest projecte de llei va establir un grup de treball nacional de Deepfake i Procedència digital que inclou el sector privat, les agències federals i el món acadèmic. La Llei també està desenvolupant un estàndard de procedència digital que identificaria d'on prové un contingut en línia i les modificacions que s'hi van fer.

Aquest projecte de llei complementa la Iniciativa d'autenticitat de contingut (CAI) liderada per l'empresa tecnològica Adobe. El protocol CAI permet als professionals creatius obtenir crèdit pel seu treball adjuntant dades d'atribució evidents, com ara el nom, la ubicació i l'historial d'edició a un mitjà. Aquest estàndard també ofereix als consumidors un nou nivell de transparència sobre el que veuen en línia.

Segons Adobe, les tecnologies de procedència permeten als clients dur a terme una diligència deguda sense esperar etiquetes intermediaris. La propagació de notícies falses i propaganda es pot frenar facilitant als usuaris en línia comprovar els orígens d'un contingut i identificar fonts legítimes.

Impacte disruptiu

Les publicacions a les xarxes socials són un àmbit on les regulacions de mitjans sintètics són més necessàries que mai. El 2021, Noruega va aprovar una llei que impedia que els anunciants i els influencers de les xarxes socials comparteixin imatges retocades sense revelar que la foto estava editada. La nova llei afecta les marques, les empreses i els influencers que publiquen contingut patrocinat a tots els llocs de xarxes socials. Les publicacions patrocinades fan referència al contingut pagat per un anunciant, inclòs el regal de mercaderies. 

L'esmena requereix revelacions per a qualsevol edició feta a la imatge, encara que s'hagi fet abans de fer la foto. Per exemple, s'haurien d'etiquetar els filtres de Snapchat i Instagram que modifiquen l'aparença. Segons el lloc de mitjans Vice, alguns exemples del que s'hauria d'etiquetar inclouen "llavis engrandits, cintura estreta i músculs exagerats". En prohibir que els anunciants i els influencers publiquin fotos manipulades sense transparència, el govern espera reduir el nombre de joves que sucumbin a pressions corporals negatives.

Altres països europeus han proposat o aprovat lleis similars. Per exemple, el Regne Unit va presentar la llei d'imatges corporals alterades digitalment l'any 2021, que requeriria que es revelin publicacions a les xarxes socials que denotin qualsevol filtre o alteració. L'Autoritat d'estàndards de publicitat del Regne Unit també va prohibir que els influencers de les xarxes socials utilitzessin filtres de bellesa poc realistes als anuncis. El 2017, França va aprovar una llei que exigeix ​​que totes les imatges comercials que s'han alterat digitalment per fer que un model sembli més prim incloguin una etiqueta d'advertència similar a les que es troben als paquets de cigarrets. 

Implicacions dels mitjans sintètics i la llei

Les implicacions més àmplies dels mitjans sintètics moderats per la legislació poden incloure: 

• Més organitzacions i governs treballant junts per crear estàndards de procedència per ajudar els consumidors a fer un seguiment de la creació i la difusió d'informació en línia.
• Agències contra la desinformació que creen programes integrals per educar el públic sobre l'ús de tecnologies anti-deepfake i detectar-ne l'ús.
• Lleis més estrictes que obliguen als anunciants i a les empreses a evitar l'ús (o, almenys, a revelar el seu ús de) fotos exagerades i manipulades per a la comercialització.
• Es pressiona a les plataformes de xarxes socials per regular com els influencers utilitzen els seus filtres. En alguns casos, és possible que els filtres d'aplicacions es vegin obligats a imprimir automàticament una marca d'aigua a les imatges editades abans que les imatges es publiquin en línia.
• Augment de l'accessibilitat de les tecnologies deepfake, inclosos sistemes d'intel·ligència artificial més avançats que poden dificultar que les persones i els protocols detectin contingut alterat.

Preguntes per comentar

• Quines són algunes de les normatives del vostre país sobre l'ús de mitjans sintètics, si n'hi ha?
• De quina altra manera creus que s'hauria de regular el contingut deepfake?