Syntetická média a právo: Boj proti zavádějícímu obsahu

• Autor:
• jméno autora

  Quantumrun Foresight
• Února 17, 2023

Šíření dostupných syntetických nebo hluboce falešných technologií vedlo k tomu, že se spotřebitelé stávají zranitelnějšími vůči dezinformacím a zmanipulovaným formám médií – a bez zdrojů nezbytných k jejich ochraně. Aby se vypořádaly se škodlivými účinky manipulace s obsahem, klíčové organizace, jako jsou vládní agentury, média a technologické společnosti, spolupracují na zvýšení transparentnosti syntetických médií.

Syntetická média a právní kontext

Kromě propagandy a dezinformací vedl syntetický nebo digitálně pozměněný obsah k nárůstu tělesné dysmorfie a nízkého sebevědomí mezi mládeží. Tělesná dysmorfie je stav duševního zdraví, který způsobuje, že lidé jsou posedlí svými vnímanými vadami vzhledu. Teenageři jsou k tomuto stavu obzvláště náchylní, protože jsou neustále bombardováni standardy krásy a přijatelnosti diktovanými společností.

Některé vlády spolupracují s organizacemi, aby subjekty, které používají digitálně zmanipulovaná videa a fotografie, přiměly lidi k odpovědnosti. Například americký Kongres v roce 2021 schválil zákon o Deepfake Task Force Act. Tento návrh zákona zřídil pracovní skupinu National Deepfake and Digital Provenance zahrnující soukromý sektor, federální agentury a akademickou obec. Zákon také vyvíjí standard digitální provenience, který by identifikoval, odkud pochází část online obsahu a změny, které na něm byly provedeny.

Tento návrh zákona doplňuje iniciativu Content Authenticity Initiative (CAI) vedenou technickou firmou Adobe. Protokol CAI umožňuje kreativním profesionálům získat uznání za svou práci tím, že k určitému médiu připojí údaje o atribuci, které jsou evidentní pro neoprávněnou manipulaci, jako je jméno, poloha a historie úprav. Tento standard také poskytuje spotřebitelům novou úroveň transparentnosti ohledně toho, co vidí online.

Podle Adobe umožňují provenienční technologie zákazníkům provádět due diligence bez čekání na zprostředkovatelské štítky. Šíření falešných zpráv a propagandy lze zpomalit tím, že uživatelům online usnadníte faktickou kontrolu původu určitého obsahu a identifikaci legitimních zdrojů.

Rušivý dopad

Příspěvky na sociálních sítích jsou jednou z oblastí, kde jsou regulace syntetických médií stále potřebnější než kdy jindy. V roce 2021 Norsko přijalo zákon, který zakazuje inzerentům a ovlivňovatelům sociálních sítí sdílet retušované obrázky, aniž by prozradilo, že fotografie byla upravena. Nový zákon má dopad na značky, společnosti a influencery, kteří zveřejňují sponzorovaný obsah na všech stránkách sociálních médií. Sponzorované příspěvky odkazují na obsah placený inzerentem, včetně rozdávání zboží. 

Dodatek vyžaduje zveřejnění jakýchkoli úprav provedených na obrázku, i když byly provedeny před pořízením fotografie. Například filtry Snapchat a Instagram, které upravují vzhled, by musely být označeny. Podle mediálního webu Vice některé příklady toho, co by mělo být označeno, zahrnují „zvětšené rty, zúžené pasy a přehnané svaly“. Tím, že zakáže inzerentům a influencerům zveřejňovat upravené fotografie bez transparentnosti, vláda doufá, že sníží počet mladých lidí, kteří podléhají negativnímu tělesnému tlaku.

Jiné evropské země navrhly nebo přijaly podobné zákony. Například Spojené království v roce 2021 představilo zákon o digitálně změněných obrazech těla, který by vyžadoval zveřejnění příspěvků na sociálních sítích označujících jakýkoli filtr nebo změnu. Britský úřad pro reklamní standardy také zakázal vlivným sociálním médiím používat v reklamách nerealistické filtry krásy. V roce 2017 Francie schválila zákon, který požaduje, aby všechny komerční obrázky, které byly digitálně upraveny tak, aby model vypadal tenčí, obsahovaly varovný štítek podobný těm, které se nacházejí na krabičkách cigaret. 

Důsledky syntetických médií a práva

Širší důsledky syntetických médií moderovaných legislativou mohou zahrnovat: 

• Více organizací a vlád spolupracujících na vytváření standardů původu, které spotřebitelům pomohou sledovat vytváření a šíření online informací.
• Antidezinformační agentury vytvářející komplexní programy pro vzdělávání veřejnosti v používání anti-deepfake technologií a odhalování jejich použití.
• Přísnější zákony, které vyžadují, aby inzerenti a firmy nepoužívali (nebo alespoň zveřejňovali jejich použití) zveličené a zmanipulované fotografie pro marketing.
• Platformy sociálních médií jsou pod tlakem, aby regulovaly, jak influenceři používají své filtry. V některých případech mohou být filtry aplikací nuceny automaticky vtisknout vodoznak do upravených obrázků předtím, než jsou obrázky zveřejněny online.
• Zvyšující se dostupnost technologií deepfake, včetně pokročilejších systémů umělé inteligence, které mohou lidem a protokolům ztížit detekci pozměněného obsahu.

Otázky ke komentáři

• Jaká jsou některá z předpisů vaší země o používání syntetických médií, pokud existují?
• Jak jinak by podle vás měl být deepfake obsah regulován?