Synthetische media en de wet: de strijd tegen misleidende inhoud

• Auteur:
• auteursnaam

  Quantumrun-prognose
• 17 februari 2023

De proliferatie van toegankelijke synthetische of deepfake-technologieën heeft ertoe geleid dat consumenten kwetsbaarder zijn geworden voor desinformatie en gemanipuleerde vormen van media – en zonder de middelen die nodig zijn om zichzelf te beschermen. Om de schadelijke effecten van inhoudsmanipulatie aan te pakken, werken belangrijke organisaties zoals overheidsinstanties, mediakanalen en technologiebedrijven samen om synthetische media transparanter te maken.

Synthetische media en de juridische context

Afgezien van propaganda en desinformatie, heeft synthetische of digitaal gewijzigde inhoud geleid tot de opkomst van lichaamsdysmorfie en een laag zelfbeeld onder jongeren. Lichaamsdysmorfie is een psychische aandoening die ervoor zorgt dat mensen geobsedeerd raken door hun waargenomen gebreken in uiterlijk. Tieners zijn bijzonder vatbaar voor deze aandoening, omdat ze voortdurend worden gebombardeerd door door de samenleving opgelegde normen van schoonheid en aanvaardbaarheid.

Sommige regeringen werken samen met organisaties om entiteiten die digitaal gemanipuleerde video's en foto's gebruiken om mensen te misleiden, ter verantwoording te roepen. Zo keurde het Amerikaanse Congres in 2021 de Deepfake Task Force Act goed. Met dit wetsvoorstel werd een National Deepfake and Digital Provenance-taskforce opgericht, bestaande uit de particuliere sector, federale agentschappen en de academische wereld. De wet ontwikkelt ook een digitale herkomststandaard die zou identificeren waar een stukje online-inhoud vandaan kwam en welke wijzigingen erin zijn aangebracht.

Dit wetsvoorstel is een aanvulling op het Content Authenticity Initiative (CAI) van technologiebedrijf Adobe. Met het CAI-protocol kunnen creatieve professionals erkenning krijgen voor hun werk door fraudebestendige attributiegegevens, zoals naam, locatie en bewerkingsgeschiedenis, aan een stuk media toe te voegen. Deze standaard biedt consumenten ook een nieuw niveau van transparantie over wat ze online zien.

Volgens Adobe stellen herkomsttechnologieën klanten in staat om due diligence uit te voeren zonder te wachten op tussenliggende labels. De verspreiding van nepnieuws en neppropaganda kan worden vertraagd door het voor online gebruikers gemakkelijker te maken om de herkomst van een stuk inhoud te controleren en legitieme bronnen te identificeren.

Disruptieve impact

Berichten op sociale media zijn een gebied waar regelgeving voor synthetische media meer dan ooit nodig is. In 2021 heeft Noorwegen een wet aangenomen die adverteerders en influencers op sociale media verbiedt geretoucheerde afbeeldingen te delen zonder te onthullen dat de foto is bewerkt. De nieuwe wet heeft gevolgen voor merken, bedrijven en influencers die gesponsorde inhoud plaatsen op alle sociale-mediasites. Gesponsorde berichten verwijzen naar inhoud waarvoor een adverteerder heeft betaald, inclusief het weggeven van merchandise. 

Het amendement vereist openbaarmaking van alle bewerkingen die aan de afbeelding zijn aangebracht, zelfs als dit is gedaan voordat de foto werd gemaakt. Snapchat- en Instagram-filters die iemands uiterlijk wijzigen, moeten bijvoorbeeld worden geëtiketteerd. Volgens mediasite Vice zijn enkele voorbeelden van wat zou moeten worden geëtiketteerd onder meer "vergrote lippen, versmalde tailles en overdreven spieren". Door adverteerders en influencers te verbieden gemanipuleerde foto's zonder transparantie te plaatsen, hoopt de regering het aantal jongeren dat bezwijkt onder negatieve lichaamsdruk te verminderen.

Andere Europese landen hebben soortgelijke wetten voorgesteld of aangenomen. Zo introduceerde het VK in 2021 de Digitally Altered Body Images Bill, die zou vereisen dat posts op sociale media die een filter of wijziging aanduiden, openbaar worden gemaakt. De Britse Advertising Standards Authority verbood ook influencers op sociale media om onrealistische schoonheidsfilters in advertenties te gebruiken. In 2017 heeft Frankrijk een wet aangenomen die vereist dat alle commerciële afbeeldingen die digitaal zijn aangepast om een ​​model er dunner uit te laten zien, een waarschuwingslabel moeten bevatten, vergelijkbaar met die op sigarettenpakjes. 

Implicaties van synthetische media en de wet

Bredere implicaties van synthetische media die door wetgeving worden gemodereerd, kunnen zijn: 

• Meer organisaties en overheden werken samen om herkomststandaarden te creëren om consumenten te helpen de creatie en verspreiding van online informatie te volgen.
• Anti-desinformatiebureaus die uitgebreide programma's maken om het publiek voor te lichten over het gebruik van anti-deepfake-technologieën en het detecteren ervan.
• Strengere wetten die van adverteerders en bedrijven eisen dat ze het gebruik van overdreven en gemanipuleerde foto's voor marketingdoeleinden vermijden (of op zijn minst openbaar maken).
• Socialemediaplatforms worden onder druk gezet om te reguleren hoe influencers hun filters gebruiken. In sommige gevallen kunnen app-filters worden gedwongen om automatisch een watermerk op bewerkte afbeeldingen af ​​te drukken voordat de afbeeldingen online worden gepubliceerd.
• Toenemende toegankelijkheid van deepfake-technologieën, waaronder meer geavanceerde kunstmatige-intelligentiesystemen die het voor mensen en protocollen moeilijk kunnen maken om gewijzigde inhoud te detecteren.

Vragen om op te reageren

• Wat zijn enkele van de regels van uw land voor het gebruik van synthetische media, indien van toepassing?
• Hoe denk je anders dat deepfake-inhoud moet worden gereguleerd?