Syntetiska medier och lagen: Kampen mot vilseledande innehåll

• Författare:
• författarnamn

  Quantumrun Framsyn
• Februari 17, 2023

Spridningen av tillgängliga syntetiska eller deepfake-teknologier har lett till att konsumenter har blivit mer sårbara för desinformation och manipulerade former av media – och utan de resurser som krävs för att skydda sig själva. För att ta itu med de skadliga effekterna av innehållsmanipulation arbetar nyckelorganisationer som statliga myndigheter, media och teknikföretag tillsammans för att göra syntetiska medier mer transparenta.

Syntetiska medier och rättssammanhang

Bortsett från propaganda och desinformation, har syntetiskt eller digitalt förändrat innehåll lett till ökningen av kroppsdysmorfi och låg självkänsla bland ungdomar. Kroppsdysmorfi är ett psykiskt tillstånd som gör att människor blir besatta av sina upplevda brister i utseende. Tonåringar är särskilt mottagliga för detta tillstånd eftersom de ständigt bombarderas av samhällets dikterade normer för skönhet och acceptans.

Vissa regeringar samarbetar med organisationer för att göra enheter som använder digitalt manipulerade videor och foton för att vilseleda människor ansvariga. Till exempel antog den amerikanska kongressen Deepfake Task Force Act 2021. Detta lagförslag inrättade en nationell arbetsgrupp för Deepfake och Digital Provenance bestående av den privata sektorn, federala myndigheter och akademin. Lagen utvecklar också en digital härkomststandard som skulle identifiera var ett stycke onlineinnehåll kom ifrån och de ändringar som gjordes i det.

Detta lagförslag kompletterar Content Authenticity Initiative (CAI) som leds av teknikföretaget Adobe. CAI-protokollet gör det möjligt för kreativa yrkesverksamma att få kredit för sitt arbete genom att bifoga manipulationssäker tillskrivningsdata, som namn, plats och redigeringshistorik, till ett stycke media. Denna standard ger också konsumenter en ny nivå av transparens om vad de ser online.

Enligt Adobe ger härkomsttekniker kunderna möjlighet att genomföra due diligence utan att vänta på mellanliggande etiketter. Spridningen av falska nyheter och propaganda kan bromsas genom att göra det lättare för onlineanvändare att faktakontrollera ursprunget till ett innehåll och identifiera legitima källor.

Störande inverkan

Inlägg på sociala medier är ett område där regleringar av syntetiska medier blir mer nödvändiga än någonsin. År 2021 antog Norge en lag som hindrar annonsörer och påverkare på sociala medier från att dela retuscherade bilder utan att avslöja att bilden var redigerad. Den nya lagen påverkar varumärken, företag och influencers som publicerar sponsrat innehåll på alla sociala medier. Sponsrade inlägg hänvisar till innehåll som betalas av en annonsör, inklusive att ge bort varor. 

Tillägget kräver avslöjande för alla redigeringar som gjorts i bilden, även om det gjordes innan bilden togs. Till exempel skulle Snapchat- och Instagram-filter som ändrar ens utseende behöva märkas. Enligt mediasajten Vice inkluderar några exempel på vad som skulle behöva märkas "förstorade läppar, smalare midjor och överdrivna muskler." Genom att förbjuda annonsörer och influencers att lägga upp belagda bilder utan insyn, hoppas regeringen minska antalet unga människor som faller för negativt kroppstryck.

Andra europeiska länder har föreslagit eller antagit liknande lagar. Till exempel introducerade Storbritannien 2021 lagförslaget om digitalt förändrade kroppsbilder, vilket skulle kräva att inlägg på sociala medier som anger ett filter eller en ändring ska avslöjas. Storbritanniens Advertising Standards Authority förbjöd också påverkare på sociala medier att använda orealistiska skönhetsfilter i annonser. 2017 antog Frankrike en lag som kräver att alla kommersiella bilder som har ändrats digitalt för att få en modell att se tunnare ut ska ha en varningsetikett liknande den som finns på cigarettförpackningar. 

Konsekvenser av syntetiska medier och lagen

Vidare konsekvenser av att syntetiska medier modereras av lagstiftning kan inkludera: 

• Fler organisationer och regeringar arbetar tillsammans för att skapa härkomststandarder för att hjälpa konsumenter att spåra skapandet och spridningen av onlineinformation.
• Anti-desinformationsbyråer skapar omfattande program för att utbilda allmänheten om att använda antideepfake-teknik och upptäcka deras användning.
• Strängare lagar som kräver att annonsörer och företag undviker att använda (eller åtminstone avslöja deras användning av) överdrivna och manipulerade foton för marknadsföring.
• Sociala medieplattformar pressas att reglera hur influencers använder sina filter. I vissa fall kan appfilter tvingas att automatiskt trycka en vattenstämpel på redigerade bilder innan bilderna publiceras online.
• Ökad tillgänglighet för deepfake-teknologier, inklusive mer avancerade artificiell intelligenssystem som kan göra det svårt för människor och protokoll att upptäcka ändrat innehåll.

Frågor att kommentera

• Vilka är några av ditt lands bestämmelser om användning av syntetiska medier, om några?
• Hur tycker du annars att deepfake-innehåll ska regleras?