Syntetiske medier og loven: Kampen mot villedende innhold

BILDEKREDITT:
Bilde kreditt
iStock

Syntetiske medier og loven: Kampen mot villedende innhold

Syntetiske medier og loven: Kampen mot villedende innhold

Underoverskriftstekst
Regjeringer og selskaper jobber sammen for å sikre at syntetiske medier avsløres og reguleres på riktig måte.
    • Forfatter:
    • forfatternavn
      Quantumrun Foresight
    • Februar 17, 2023

    Spredningen av tilgjengelige syntetiske eller deepfake-teknologier har ført til at forbrukere har blitt mer sårbare for desinformasjon og manipulerte former for medier – og uten ressursene som er nødvendige for å beskytte seg selv. For å håndtere de skadelige effektene av innholdsmanipulasjon, jobber nøkkelorganisasjoner som offentlige etater, medier og teknologiselskaper sammen for å gjøre syntetiske medier mer gjennomsiktige.

    Syntetiske medier og jusskonteksten

    Bortsett fra propaganda og desinformasjon, har syntetisk eller digitalt endret innhold ført til økningen av kroppsdysmorfi og lav selvtillit blant ungdom. Kroppsdysmorfi er en mental helsetilstand som får folk til å bli besatt av deres opplevde feil i utseende. Tenåringer er spesielt utsatt for denne tilstanden ettersom de kontinuerlig blir bombardert av samfunnsdikerte standarder for skjønnhet og aksept.

    Noen regjeringer samarbeider med organisasjoner for å gjøre enheter som bruker digitalt manipulerte videoer og bilder for å villede folk ansvarlige. For eksempel vedtok den amerikanske kongressen Deepfake Task Force Act i 2021. Dette lovforslaget etablerte en nasjonal arbeidsgruppe for Deepfake og Digital Provenance bestående av privat sektor, føderale byråer og akademia. Loven utvikler også en digital herkomststandard som vil identifisere hvor et stykke nettinnhold kom fra og endringene som ble gjort i det.

    Dette lovforslaget supplerer Content Authenticity Initiative (CAI) ledet av teknologifirmaet Adobe. CAI-protokollen lar kreative fagfolk få æren for arbeidet sitt ved å legge ved manipulasjonsklare attribusjonsdata, som navn, plassering og redigeringshistorikk, til et stykke medie. Denne standarden gir også forbrukere et nytt nivå av åpenhet om hva de ser på nettet.

    Ifølge Adobe gir herkomstteknologier kundene mulighet til å utføre due diligence uten å vente på mellomleddsetiketter. Spredningen av falske nyheter og propaganda kan bremses ved å gjøre det enklere for nettbrukere å faktasjekke opprinnelsen til et innhold og identifisere legitime kilder.

    Forstyrrende påvirkning

    Sosiale medier-innlegg er et område der reguleringer av syntetiske medier blir mer nødvendig enn noen gang. I 2021 vedtok Norge en lov som hindrer annonsører og sosiale medier-påvirkere fra å dele retusjerte bilder uten å avsløre at bildet er redigert. Den nye loven påvirker merkevarer, selskaper og påvirkere som legger ut sponset innhold på tvers av alle sosiale medier. Sponsede innlegg refererer til innhold betalt av en annonsør, inkludert å gi bort varer. 

    Endringen krever avsløring for alle redigeringer som er gjort i bildet, selv om det ble gjort før bildet ble tatt. For eksempel må Snapchat- og Instagram-filtre som endrer ens utseende merkes. I følge mediesiden Vice inkluderer noen eksempler på hva som må merkes "forstørrede lepper, innsnevret midje og overdrevne muskler." Ved å forby annonsører og påvirkere fra å legge ut bearbeidede bilder uten åpenhet, håper regjeringen å redusere antallet unge mennesker som bukker under for negativt kroppspress.

    Andre europeiske land har foreslått eller vedtatt lignende lover. For eksempel introduserte Storbritannia Digitally Altered Body Images Bill i 2021, som ville kreve at innlegg på sosiale medier som angir et hvilket som helst filter eller endring, skal avsløres. Storbritannias Advertising Standards Authority forbød også påvirkere på sosiale medier å bruke urealistiske skjønnhetsfiltre i reklame. I 2017 vedtok Frankrike en lov som krever at alle kommersielle bilder som er digitalt endret for å få en modell til å se tynnere ut, skal ha en advarselsetikett som ligner de som finnes på sigarettpakker. 

    Implikasjoner av syntetiske medier og loven

    Større implikasjoner av at syntetiske medier blir moderert av lovgivning kan omfatte: 

    • Flere organisasjoner og myndigheter jobber sammen for å lage herkomststandarder for å hjelpe forbrukere med å spore opprettelsen og spredningen av nettbasert informasjon.
    • Anti-desinformasjonsbyråer lager omfattende programmer for å utdanne publikum om bruk av antideepfake-teknologier og oppdage bruken av dem.
    • Strengere lover som krever at annonsører og firmaer unngår å bruke (eller i det minste avsløre deres bruk av) overdrevne og manipulerte bilder for markedsføring.
    • Sosiale medieplattformer blir presset til å regulere hvordan influencere bruker filtrene deres. I noen tilfeller kan appfiltre bli tvunget til automatisk å trykke et vannmerke på redigerte bilder før bildene publiseres på nettet.
    • Øke tilgjengeligheten til dypfalske teknologier, inkludert mer avanserte kunstig intelligens-systemer som kan gjøre det vanskelig for mennesker og protokoller å oppdage endret innhold.

    Spørsmål å kommentere

    • Hva er noen av landets regler for bruk av syntetiske medier, hvis noen?
    • Hvordan mener du ellers deepfake-innhold bør reguleres?

    Innsiktsreferanser

    Følgende populære og institusjonelle lenker ble referert for denne innsikten:

    Amerikanske kongressen S.2559 - Deepfake Task Force Act