Synteettinen media ja laki taistelevat harhaanjohtavaa sisältöä vastaan

KUVAKrediitti:

iStock

Synteettinen media ja laki: Harhaanjohtavan sisällön torjunta

Hallitukset ja yritykset tekevät yhteistyötä varmistaakseen, että synteettiset mediat julkistetaan ja niitä säännellään asianmukaisesti.

Kirjoittaja:
tekijän nimi
Quantumrun Foresight
Helmikuu 17, 2023

Saatavilla olevien synteettisten tai syväväärennösteknologioiden yleistyminen on johtanut siihen, että kuluttajat ovat haavoittuvampia disinformaatiolle ja manipuloiduille mediamuodoille – ja heillä ei ole tarvittavia resursseja suojellakseen itseään. Sisällön manipuloinnin haitallisten vaikutusten torjumiseksi keskeiset organisaatiot, kuten valtion virastot, tiedotusvälineet ja teknologiayritykset, tekevät yhteistyötä tehdäkseen synteettisestä mediasta läpinäkyvämpää.

Synteettinen media ja lakikonteksti

Propagandan ja disinformaation lisäksi synteettinen tai digitaalisesti muunneltu sisältö on johtanut nuorten kehon dysmorfian ja heikon itsetunnon nousuun. Kehon dysmorfia on mielenterveyssairaus, joka saa ihmiset pakkomielle havaituista ulkonäön puutteista. Teini-ikäiset ovat erityisen alttiita tälle sairaudelle, koska heitä pommittavat jatkuvasti yhteiskunnan sanelemat kauneuden ja hyväksyttävyyden standardit.

Jotkut hallitukset tekevät yhteistyötä organisaatioiden kanssa saadakseen digitaalisesti manipuloituja videoita ja valokuvia käyttäviä yhteisöjä vastuullisiksi. Esimerkiksi Yhdysvaltain kongressi hyväksyi Deepfake Task Force Act -lain vuonna 2021. Tällä lailla perustettiin National Deepfake and Digital Provenance -työryhmä, joka koostuu yksityisestä sektorista, liittovaltion virastoista ja tiedemaailmasta. Laki kehittää myös digitaalista alkuperästandardia, joka tunnistaisi, mistä verkkosisältö on peräisin ja mitä muutoksia siihen on tehty.

Tämä lakiehdotus täydentää teknologiayritys Adoben johtamaa Content Authenticity Initiative -aloitetta (CAI). CAI-protokollan avulla luovat ammattilaiset voivat saada kunniaa työstään liittämällä mediaan peukaloituja attribuutiotietoja, kuten nimen, sijainnin ja muokkaushistorian. Tämä standardi tarjoaa myös kuluttajille uuden tason läpinäkyvyyden siitä, mitä he näkevät verkossa.

Adoben mukaan alkuperäteknologiat antavat asiakkaille mahdollisuuden suorittaa due diligence -tarkastusta odottamatta välittäjämerkintöjä. Valeuutisten ja propagandan leviämistä voidaan hidastaa helpottamalla verkkokäyttäjien faktojen tarkistamista sisällön alkuperän ja laillisten lähteiden tunnistamisesta.

Häiritsevä vaikutus

Sosiaalisen median viestit ovat yksi alue, jolla synteettisen median säännökset ovat yhä tarpeellisempia kuin koskaan. Vuonna 2021 Norja hyväksyi lain, joka estää mainostajia ja sosiaalisen median vaikuttajia jakamasta muokattuja kuvia paljastamatta, että kuvaa on muokattu. Uusi laki vaikuttaa brändeihin, yrityksiin ja vaikuttajiin, jotka julkaisevat sponsoroitua sisältöä kaikilla sosiaalisen median sivustoilla. Sponsoroidut viestit viittaavat sisältöön, josta mainostaja on maksanut, mukaan lukien tavaroiden lahjoittaminen.

Muutos vaatii julkistamista kaikista kuvaan tehdyistä muokkauksista, vaikka se olisi tehty ennen kuvan ottamista. Esimerkiksi ulkonäköä muokkaavat Snapchat- ja Instagram-suodattimet pitäisi merkitä. Vice-mediasivuston mukaan esimerkkejä siitä, mitä pitäisi merkitä, ovat "suurentuneet huulet, kaventuneet vyötäröt ja liioitellut lihakset". Kieltämällä mainostajia ja vaikuttajia julkaisemasta kaatuneita kuvia ilman läpinäkyvyyttä, hallitus toivoo vähentävänsä negatiivisille kehonpaineille antautuvien nuorten määrää.

Muut Euroopan maat ovat ehdottaneet tai hyväksyneet vastaavia lakeja. Esimerkiksi Iso-Britannia esitteli Digitally Altered Body Images Bill vuonna 2021, joka edellyttäisi, että sosiaalisen median viestit, jotka ilmaisevat suodattimen tai muutoksen, on julkistettava. Iso-Britannian Advertising Standards Authority kielsi myös sosiaalisen median vaikuttajia käyttämästä mainoksissa epärealistisia kauneussuodattimia. Vuonna 2017 Ranska hyväksyi lain, jonka mukaan kaikki kaupalliset kuvat, joita on digitaalisesti muutettu niin, että malli näyttää ohuemmalta, sisältävät varoitustarran, joka on samanlainen kuin tupakkapakkauksissa.

Synteettisen median ja lain vaikutukset

Lainsäädännön säätelemän synteettisen median laajempia vaikutuksia voivat olla:

Yhä useammat organisaatiot ja hallitukset tekevät yhteistyötä alkuperästandardien luomiseksi, jotta kuluttajat voivat seurata verkkotiedon luomista ja leviämistä.
Disinformaation vastaiset virastot luovat kattavia ohjelmia valistaakseen yleisöä deepfake-tekniikoiden käytöstä ja niiden käytön havaitsemisesta.
Tiukemmat lait, jotka vaativat mainostajia ja yrityksiä välttämään liioiteltujen ja manipuloitujen valokuvien käyttöä (tai ainakin paljastamaan niiden käyttöä) markkinointitarkoituksiin.
Sosiaalisen median alustoja painostetaan säätelemään, miten vaikuttajat käyttävät suodattimiaan. Joissakin tapauksissa sovellussuodattimet voidaan pakottaa automaattisesti painamaan vesileima muokattuihin kuviin ennen kuin kuvat julkaistaan verkossa.
Deepfake-tekniikoiden saatavuuden lisääminen, mukaan lukien kehittyneemmät tekoälyjärjestelmät, jotka voivat vaikeuttaa ihmisten ja protokollien havaitsemista muuttunutta sisältöä.