Kwantumrun

BEELDKREDIET:

iStock

Generatieve vijandige netwerken (GAN's): het tijdperk van synthetische media

Generatieve vijandige netwerken hebben een revolutie teweeggebracht in machine learning, maar de technologie wordt steeds vaker gebruikt voor misleiding.

Auteur:
auteursnaam
Quantumrun-prognose
5 december 2023

Samenvatting inzicht

Generative Adversarial Networks (GAN's), bekend om het creëren van deepfakes, genereren synthetische data die echte gezichten, stemmen en maniertjes nabootsen. Hun gebruik varieert van het verbeteren van Adobe Photoshop tot het genereren van realistische filters op Snapchat. GAN's roepen echter ethische bezwaren op, omdat ze vaak worden gebruikt om misleidende deepfake-video's te maken en misinformatie te verspreiden. In de gezondheidszorg is er angst voor de privacy van patiëntgegevens in GAN-trainingen. Ondanks deze problemen hebben GAN's nuttige toepassingen, zoals het helpen bij strafrechtelijke onderzoeken. Hun wijdverbreide gebruik in verschillende sectoren, waaronder filmmaken en marketing, heeft geleid tot oproepen voor strengere maatregelen voor gegevensprivacy en overheidsregulering van GAN-technologie.

Context van generatieve adversariële netwerken (GAN's)

GAN is een type diep neuraal netwerk dat nieuwe data kan genereren die vergelijkbaar is met de data waarop het is getraind. De twee belangrijkste blokken die met elkaar concurreren om visionaire creaties te produceren, worden de generator en discriminator genoemd. De generator is verantwoordelijk voor het creëren van nieuwe data, terwijl de discriminator probeert onderscheid te maken tussen de gegenereerde data en de trainingsdata. De generator probeert de discriminator voortdurend voor de gek te houden door informatie te creëren die er zo echt mogelijk uitziet. Om dit te doen, moet de generator de onderliggende distributie van de data leren, waardoor GAN's nieuwe informatie kunnen creëren zonder deze daadwerkelijk te onthouden.

Toen GAN's in 2014 voor het eerst werden ontwikkeld door Google-onderzoeker Ian Goodfellow en zijn teamgenoten, toonde het algoritme veel belofte voor machine learning. Sindsdien hebben GAN's veel real-world toepassingen gezien in verschillende sectoren. Adobe maakt bijvoorbeeld gebruik van GAN's voor de volgende generatie Photoshop. Google gebruikt de kracht van GAN's voor zowel het genereren van tekst als afbeeldingen. IBM gebruikt GAN's effectief voor data-augmentatie. Snapchat gebruikt ze voor efficiënte beeldfilters en Disney voor superresoluties.

Disruptieve impact

Hoewel GAN oorspronkelijk werd gecreëerd om machine learning te verbeteren, hebben de toepassingen ervan twijfelachtige terreinen overschreden. Deepfake-video's worden bijvoorbeeld voortdurend gemaakt om echte mensen na te bootsen en het te laten lijken alsof ze iets doen of zeggen wat ze niet doen. Zo was er een video van voormalig Amerikaans president Barack Obama die zijn landgenoot Donald Trump een denigrerende term noemde en Facebook-CEO Mark Zuckerburg die opschepte over het feit dat hij miljarden gestolen data kon beheren. Geen van deze dingen gebeurde in het echte leven. Bovendien richten de meeste deepfake-video's zich op vrouwelijke beroemdheden en plaatsen ze in pornografische content. GAN's zijn ook in staat om fictieve foto's vanaf nul te maken. Zo bleken verschillende deepfake-journalistenaccounts op LinkedIn en Twitter door AI te zijn gegenereerd. Deze synthetische profielen kunnen worden gebruikt om realistisch klinkende artikelen en thought leadership-stukken te maken die propagandisten kunnen gebruiken.

Ondertussen zijn er in de gezondheidszorg steeds meer zorgen over data die gelekt kunnen worden door een echte patiëntendatabase te gebruiken als trainingsdata voor de algoritmes. Sommige onderzoekers beweren dat er een extra beveiligings- of maskeringslaag moet zijn om persoonlijke informatie te beschermen. Hoewel GAN vooral bekend staat om zijn vermogen om mensen te misleiden, heeft het echter ook positieve voordelen. Zo heeft de politie in mei 2022 een video nagemaakt van een 13-jarige jongen die in 2003 werd vermoord. Door realistische beelden van het slachtoffer te gebruiken, hoopt de politie mensen aan te moedigen om het slachtoffer te onthouden en met nieuwe informatie over de cold case naar voren te komen. De politie beweert dat ze al verschillende tips hebben ontvangen, maar dat ze antecedentenonderzoeken moeten uitvoeren om deze te verifiëren.

Toepassingen van generatieve adversariële netwerken (GAN's)

Enkele toepassingen van generatieve adversarial networks (GAN's) kunnen zijn:

De filmindustrie die deepfake-content creëert om synthetische acteurs te plaatsen en scènes opnieuw te schieten in post-geproduceerde films. Deze strategie kan leiden tot kostenbesparingen op de lange termijn, omdat ze acteurs en crew geen extra compensatie hoeven te betalen.

Het toenemende gebruik van deepfake-teksten en -video's om ideologieën en propaganda te promoten in alle politieke geledingen.

Bedrijven die synthetische video's gebruiken om uitgebreide branding- en marketingcampagnes te creëren zonder dat ze daarvoor daadwerkelijk mensen in dienst hoeven te nemen, afgezien van programmeurs.

Groepen lobbyen voor meer gegevensbescherming voor gezondheidszorg en andere persoonlijke informatie. Deze pushback kan bedrijven onder druk zetten om trainingsgegevens te ontwikkelen die niet op echte databases zijn gebaseerd. De resultaten zijn echter mogelijk niet zo nauwkeurig.

Overheden reguleren en controleren bedrijven die GAN-technologie produceren om ervoor te zorgen dat de technologie niet wordt gebruikt voor misinformatie en fraude.