Réseaux contradictoires génératifs (GAN) : l'ère des médias synthétiques

• Auteur :
• Nom de l'auteur

  Prévision quantique
• 5 décembre 2023

Résumé des informations

Les réseaux contradictoires génératifs (GAN), connus pour créer des deepfakes, génèrent des données synthétiques qui imitent des visages, des voix et des manières réels. Leur utilisation va de l'amélioration d'Adobe Photoshop à la génération de filtres réalistes sur Snapchat. Cependant, les GAN posent des problèmes éthiques, car ils sont souvent utilisés pour créer de fausses vidéos trompeuses et propager des informations erronées. Dans le secteur de la santé, la confidentialité des données des patients suscite des inquiétudes dans la formation GAN. Malgré ces problèmes, les GAN ont des applications bénéfiques, telles que l’aide aux enquêtes criminelles. Leur utilisation généralisée dans divers secteurs, notamment le cinéma et le marketing, a conduit à des appels à des mesures de confidentialité des données plus strictes et à une réglementation gouvernementale de la technologie GAN.

Contexte des réseaux contradictoires génératifs (GAN)

GAN est un type de réseau neuronal profond qui peut générer de nouvelles données similaires aux données sur lesquelles il est formé. Les deux principaux blocs qui se font concurrence pour produire des créations visionnaires sont appelés le générateur et le discriminateur. Le générateur est responsable de la création de nouvelles données, tandis que le discriminateur tente de faire la différence entre les données générées et les données d'entraînement. Le générateur essaie constamment de tromper le discriminateur en créant des informations qui semblent aussi réelles que possible. Pour ce faire, le générateur doit apprendre la distribution sous-jacente des données, permettant ainsi aux GAN de créer de nouvelles informations sans les mémoriser.

Lorsque les GAN ont été développés pour la première fois en 2014 par le chercheur de Google Ian Goodfellow et ses coéquipiers, l'algorithme s'est montré très prometteur pour l'apprentissage automatique. Depuis lors, les GAN ont vu de nombreuses applications concrètes dans différents secteurs. Par exemple, Adobe utilise les GAN pour Photoshop de nouvelle génération. Google utilise la puissance des GAN pour la génération de texte et d'images. IBM utilise efficacement les GAN pour l'augmentation des données. Snapchat les utilise pour des filtres d'image efficaces et Disney pour les super résolutions. 

Impact perturbateur

Alors que le GAN a été initialement créé pour améliorer l’apprentissage automatique, ses applications ont traversé des territoires discutables. Par exemple, des vidéos deepfake sont constamment créées pour imiter de vraies personnes et donner l’impression qu’elles font ou disent quelque chose qu’elles n’ont pas fait. Par exemple, il y avait une vidéo de l’ancien président américain Barack Obama traitant son homologue américain Donald Trump de terme péjoratif et du PDG de Facebook, Mark Zuckerburg, se vantant d’être capable de contrôler des milliards de données volées. Rien de tout cela ne s’est produit dans la vraie vie. De plus, la plupart des vidéos deepfake ciblent des célébrités féminines et les placent dans du contenu pornographique. Les GAN sont également capables de créer des photos fictives à partir de zéro. Par exemple, plusieurs faux comptes de journalistes sur LinkedIn et Twitter se sont avérés être générés par l’IA. Ces profils synthétiques peuvent être utilisés pour créer des articles réalistes et des éléments de leadership éclairé que les propagandistes peuvent utiliser. 

Parallèlement, dans le secteur de la santé, on s’inquiète de plus en plus des données susceptibles d’être divulguées en utilisant une véritable base de données de patients comme données de formation pour les algorithmes. Certains chercheurs soutiennent qu’il doit y avoir une couche de sécurité ou de masquage supplémentaire pour protéger les informations personnelles. Cependant, bien que le GAN soit surtout connu pour sa capacité à tromper les gens, il présente des avantages positifs. Par exemple, en mai 2022, la police des Pays-Bas a recréé une vidéo d'un garçon de 13 ans assassiné en 2003. En utilisant des images réalistes de la victime, la police espère encourager les gens à se souvenir de la victime et à se manifester. de nouvelles informations concernant l'affaire froide. La police affirme avoir déjà reçu plusieurs informations mais devra procéder à des vérifications d'antécédents pour les vérifier.

Applications des réseaux contradictoires génératifs (GAN)

Certaines applications des réseaux contradictoires génératifs (GAN) peuvent inclure : 

• L'industrie cinématographique crée du contenu deepfake pour placer des acteurs synthétiques et refaire des scènes dans des films post-produits. Cette stratégie peut se traduire par des économies de coûts à long terme, car ils n'auront pas besoin de payer une compensation supplémentaire aux acteurs et à l'équipe.
• L’utilisation croissante de textes et de vidéos deepfakes pour promouvoir des idéologies et de la propagande à travers les différents spectres politiques.
• Entreprises utilisant des vidéos synthétiques pour créer des campagnes de branding et de marketing élaborées sans embaucher de véritables personnes autres que des programmeurs.
• Groupes faisant pression pour une protection accrue de la confidentialité des données relatives aux soins de santé et autres informations personnelles. Ce refus peut pousser les entreprises à développer des données de formation qui ne sont pas basées sur de véritables bases de données. Cependant, les résultats peuvent ne pas être aussi précis.
• Les gouvernements réglementent et surveillent les entreprises qui produisent la technologie GAN pour garantir que cette technologie n'est pas utilisée à des fins de désinformation et de fraude.

Questions à commenter

• Avez-vous déjà utilisé la technologie GAN ? Comment s’est passée l’expérience ?
• Comment les entreprises et les gouvernements peuvent-ils garantir que le GAN est utilisé de manière éthique ?