Synthetische Medien und das Recht: Der Kampf gegen irreführende Inhalte

• Autor:
• Autorenname

  Quantumrun-Vorausschau
• 17. Februar 2023

Die Verbreitung zugänglicher synthetischer oder Deepfake-Technologien hat dazu geführt, dass Verbraucher anfälliger für Desinformation und manipulierte Medienformen werden – und das ohne die notwendigen Ressourcen, um sich selbst zu schützen. Um den schädlichen Auswirkungen der Manipulation von Inhalten entgegenzuwirken, arbeiten wichtige Organisationen wie Regierungsbehörden, Medienunternehmen und Technologieunternehmen zusammen, um synthetische Medien transparenter zu machen.

Synthetische Medien und der rechtliche Kontext

Abgesehen von Propaganda und Desinformation haben synthetische oder digital veränderte Inhalte zu einer Zunahme von Körperdysmorphien und einem geringen Selbstwertgefühl bei Jugendlichen geführt. Körperdysmorphie ist eine psychische Erkrankung, die dazu führt, dass Menschen über ihre vermeintlichen Schönheitsfehler besessen sind. Jugendliche sind besonders anfällig für diese Erkrankung, da sie ständig mit gesellschaftlich diktierten Schönheits- und Akzeptanzstandards konfrontiert werden.

Einige Regierungen arbeiten mit Organisationen zusammen, um Unternehmen, die digital manipulierte Videos und Fotos verwenden, um Menschen in die Irre zu führen, zur Rechenschaft zu ziehen. Beispielsweise verabschiedete der US-Kongress im Jahr 2021 den Deepfake Task Force Act. Mit diesem Gesetz wurde eine nationale Task Force für Deepfake und digitale Provenienz eingerichtet, die sich aus dem Privatsektor, Bundesbehörden und der Wissenschaft zusammensetzt. Das Gesetz entwickelt außerdem einen digitalen Provenienzstandard, der identifizieren würde, woher ein Online-Inhalt stammt und welche Änderungen daran vorgenommen wurden.

Dieser Gesetzentwurf ergänzt die Content Authenticity Initiative (CAI) des Technologieunternehmens Adobe. Das CAI-Protokoll ermöglicht es Kreativprofis, Anerkennung für ihre Arbeit zu erhalten, indem sie manipulationssichere Zuordnungsdaten wie Name, Standort und Bearbeitungsverlauf an ein Medium anhängen. Dieser Standard bietet Verbrauchern auch ein neues Maß an Transparenz darüber, was sie online sehen.

Laut Adobe ermöglichen Provenienztechnologien Kunden die Durchführung einer Due-Diligence-Prüfung, ohne auf Zwischenetiketten warten zu müssen. Die Verbreitung gefälschter Nachrichten und Propaganda kann verlangsamt werden, indem es Online-Nutzern erleichtert wird, die Herkunft eines Inhalts zu überprüfen und legitime Quellen zu identifizieren.

Störende Wirkung

Social-Media-Beiträge sind ein Bereich, in dem Vorschriften für synthetische Medien notwendiger denn je werden. Im Jahr 2021 verabschiedete Norwegen ein Gesetz, das es Werbetreibenden und Social-Media-Influencern verbietet, retuschierte Bilder zu teilen, ohne offenzulegen, dass das Foto bearbeitet wurde. Das neue Gesetz betrifft Marken, Unternehmen und Influencer, die gesponserte Inhalte auf allen Social-Media-Seiten veröffentlichen. Gesponserte Beiträge beziehen sich auf Inhalte, für die ein Werbetreibender bezahlt hat, einschließlich des Verschenkens von Waren. 

Die Änderung erfordert die Offenlegung aller am Bild vorgenommenen Änderungen, auch wenn diese vor der Aufnahme des Fotos vorgenommen wurden. Beispielsweise müssten Snapchat- und Instagram-Filter, die das Erscheinungsbild verändern, gekennzeichnet werden. Laut der Medienseite Vice müssten beispielsweise „vergrößerte Lippen, schmalere Taillen und übertriebene Muskeln“ gekennzeichnet werden. Indem die Regierung Werbetreibenden und Influencern verbietet, manipulierte Fotos ohne Transparenz zu veröffentlichen, hofft sie, die Zahl junger Menschen zu verringern, die negativen Körperdrücken erliegen.

Andere europäische Länder haben ähnliche Gesetze vorgeschlagen oder verabschiedet. Beispielsweise führte das Vereinigte Königreich im Jahr 2021 das Gesetz über digital veränderte Körperbilder ein, das die Offenlegung von Social-Media-Beiträgen vorschreibt, in denen auf Filter oder Änderungen hingewiesen wird. Die britische Advertising Standards Authority verbot Social-Media-Influencern außerdem die Verwendung unrealistischer Schönheitsfilter in der Werbung. Im Jahr 2017 verabschiedete Frankreich ein Gesetz, das vorschreibt, dass alle kommerziellen Bilder, die digital verändert wurden, um ein Model dünner aussehen zu lassen, einen Warnhinweis tragen müssen, der denen auf Zigarettenpackungen ähnelt. 

Auswirkungen synthetischer Medien und des Gesetzes

Die gesetzliche Moderation synthetischer Medien kann folgende Auswirkungen haben: 

• Immer mehr Organisationen und Regierungen arbeiten zusammen, um Herkunftsstandards zu schaffen, um Verbrauchern dabei zu helfen, die Erstellung und Verbreitung von Online-Informationen zu verfolgen.
• Anti-Deepfake-Agenturen erstellen umfassende Programme, um die Öffentlichkeit über den Einsatz von Anti-Deepfake-Technologien und deren Erkennung aufzuklären.
• Strengere Gesetze, die Werbetreibende und Firmen dazu verpflichten, die Verwendung übertriebener und manipulierter Fotos für Marketingzwecke zu vermeiden (oder deren Verwendung zumindest offenzulegen).
• Social-Media-Plattformen werden unter Druck gesetzt, die Art und Weise zu regulieren, wie Influencer ihre Filter verwenden. In manchen Fällen können App-Filter dazu gezwungen werden, automatisch ein Wasserzeichen auf bearbeitete Bilder zu drucken, bevor die Bilder online veröffentlicht werden.
• Zunehmende Zugänglichkeit von Deepfake-Technologien, einschließlich fortschrittlicherer künstlicher Intelligenzsysteme, die es für Menschen und Protokolle schwierig machen können, veränderte Inhalte zu erkennen.

Fragen zum Kommentieren

• Welche Vorschriften gelten gegebenenfalls in Ihrem Land für die Verwendung synthetischer Medien?
• Wie sollten Deepfake-Inhalte Ihrer Meinung nach sonst noch reguliert werden?