Medios sintéticos y la ley: La lucha contra los contenidos engañosos

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• Febrero 17, 2023

La proliferación de tecnologías sintéticas o falsificadas accesibles ha hecho que los consumidores se vuelvan más vulnerables a la desinformación y las formas manipuladas de los medios, y sin los recursos necesarios para protegerse. Para abordar los efectos nocivos de la manipulación de contenido, organizaciones clave como agencias gubernamentales, medios de comunicación y empresas de tecnología están trabajando juntas para hacer que los medios sintéticos sean más transparentes.

Los medios sintéticos y el contexto legal

Además de la propaganda y la desinformación, el contenido sintético o alterado digitalmente ha provocado el aumento de la dismorfia corporal y la baja autoestima entre los jóvenes. La dismorfia corporal es una afección de salud mental que hace que las personas se obsesionen con los defectos que perciben en su apariencia. Los adolescentes son particularmente susceptibles a esta condición, ya que son bombardeados continuamente por los estándares de belleza y aceptabilidad dictados por la sociedad.

Algunos gobiernos se están asociando con organizaciones para hacer que las entidades que usan videos y fotos manipulados digitalmente para engañar a las personas rindan cuentas. Por ejemplo, el Congreso de EE. UU. aprobó la Ley del grupo de trabajo sobre falsificación profunda en 2021. Este proyecto de ley estableció un grupo de trabajo nacional sobre falsificación profunda y procedencia digital compuesto por el sector privado, las agencias federales y el mundo académico. La Ley también está desarrollando un estándar de procedencia digital que identificaría de dónde proviene un contenido en línea y las alteraciones que se le hicieron.

Este proyecto de ley complementa la Iniciativa de autenticidad de contenido (CAI) liderada por la empresa de tecnología Adobe. El protocolo CAI permite que los profesionales creativos obtengan crédito por su trabajo al adjuntar datos de atribución a prueba de manipulaciones, como el nombre, la ubicación y el historial de edición, a un medio. Este estándar también brinda a los consumidores un nuevo nivel de transparencia sobre lo que ven en línea.

Según Adobe, las tecnologías de procedencia permiten a los clientes llevar a cabo la diligencia debida sin esperar etiquetas intermedias. La difusión de noticias falsas y propaganda puede ralentizarse facilitando que los usuarios en línea verifiquen los orígenes de un contenido e identifiquen las fuentes legítimas.

Impacto disruptivo

Las publicaciones en las redes sociales son un área donde las regulaciones de los medios sintéticos se están volviendo más necesarias que nunca. En 2021, Noruega aprobó una ley que impide que los anunciantes y personas influyentes en las redes sociales compartan imágenes retocadas sin revelar que la foto fue editada. La nueva ley afecta a las marcas, las empresas y las personas influyentes que publican contenido patrocinado en todos los sitios de redes sociales. Las publicaciones patrocinadas se refieren al contenido pagado por un anunciante, incluido el obsequio de mercadería. 

La enmienda requiere divulgaciones para cualquier edición realizada en la imagen, incluso si se realizó antes de tomar la foto. Por ejemplo, los filtros de Snapchat e Instagram que modifican la apariencia tendrían que estar etiquetados. Según el sitio de medios Vice, algunos ejemplos de lo que debería etiquetarse incluyen "labios agrandados, cinturas estrechas y músculos exagerados". Al prohibir que los anunciantes y personas influyentes publiquen fotos manipuladas sin transparencia, el gobierno espera reducir la cantidad de jóvenes que sucumben a las presiones corporales negativas.

Otros países europeos han propuesto o aprobado leyes similares. Por ejemplo, el Reino Unido presentó el proyecto de ley de imágenes corporales alteradas digitalmente en 2021, que requeriría que se divulguen publicaciones en las redes sociales que indiquen cualquier filtro o alteración. La Autoridad de Normas de Publicidad del Reino Unido también prohibió a los influencers de las redes sociales usar filtros de belleza poco realistas en los anuncios. En 2017, Francia aprobó una ley que exige que todas las imágenes comerciales que hayan sido alteradas digitalmente para hacer que un modelo parezca más delgado incluyan una etiqueta de advertencia similar a las que se encuentran en los paquetes de cigarrillos. 

Implicaciones de los medios sintéticos y la ley

Las implicaciones más amplias de los medios sintéticos moderados por la legislación pueden incluir: 

• Más organizaciones y gobiernos trabajando juntos para crear estándares de procedencia para ayudar a los consumidores a rastrear la creación y difusión de información en línea.
• Agencias anti-desinformación que crean programas integrales para educar al público sobre el uso de tecnologías anti-deepfake y la detección de su uso.
• Leyes más estrictas que requieren que los anunciantes y las empresas eviten usar (o al menos revelar su uso) fotos exageradas y manipuladas para marketing.
• Se presiona a las plataformas de redes sociales para que regulen cómo los influencers usan sus filtros. En algunos casos, los filtros de aplicaciones pueden verse obligados a imprimir automáticamente una marca de agua en las imágenes editadas antes de que las imágenes se publiquen en línea.
• Aumentar la accesibilidad de las tecnologías deepfake, incluidos los sistemas de inteligencia artificial más avanzados que pueden dificultar que las personas y los protocolos detecten contenido alterado.

Preguntas para comentar

• ¿Cuáles son algunas de las regulaciones de su país sobre el uso de medios sintéticos, si las hay?
• ¿De qué otra manera cree que debería regularse el contenido deepfake?