Algoritmos generativos: ¿podría convertirse en la tecnología más disruptiva de la década de 2020?

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• Febrero 21, 2023

A pesar de los primeros escándalos de deepfake causados ​​por algoritmos generativos, estas tecnologías de inteligencia artificial (IA) siguen siendo una herramienta poderosa que muchas industrias, desde corporaciones de medios hasta agencias de publicidad y estudios de cine, utilizan para crear contenido creíble. Algunos expertos argumentan que la IA generativa debe monitorearse más de cerca, ya que las capacidades de estos algoritmos de IA pronto tendrán el potencial de sesgar y engañar al público, sin mencionar la automatización de grandes franjas de trabajo administrativo.

Contexto de algoritmos generativos

La IA generativa, o algoritmos que pueden crear contenido (incluidos texto, audio, imagen, video y más) con una mínima intervención humana, ha logrado avances significativos desde la década de 2010. Por ejemplo, el Transformador preentrenado generativo 3 (GPT-3) de OpenAI se lanzó en 2020 y se considera la red neuronal más avanzada de su tipo. Puede generar texto que es prácticamente indistinguible de algo que escribiría una persona. Luego, en noviembre de 2022, OpenAI lanzó ChatGPT, un algoritmo que atrajo un gran interés de los consumidores, el sector privado y los medios debido a su sorprendente capacidad para proporcionar respuestas detalladas a las indicaciones de los usuarios y articular respuestas en muchos dominios.

Otra tecnología de IA generativa que está ganando popularidad (y notoriedad) son las falsificaciones profundas. La tecnología detrás de las falsificaciones profundas utiliza redes antagónicas generativas (GAN), donde dos algoritmos se entrenan entre sí para producir imágenes lo más parecidas a las originales. Si bien esta tecnología puede parecer complicada, se ha vuelto relativamente fácil de producir. Numerosas aplicaciones en línea, como Faceswap y ZAO Deepswap, pueden crear imágenes, audio y videos falsos en minutos (y, en algunas aplicaciones, al instante).

Si bien todas estas herramientas de IA generativa se desarrollaron inicialmente para avanzar en las tecnologías de aprendizaje automático y profundo, también se han utilizado para prácticas poco éticas. Las campañas de desinformación y propaganda de próxima generación han prosperado utilizando estas herramientas. Los medios sintéticos, como los artículos de opinión, videos e imágenes generados por IA, han dado lugar a una avalancha de noticias falsas. Incluso se han utilizado bots de comentarios falsos para acosar a mujeres y minorías en línea. 

Impacto disruptivo

Los sistemas de IA generativa están experimentando rápidamente aplicaciones generalizadas en numerosas industrias. Un estudio publicado en 2022 por la Association for Computing Machinery encontró que las principales empresas de medios como Associated Press, Forbes, New York Times, Washington Post y ProPublica utilizan IA para generar artículos completos desde cero. Este contenido incluye informes sobre delitos, mercados financieros, política, eventos deportivos y asuntos exteriores.

La IA generativa también se usa con más frecuencia como entrada al escribir textos para diferentes aplicaciones, desde contenido generado por usuarios y empresas hasta informes escritos por instituciones gubernamentales. Cuando AI escribe el texto, generalmente no se revela su participación. Algunos han argumentado que dado el potencial de uso indebido, los usuarios de IA deberían ser transparentes sobre su uso. De hecho, este tipo de divulgación probablemente se convertirá en ley a fines de la década de 2020, según lo propuesto por la Ley de Transparencia de Plataformas en Línea y Justicia Algorítmica de 2021. 

Otra área donde se necesita la divulgación de la IA generativa es la publicidad. Un estudio de 2021 publicado en el Journal of Advertising descubrió que los anunciantes están automatizando muchos procesos para crear "anuncios sintéticos" generados a través del análisis y la modificación de datos. 

Los anunciantes a menudo usan tácticas de manipulación para hacer que los anuncios sean más personalizados, racionales o emotivos para que los consumidores quieran comprar el producto. La manipulación de anuncios implica cualquier cambio realizado en un anuncio, como retoque, maquillaje e iluminación/ángulo. Sin embargo, las prácticas de manipulación digital se han vuelto tan severas que pueden causar estándares de belleza poco realistas y dismorfia corporal entre los adolescentes. Varios países, como el Reino Unido, Francia y Noruega, han exigido que los anunciantes y personas influyentes indiquen explícitamente si su contenido ha sido manipulado.

Implicaciones de los algoritmos generativos

Las implicaciones más amplias de los algoritmos generativos pueden incluir: 

• Numerosas profesiones de cuello blanco, como ingeniería de software, abogados, representantes de servicio al cliente, representantes de ventas y más, verán una creciente automatización de sus responsabilidades laborales de menor valor. Esta automatización mejorará la productividad del trabajador promedio y reducirá la necesidad de que las empresas contraten en exceso. Como resultado, más empresas (especialmente empresas más pequeñas o menos destacadas) obtendrán acceso a profesionales calificados en un período crítico en el que la fuerza laboral en todo el mundo se está reduciendo debido a las jubilaciones de los boomers.
• La IA generativa se utiliza para escribir artículos de opinión y artículos de liderazgo intelectual.
• El mayor uso de la IA generativa para agilizar las versiones digitales, donde se escriben simultáneamente diferentes ángulos de la misma historia.
• Contenido deepfake que se utiliza en anuncios y películas para reducir la edad de los actores o recuperar a los fallecidos.
• Las aplicaciones y tecnologías deepfake se vuelven cada vez más accesibles y de bajo costo, lo que permite que más personas participen en la propaganda y la desinformación.
• Más países que exigen a las empresas que revelen el uso de contenido, personajes, escritores, celebridades e influencers generados por IA.

Preguntas para comentar

• ¿Cómo se utiliza la IA generativa en su línea de trabajo, si es que se utiliza?
• ¿Cuáles son los otros beneficios y peligros de usar IA para producir contenido en masa?