生成对抗网络（GAN）：合成媒体时代

• 作者：
• 作者姓名

  量子运行远见
• 2023 年 12 月 5 日

洞察总结

生成对抗网络 (GAN) 以创建深度伪造品而闻名，可生成模仿现实生活中的面孔、声音和举止的合成数据。 它们的用途范围从增强 Adob​​e Photoshop 到在 Snapchat 上生成逼真的滤镜。 然而，GAN 引起了道德问题，因为它们经常被用来制作误导性的深度伪造视频并传播错误信息。 在医疗保健领域，人们对 GAN 训练中的患者数据隐私感到担忧。 尽管存在这些问题，GAN 仍有有益的应用，例如协助刑事调查。 它们在电影制作和营销等各个领域的广泛使用，促使人们呼吁采取更严格的数据隐私措施和政府对 GAN 技术进行监管。

生成对抗网络 (GAN) 背景

GAN 是一种深度神经网络，可以生成与其训练数据相似的新数据。 相互竞争以产生有远见的作品的两个主要模块称为生成器和鉴别器。 生成器负责创建新数据，而鉴别器则尝试区分生成的数据和训练数据。 生成器不断地试图通过创建看起来尽可能真实的信息来欺骗鉴别器。 为此，生成器需要了解数据的底层分布，从而允许 GAN 无需实际记忆即可创建新信息。

当 Google 研究科学家 Ian Goodfellow 和他的队友于 2014 年首次开发 GAN 时，该算法在机器学习方面展现出了巨大的前景。 从那时起，GAN 在不同行业中得到了广泛的实际应用。 例如，Adobe 将 GAN 用于下一代 Photoshop。 Google 利用 GAN 的强大功能来生成文本和图像。 IBM 有效地使用 GAN 进行数据增强。 Snapchat 利用它们来实现高效的图像过滤器，迪士尼利用它们来实现超分辨率。 

破坏性影响

虽然 GAN 最初是为了改进机器学习而创建的，但它的应用已经跨越了有争议的领域。 例如，不断创建深度伪造视频来模仿真人，并使其看起来像是他们在做或说的事情他们没有做或说过。 例如，有一段视频显示美国前总统巴拉克·奥巴马(Barack Obama)用贬义词称呼美国前总统唐纳德·特朗普(Donald Trump)，而Facebook首席执行官马克·扎克伯格(Mark Zuckerburg)则吹嘘自己能够控制数十亿被盗数据。 这些都没有发生在现实生活中。 此外，大多数深度伪造视频都针对女性名人，并将她们放入色情内容中。 GAN 还能够从头开始创建虚构的照片。 例如，LinkedIn 和 Twitter 上的几个深度造假记者账户原来是人工智能生成的。 这些综合资料可用于创建宣传人员可以使用的听起来逼真的文章和思想领导力文章。 

与此同时，在医疗保健领域，人们越来越担心使用实际患者数据库作为算法的训练数据可能会泄露数据。 一些研究人员认为，必须有额外的安全或屏蔽层来保护个人信息。 然而，尽管 GAN 主要以其欺骗人的能力而闻名，但它也有积极的好处。 例如，2022年13月，荷兰警方重新制作了一段2003年被谋杀的XNUMX岁男孩的视频。警方希望通过使用受害者的真实镜头，鼓励人们记住受害者并挺身而出。有关悬案的新信息。 警方声称他们已经收到了一些举报，但必须进行背景调查以核实这些线索。

生成对抗网络（GAN）的应用

生成对抗网络（GAN）的一些应用可能包括： 

• 电影制作行业创建深度伪造内容，以在后期制作的电影中放置合成演员并重新拍摄场景。 这一策略可以转化为长期成本节约，因为他们不需要向演员和工作人员支付额外的报酬。
• 越来越多地使用深度伪造文本和视频来促进不同政治派别的意识形态和宣传。
• 公司使用合成视频来创建精心设计的品牌和营销活动，而无需雇用程序员以外的实际人员。
• 团体游说加强对医疗保健和其他个人信息的数据隐私保护。 这种阻力可能会迫使公司开发不基于实际数据库的培训数据。 然而，结果可能不那么准确。
• 政府监管和监控生产 GAN 技术的公司，以确保该技术不会被用于错误信息和欺诈。

要评论的问题

• 您有使用过 GAN 技术的经历吗？ 体验如何？
• 公司和政府如何确保 GAN 的使用符合道德规范？