量子运行

图片来源：

iStock

生成算法：这会成为 2020 年代最具颠覆性的技术吗？

计算机生成的内容越来越像人类，以至于无法检测和转移。

作者：
作者姓名
量子运行远见
2023 年 2 月 21 日

尽管生成算法引发了早期的 Deepfake 丑闻，但这些人工智能 (AI) 技术仍然是许多行业（从媒体公司到广告公司再到电影制片厂）用来创建可信内容的强大工具。一些专家认为，生成人工智能应该受到更密切的监控，因为这些人工智能算法的能力很快就会有可能扭曲和欺骗公众，更不用说大量白领劳动力的自动化了。

生成算法上下文

自 2010 年代以来，生成式 AI 或可以在最少人为干预的情况下创建内容（包括文本、音频、图像、视频等）的算法取得了长足的进步。例如，OpenAI 的 Generative Pre-trained Transformer 3 (GPT-3) 于 2020 年发布，被认为是同类神经网络中最先进的。它可以生成与人们编写的内容几乎没有区别的文本。然后在 2022 年 XNUMX 月，OpenAI 发布了 ChatGPT，该算法吸引了消费者、私营部门和媒体的极大兴趣，因为它具有对用户提示提供详细响应并跨多个领域清晰回答的惊人能力。

另一种越来越受欢迎（和声名狼藉）的生成人工智能技术是深度造假。 deepfakes 背后的技术利用生成对抗网络 (GAN)，其中两种算法相互训练以生成尽可能接近原始图像的图像。虽然这项技术听起来很复杂，但它已经变得相对容易生产。许多在线应用程序，例如 Faceswap 和 ZAO Deepswap，都可以在几分钟内（在某些应用程序中甚至是即时的）创建 deepfake 图像、音频和视频。

虽然所有这些生成式人工智能工具最初都是为了推进机器和深度学习技术而开发的，但它们也被用于不道德的行为。下一代虚假信息和宣传活动使用这些工具蓬勃发展。人工智能生成的专栏文章、视频和图像等合成媒体导致假新闻泛滥。 Deepfake 评论机器人甚至被用来在网上骚扰女性和少数族裔。

破坏性影响

生成式 AI 系统正迅速在众多行业中得到广泛应用。计算机协会在 2022 年发表的一项研究发现，美联社、福布斯、纽约时报、华盛顿邮报和 ProPublica 等领先的媒体公司使用人工智能从头开始生成整篇文章。这些内容包括有关犯罪、金融市场、政治、体育赛事和外交事务的报道。

在为不同的应用程序编写文本时，生成人工智能也更频繁地用作输入，从用户和公司生成的内容到政府机构编写的报告。当 AI 编写文本时，它的参与通常不会被透露。一些人认为，鉴于滥用的可能性，人工智能用户应该对其使用保持透明。事实上，根据 2020 年算法正义和在线平台透明度法案的提议，这种类型的披露很可能会在 2021 年代后期成为法律。

另一个需要生成人工智能披露的领域是广告。 2021 年发表在《广告杂志》上的一项研究发现，广告商正在使许多流程自动化，以创建通过数据分析和修改生成的“合成广告”。

广告商经常使用操纵策略使广告更加个性化、理性或感性，以便消费者愿意购买产品。广告操纵涉及对广告所做的任何更改，例如修饰、化妆和照明/角度。然而，数字操纵行为已经变得如此严重，以至于它们可能导致青少年不切实际的审美标准和身体畸形。英国、法国和挪威等多个国家/地区已强制要求广告商和有影响力的人明确声明其内容是否已被操纵。

生成算法的含义

生成算法的更广泛影响可能包括：

许多白领职业——例如软件工程、律师、客户服务代表、销售代表等——将看到他们低价值工作职责的自动化程度越来越高。这种自动化将提高普通工人的生产率，同时减少公司过度雇佣的需要。因此，在全球劳动力因婴儿潮一代退休而萎缩的关键时期，更多公司（尤其是规模较小或知名度较低的公司）将获得熟练的专业人员。
生成式 AI 被用来代笔评论文章和思想领袖文章。
越来越多地使用生成 AI 来简化数字版本控制，其中同时编写同一故事的不同角度。
广告和电影中使用 Deepfake 内容来让演员减龄或让已故演员复活。
Deepfake 应用程序和技术变得越来越容易获得且成本低廉，使更多人能够参与宣传和虚假信息。
更多国家/地区要求公司披露使用 AI 生成的内容、人物角色、作家、名人和有影响力的人。