量子运行

图片来源：量子运行

第一个通用人工智能将如何改变社会：人工智能的未来 P2

David Tal，出版商，未来主义者
@DavidTalWrites
LinkedIn

二，09 / 15 / 2020 - 13：08

我们建造了金字塔。我们学会了利用电力。我们了解宇宙大爆炸后（大部分）是如何形成的。当然，老生常谈的例子，我们已经把一个人送上了月球。然而，尽管取得了所有这些成就，人类大脑仍然远远超出现代科学的理解范围，默认情况下，它是已知宇宙中最复杂的物体——或者至少是我们对它的理解。

鉴于这一现实，我们还没有建立与人类相媲美的人工智能 (AI)，这并不令人震惊。像 Data (Star Trek)、Rachael (Blade Runner) 和 David (Prometheus) 这样的 AI，或者像 Samantha (Her) 和 TARS (Interstellar) 这样的非类人 AI，这些都是 AI 发展下一个伟大里程碑的例子：通用人工智能（AGI， 有时也称为 HLMI 或人类级机器智能).

换句话说，人工智能研究人员面临的挑战是：当我们甚至不完全了解自己的思维是如何工作的时候，我们如何才能建立一个与我们自己相媲美的人工思维？

我们将探讨这个问题，以及人类将如何对抗未来的 AGI，最后，在第一个 AGI 向世界宣布后的第二天，社会将如何变化。

什么是通用人工智能？

设计一个可以轻松击败国际象棋、Jeopardy 和围棋中排名靠前的玩家的 AI（深蓝色, 沃森及阿尔法围棋分别）。设计一个人工智能，它可以为您提供任何问题的答案、建议您可能想要购买的物品或管理共享出租车车队——整个价值数十亿美元的公司都是围绕它们建立的（谷歌、亚马逊、优步）。即使是可以将您从该国的一侧带到另一侧的人工智能……嗯，我们正在努力。

但是让人工智能阅读一本儿童读物并理解它试图教授的内容、意义或道德，或者让人工智能分辨一张猫和斑马的照片之间的区别，你最终会导致不止一些短路。

大自然花费了数百万年的时间来发展一种计算设备（大脑），该设备擅长处理、理解、学习，然后在新情况和新环境中采取行动。与过去半个世纪的计算机科学相比，计算机科学专注于创建针对其设计的单一任务量身定制的计算设备。

换句话说，人机是通才，而人工计算机是专家。

创建 AGI 的目标是创建一个可以像人类一样思考和学习的 AI，通过经验而不是通过直接编程。

在现实世界中，这意味着未来的 AGI 通过自己在世界中的经验（使用任何身体或我们给它的感觉器官/设备），并通过它自己的交互与其他人工智能和其他人类。

构建通用人工智能需要什么

虽然在技术上很困难，但创建 AGI 必须是可能的。如果事实上，物理定律中有一个根深蒂固的属性——计算的普遍性——基本上说明了一个物理对象可以做的所有事情，一台足够强大的通用计算机原则上应该能够复制/模拟。

然而，这很棘手。

值得庆幸的是，有很多聪明的人工智能研究人员在研究这个案例（更不用说有很多企业、政府和军事资金支持他们），到目前为止，他们已经确定了他们认为有必要解决的三个关键因素，以便带来AGI 进入我们的世界。

大数据. 人工智能开发最常见的方法涉及一种称为深度学习的技术——一种特定类型的机器学习系统，它通过收集大量数据、在模拟神经元网络（模仿人脑）中处理所述数据，然后使用这些发现来规划自己的见解。 有关深度学习的更多详细信息， 阅读本.

例如，在2017，谷歌为其人工智能提供了数千张猫的图像，其深度学习系统不仅用于学习如何识别猫，还用于区分不同的猫品种。不久之后，他们宣布即将发布 Google镜头，一个新的搜索应用程序，让用户可以拍摄任何东西，谷歌不仅会告诉你它是什么，而且会提供一些有用的上下文内容来描述它——在旅行时很方便，你想了解更多关于特定旅游景点的信息。但在这里，如果没有目前在其图像搜索引擎中列出的数十亿张图像，Google Lens 也将无法实现。

然而，这种大数据和深度学习的组合仍然不足以带来 AGI。

更好的算法. 在过去的十年里，谷歌的子公司和人工智能领域的领导者 DeepMind 通过将深度学习的优势与强化学习相结合而引起轰动——这是一种免费的机器学习方法，旨在教人工智能如何在新环境中采取行动以实现一个既定的目标。

由于这种混合战术，DeepMind 的首个 AI AlphaGo 不仅通过下载规则和研究人类高手的策略自学了如何玩 AlphaGo，而且在与自己对战数百万次之后，还能够击败最优秀的 AlphaGo 玩家使用游戏中从未见过的动作和策略。

同样，DeepMind 的 Atari 软件实验包括为 AI 提供一个摄像头以查看典型的游戏屏幕，对其进行编程，使其能够输入游戏命令（如操纵杆按钮），并为其设定增加分数的单一目标。结果？几天之内，它就自学了如何玩以及如何掌握数十款经典街机游戏。

但是，尽管这些早期的成功令人兴奋，但仍有一些关键挑战需要解决。

一方面，人工智能研究人员正致力于教授人工智能一种叫做“分块”的技巧，人类和动物的大脑都非常擅长这种技巧。简而言之，当你决定出去买杂货时，你可以想象你的最终目标（买一个鳄梨）和一个粗略的计划（离开家，去杂货店，买鳄梨，回家）。你不做的是计划每一次呼吸，每一步，每一个可能的意外事件。相反，您的脑海中有一个概念（块），即您想去哪里，并根据出现的任何情况调整您的旅行。

尽管你可能觉得这种能力很常见，但这种能力是人类大脑仍然比人工智能拥有的关键优势之一——它是在事先不知道每一个细节的情况下设定目标并追求它的适应性，尽管我们有任何障碍或环境变化。可能会遇到。这项技能将使 AGI 能够更有效地学习，而无需上述大数据。

另一个挑战是不仅要读书，还要明白意思或背后的背景。从长远来看，这里的目标是让人工智能阅读一篇报纸文章，并能够准确回答一系列关于它所阅读内容的问题，有点像写一篇读书报告。这种能力将使人工智能从简单的计算数字的计算器转变为计算意义的实体。

总体而言，可以模仿人脑的自学习算法的进一步发展将在最终创建 AGI 中发挥关键作用，但除了这项工作之外，人工智能社区还需要更好的硬件。

更好的硬件. 使用上面解释的当前方法，只有在我们认真提高可用于运行它的计算能力之后，AGI 才会成为可能。

就上下文而言，如果我们将人脑的思考能力转换为计算项，那么人类平均心智能力的粗略估计是 1,000 exaflop，相当于 XNUMX petaflops（'Flop' 代表浮点运算每第二，测量计算速度）。

相比之下，到 2018 年底，世界上最强大的超级计算机，日本的人工智能桥接云将以 130 petaflops 嗡嗡声，远低于 XNUMX exaflop。

正如我们在超级计算机我们的章节计算机的未来系列，美国和中国都在努力到 2022 年建造自己的 exaflop 超级计算机，但即使他们成功了，这可能还不够。

这些超级计算机以几十兆瓦的功率运行，占用数百平方米的空间，建造成本达数亿美元。人脑仅使用 20 瓦的功率，可放入周长约 50 厘米的头骨内，我们有 2018 亿人（XNUMX 年）。换句话说，如果我们想让 AGI 像人类一样普遍，我们需要学习如何更经济地创造它们。

为此，人工智能研究人员开始考虑用量子计算机为未来的人工智能提供动力。更详细的描述在量子计算机在我们的计算机未来系列的章节中，这些计算机的工作方式与我们过去半个世纪以来一直在建造的计算机完全不同。一旦到 2030 年代完善，单台量子计算机的计算量将超过目前在 2018 年全球运行的每台超级计算机。与当前的超级计算机相比，它们也将更小，消耗的能量也少得多。

通用人工智能如何优于人类？

让我们假设上面列出的每一个挑战都得到了解决，人工智能研究人员在创建第一个 AGI 方面取得了成功。 AGI 思维与我们自己的思维有何不同？

要回答这类问题，我们需要将 AGI 思维分为三类，即生活在机器人体内的思维（数据来自 星际迷航），那些具有物理形式但无线连接到互联网/云的那些（史密斯特工来自矩阵) 和那些完全生活在计算机或在线中的没有物理形式的人 (Samantha from 她的).

首先，与网络隔离的机器人体内的 AGI 将与人类思维竞争，但具有以下优势：

记忆力：根据AGI机器人形态的设计，它们的短期记忆力和关键信息的记忆力肯定会优于人类。但归根结底，假设我们将机器人设计成看起来像人类，那么可以将多少硬盘空间装入机器人是有物理限制的。出于这个原因，AGI 的长期记忆将与人类非常相似，主动忘记被认为对其未来功能不必要的信息和记忆（以释放“磁盘空间”）。
速度：人脑内神经元的性能最高约为 200 赫兹，而现代微处理器以千兆赫兹级别运行，比神经元快数百万倍。这意味着与人类相比，未来的 AGI 将比人类更快地处理信息和做出决策。请注意，这并不一定意味着这个 AGI 会比人类做出更聪明或更正确的决定，只是他们可以更快地得出结论。
表现：简单地说，如果人脑在没有休息或睡眠的情况下工作太久就会感到疲倦，而当它工作时，它的记忆力以及学习和推理的能力就会受损。同时，对于 AGI 来说，假设他们定期充电（电力），他们不会有这个弱点。
可升级性：对于一个人来说，学习一个新习惯可能需要数周的练习，学习一项新技能可能需要数月时间，学习一项新职业可能需要数年时间。对于 AGI，他们将有能力通过经验（如人类）和直接上传数据来学习，类似于您定期更新计算机操作系统的方式。这些更新可以应用于 AGI 物理形态的知识升级（新技能）或性能升级。

接下来，让我们看看具有物理形式但也无线连接到互联网/云的 AGI。与非连接 AGI 相比，我们可以在此级别看到的差异包括：

记忆：这些 AGI 将具有以前 AGI 类所具有的所有短期优势，除了它们还将受益于完美的长期记忆，因为它们可以将这些记忆上传到云中以便在需要时进行访问。显然，在连接性较低的地区无法访问此内存，但在 2020 年代和 2030 年代，当更多的世界上线时，这将变得不那么令人担忧。阅读更多第一章我们互联网的未来系列。
速度：根据这个 AGI 面临的障碍类型，他们可以访问更大的云计算能力来帮助他们解决问题。
性能：与未连接的 AGI 相比，没有区别。
可升级性：与可升级性相关的 AGI 之间的唯一区别在于，它们可以无线实时访问升级，而不必访问并插入升级仓库。
集体：人类成为地球的主导物种不是因为我们是最大或最强壮的动物，而是因为我们学会了如何以各种方式进行交流和协作以实现集体目标，从猎杀猛犸象到建造国际空间站。一个 AGI 团队将把这种合作提升到一个新的水平。鉴于上面列出的所有认知优势，然后将其与面对面和远距离无线通信的能力相结合，未来的 AGI 团队/蜂巢思维理论上可以比人类团队更有效地处理项目。

最后，最后一种 AGI 是没有物理形式的版本，它在计算机内部运行，可以访问其创建者提供的全部计算能力和在线资源。在科幻节目和书籍中，这些 AGI 通常采用专家虚拟助手/朋友或宇宙飞船的灵活操作系统的形式。但与其他两类 AGI 相比，这个 AI 会在以下几个方面有所不同；

速度：无限制（或者，至少在它可以访问的硬件的限制范围内）。
内存：无限
性能：由于可以访问超级计算中心，因此提高了决策质量。
可升级性：绝对的、实时的，并且具有无限的认知升级选择。当然，由于这个 AGI 类别没有物理机器人形式，因此它不需要可用的物理升级，除非这些升级是针对其运行的超级计算机。
集体：与之前的 AGI 类别类似，这种无身体的 AGI 将与其 AGI 同事有效协作。然而，鉴于其更直接地访问无限计算能力和访问在线资源，这些 AGI 通常将在整个 AGI 集体中担任领导角色。