人工智能接管互联网：机器人会劫持网络世界吗？

• 作者：
• 作者姓名

  量子运行远见
• 2023 年 1 月 3 日

互联网充满了算法和人工智能，它们管理着我们能想到的所有流程——从客户服务到交易再到流媒体娱乐。然而，随着人工智能变得越来越先进，人类在跟踪机器人的进展时可能需要更加警惕。

人工智能接管互联网环境

在互联网的早期，大多数内容都是静态的（例如，交互性极小的文本和图像），并且许多在线活动是由人类提示或命令发起的。然而，随着组织继续设计、安装和同步更多的在线算法和机器人，互联网的人类时代可能很快就会结束。 （就上下文而言，机器人是互联网或其他网络上可以与系统或用户交互的自主程序。）根据云网络安全公司 Imperva Incapsula 的数据，2013 年，只有 31% 的互联网流量由搜索引擎和“好机器人”组成。 ”其余的包含恶意元素，例如垃圾邮件发送者（电子邮件黑客）、抓取工具（从网站数据库窃取私人信息）和模仿者（煽动分布式拒绝服务攻击，从而淹没目标服务器的互联网流量）。

随着虚拟助手执行更复杂的任务，机器人与人类的在线交互变得越来越普遍。例如，谷歌助理可以打电话给美发沙龙安排约会，而不仅仅是设置日历提醒或发送简单的短信。下一步是机器人对机器人的交互，其中两个机器人代表其所有者执行任务，例如在一侧自主申请工作并在另一侧处理这些申请。

破坏性影响

随着在线数据共享、交易和互连功能的范围不断扩大，人们越来越有动力将越来越多的人类和商业交互自动化。在许多情况下，这些自动化将由算法或虚拟助手执行，它们总共可以代表绝大多数在线网络流量，从而将人类挤出去。    

此外，互联网上越来越多的机器人可以迅速发展到超出人类干预的范围。非营利组织世界经济论坛将机器人在网上不受监管的传播称为“纠结的网络”。在这种环境中，最初编码为执行简单任务的低级算法通过数据学习进化、渗透网络基础设施并逃避防火墙。最糟糕的情况是“人工智能杂草”在互联网上蔓延，最终到达并扰乱水和能源管理系统等重要部门。更危险的情况是这些杂草“堵塞”卫星和核控制系统。 

为了防止自我进化的“流氓机器人”的兴起，公司可能会投入更多的资源来严格监控他们的算法，在发布之前对其进行严格的测试，并在算法发生故障时随时待命“终止开关”。不遵守这些标准还应受到巨额罚款和制裁，以确保正确遵守旨在控制机器人的法规。

人工智能系统控制互联网的影响

对垄断大部分网络流量的算法和机器人的更广泛影响可能包括：

• 随着更多的监控、管理和交易活动得到自主处理，商业和公共服务变得越来越高效和低成本。
• 监控、审核并要求公司对在互联网上发布和更新的每个机器人负责的全球法规和政策。
• 增加机器人之间的交互可能会产生更大的数据集，需要更多的超级计算机来处理。这反过来又会增加全球互联网的能源消耗。
• 人工智能系统变得足够有感知能力，可以存在于自己的虚拟世界中，如果不加以监管，它们可以与人类合作，也可以威胁在线控制。

要评论的问题

• 您与互联网机器人（例如客户服务聊天机器人）交互时的体验如何？ 
• 您在日常生活中使用虚拟协助吗？