使用 AI 的自动化网络攻击：当机器成为网络犯罪分子时

• 作者：
• 作者姓名

  量子运行远见
• 2022 年 9 月 30 日

洞察总结

人工智能 (AI) 和机器学习 (ML) 越来越多地用于网络安全，用于保护系统和执行网络攻击。他们从数据和行为中学习的能力使他们能够识别系统漏洞，但也使得追踪这些算法背后的来源变得困难。人工智能在网络犯罪中不断发展的格局引起了 IT 专家的担忧，需要先进的防御策略，并可能导致政府和公司处理网络安全的方式发生重大变化。

使用 AI 上下文的自动网络攻击

人工智能和机器学习保持了几乎所有任务自动化的能力，包括从重复行为和模式中学习，成为识别系统漏洞的强大工具。更重要的是，人工智能和机器学习使得精确定位算法背后的人或实体变得具有挑战性。

2022 年，在美国参议院军事网络安全小组委员会会议上，微软首席科学官埃里克·霍维茨 (Eric Horvitz) 将使用人工智能 (AI) 自动化网络攻击称为“进攻性人工智能”。他强调说，很难确定网络攻击是否是人工智能驱动的。同样，机器学习（ML）也被用来帮助网络攻击；机器学习用于学习常用单词和创建密码的策略，以便更好地破解密码。 

网络安全公司 Darktrace 的一项调查发现，IT 管理团队越来越担心人工智能在网络犯罪中的潜在用途，96% 的受访者表示他们已经在研究可能的解决方案。 IT 安全专家认为，网络攻击方法已从勒索软件和网络钓鱼转向难以检测和转移的更复杂的恶意软件。人工智能网络犯罪的可能风险是在机器学习模型中引入损坏或被操纵的数据。

机器学习攻击可能会影响目前正在开发的支持云计算和边缘人工智能的软件和其他技术。训练数据不足还会加剧算法偏差，例如错误地标记少数群体或影响针对边缘化社区的预测性警务。人工智能可以将微妙但灾难性的信息引入系统，这可能会产生长期的后果。

破坏性影响

乔治城大学研究人员对网络杀伤链（为发起成功的网络攻击而执行的任务清单）进行的一项研究表明，特定的进攻策略可以从 ML 中受益。 这些方法包括鱼叉式网络钓鱼（针对特定人员和组织的电子邮件诈骗）、查明 IT 基础设施中的弱点、将恶意代码传送到网络中，以及避免被网络安全系统检测到。 机器学习还可以增加社会工程攻击成功的机会，人们被欺骗泄露敏感信息或执行金融交易等特定行动。 

此外，网络杀伤链可以自动化一些流程，包括： 

• 广泛的监视——自主扫描仪从目标网络收集信息，包括其连接的系统、防御和软件设置。 
• 大规模武器化——人工智能工具识别基础设施中的弱点并创建代码以渗透这些漏洞。 这种自动检测还可以针对特定的数字生态系统或组织。 
• 交付或黑客攻击——人工智能工具使用自动化来执行鱼叉式网络钓鱼和社会工程以针对数千人。 

截至 2023 年，编写复杂代码仍然属于人类程序员的范畴，但专家认为，用不了多久，机器也会掌握这项技能。 DeepMind 的 AlphaCode 是此类先进人工智能系统的一个突出例子。它通过分析大量代码来学习模式并生成优化的代码解决方案来帮助程序员

使用 AI 进行自动网络攻击的影响

使用 AI 进行自动网络攻击的更广泛影响可能包括： 

• 公司深化其网络防御预算，以开发先进的网络解决方案来检测和阻止自动网络攻击。
• 网络犯罪分子研究 ML 方法以创建可以秘密入侵公司和公共部门系统的算法。
• 精心策划并同时针对多个组织的网络攻击事件增加。
• 用于控制军事武器、机器和基础设施指挥中心的进攻性人工智能软件。
• 用于渗透、修改或利用公司系统以摧毁公共和私人基础设施的攻击性人工智能软件。 
• 一些政府可能会在各自国家网络安全机构的控制和保护下重组其国内私营部门的数字防御。

需要考虑的问题

• 人工智能网络攻击的其他潜在后果是什么？
• 公司还能如何为此类攻击做好准备？