使用 AI 的自動化網絡攻擊：當機器成為網絡犯罪分子時

• 作者：
• 作者姓名

  量子運行遠見
• 2022 年 9 月 30 日

洞察總結

人工智慧 (AI) 和機器學習 (ML) 越來越多地用於網路安全，用於保護系統和執行網路攻擊。他們從數據和行為中學習的能力使他們能夠識別系統漏洞，但也使得追蹤這些演算法背後的來源變得困難。人工智慧在網路犯罪中不斷發展的格局引起了 IT 專家的擔憂，需要先進的防禦策略，並可能導致政府和公司處理網路安全的方式發生重大變化。

使用 AI 上下文的自動網絡攻擊

人工智慧和機器學習保持了幾乎所有任務自動化的能力，包括從重複行為和模式中學習，成為識別系統漏洞的強大工具。更重要的是，人工智慧和機器學習使得精確定位演算法背後的人或實體變得具有挑戰性。

2022 年，在美國參議院軍事網路安全小組委員會會議上，微軟首席科學官 Eric Horvitz 將使用人工智慧 (AI) 自動化網路攻擊稱為「進攻性人工智慧」。他強調說，很難確定網路攻擊是否是人工智慧驅動的。同樣，機器學習（ML）也被用來幫助網路攻擊；機器學習用於學習常用單字和創建密碼的策略，以便更好地破解密碼。 

網路安全公司 Darktrace 的一項調查發現，IT 管理團隊越來越擔心人工智慧在網路犯罪中的潛在用途，96% 的受訪者表示他們已經在研究可能的解決方案。 IT 安全專家認為，網路攻擊方法已從勒索軟體和網路釣魚轉向難以偵測和轉移的更複雜的惡意軟體。人工智慧網路犯罪的可能風險是在機器學習模型中引入損壞或被操縱的資料。

機器學習攻擊可能會影響目前正在開發的支援雲端運算和邊緣人工智慧的軟體和其他技術。訓練資料不足也會加劇演算法偏差，例如錯誤地標記少數群體或影響針對邊緣化社群的預測性警務。人工智慧可以將微妙但災難性的資訊引入系統，這可能會產生長期的後果。

破壞性影響

喬治城大學研究人員對網絡殺傷鏈（為發起成功的網絡攻擊而執行的任務清單）進行的一項研究表明，特定的進攻策略可以從 ML 中受益。 這些方法包括魚叉式網絡釣魚（針對特定人員和組織的電子郵件詐騙）、查明 IT 基礎設施中的弱點、將惡意代碼傳送到網絡中，以及避免被網絡安全系統檢測到。 機器學習還可以增加社會工程攻擊成功的機會，人們被欺騙洩露敏感信息或執行金融交易等特定行動。 

此外，網絡殺傷鏈可以自動化一些流程，包括： 

• 廣泛的監視——自主掃描儀從目標網絡收集信息，包括其連接的系統、防禦和軟件設置。 
• 大規模武器化——人工智能工具識別基礎設施中的弱點並創建代碼以滲透這些漏洞。 這種自動檢測還可以針對特定的數字生態系統或組織。 
• 交付或黑客攻擊——人工智能工具使用自動化來執行魚叉式網絡釣魚和社會工程以針對數千人。 

截至 2023 年，編寫複雜程式碼仍屬於人類程式設計師的範疇，但專家認為，用不了多久，機器也會掌握這項技能。 DeepMind 的 AlphaCode 是此類先進人工智慧系統的一個突出例子。它透過分析大量程式碼來學習模式並產生最佳化的程式碼解決方案來幫助程式設計師

使用 AI 進行自動網絡攻擊的影響

使用 AI 進行自動網絡攻擊的更廣泛影響可能包括： 

• 公司深化其網絡防禦預算，以開發先進的網絡解決方案來檢測和阻止自動網絡攻擊。
• 網絡犯罪分子研究 ML 方法以創建可以秘密入侵公司和公共部門系統的算法。
• 精心策劃並同時針對多個組織的網絡攻擊事件增加。
• 用於控制軍事武器、機器和基礎設施指揮中心的進攻性人工智能軟件。
• 攻擊性人工智能軟件用於滲透、修改或利用公司的系統，以摧毀公共和私人基礎設施。 
• 一些政府可能會在各自國家網絡安全機構的控制和保護下重組其國內私營部門的數字防禦。

需要考慮的問題

• 人工智能網絡攻擊的其他潛在後果是什麼？
• 公司還能如何為此類攻擊做好準備？