人工智能接管互聯網：機器人要劫持網絡世界了嗎？

• 作者：
• 作者姓名

  量子運行遠見
• 2023 年 1 月 3 日

網路充滿了演算法和人工智慧，它們管理著我們能想到的所有流程——從客戶服務到交易再到串流娛樂。然而，隨著人工智慧變得越來越先進，人類在追蹤機器人的進展時可能需要更加警惕。

人工智慧接管網路環境

在網路的早期，大多數內容都是靜態的（例如，互動性極小的文字和圖像），並且許多線上活動是由人類提示或命令發起的。然而，隨著組織繼續設計、安裝和同步更多的線上演算法和機器人，網路的人類時代可能很快就會結束。 （就上下文而言，機器人是互聯網或其他網路上可以與系統或用戶互動的自主程序。）根據雲端網路安全公司Imperva Incapsula 的數據，2013 年，只有31% 的網路流量由搜尋引擎和「好機器人”組成。 ”其餘的包含惡意元素，例如垃圾郵件發送者（電子郵件駭客）、抓取工具（從網站資料庫竊取私人資訊）和模仿者（煽動分散式拒絕服務攻擊，從而淹沒目標伺服器的網路流量）。

隨著虛擬助理執行更複雜的任務，機器人與人類的線上互動變得越來越普遍。例如，Google助理可以打電話給美髮沙龍安排約會，而不僅僅是設定日曆提醒或發送簡單的簡訊。下一步是機器人對機器人的交互，其中兩個機器人代表其所有者執行任務，例如在一側自主申請工作並在另一側處理這些申請。

破壞性影響

隨著線上數據共享、交易和互連功能的範圍不斷擴大，人們越來越有動力將越來越多的人類和商業互動自動化。在許多情況下，這些自動化將由演算法或虛擬助理執行，它們總共可以代表絕大多數線上網路流量，從而將人類擠出去。    

此外，網路上越來越多的機器人可以迅速發展到超越人類幹預的程度。非營利組織世界經濟論壇將機器人程式在網路上不受監管的傳播稱為「糾結的網路」。在這種環境中，最初編碼為執行簡單任務的低階演算法透過資料學習進化、滲透網路基礎設施並逃避防火牆。最糟糕的情況是「人工智慧雜草」在網路上蔓延，最終到達並擾亂水和能源管理系統等重要部門。更危險的情況是這些雜草「堵塞」衛星和核子控制系統。 

為了防止自我進化的「流氓機器人」的興起，公司可能會投入更多的資源來嚴格監控他們的演算法，在發布之前對其進行嚴格的測試，並在演算法發生故障時隨時待命「終止開關」。不遵守這些標準也應受到巨額罰款和製裁，以確保正確遵守旨在控制機器人的法規。

人工智慧系統控制網路的影響

對壟斷大部分網路流量的演算法和機器人的更廣泛影響可能包括：

• 隨著更多的監控、管理和交易活動自主處理，商業和公共服務變得越來越有效率和低成本。
• 監控、審核並要求公司對在網路上發布和更新的每個機器人負責的全球法規和政策。
• 增加機器人之間的互動可能會產生更大的數據集，需要更多的超級電腦來處理。這反過來又會增加全球互聯網的能源消耗。
• 人工智慧系統變得足夠有感知能力，可以存在於自己的虛擬世界中，如果不加以監管，它們可以與人類合作，也可以威脅線上控制。

要評論的問題

• 您與網路機器人（例如客戶服務聊天機器人）互動時的體驗如何？ 
• 您在日常生活中使用虛擬協助嗎？