Deepfakes：對企業和個人的網絡安全威脅

• 作者：
• 作者姓名

  量子運行遠見
• 2022 年 1 月 16 日

洞察總結

Deepfake 技術融合了人工智慧和機器學習，已成為重大的網路安全威脅，能夠創建令人信服的真實但虛假的音訊和視訊內容。 網路犯罪分子利用這項技術來冒充個人，從而導致潛在的經濟損失和安全系統遭到破壞。 作為回應，各國政府、社群媒體平台和網路安全專業人士正在採取措施應對這項威脅，包括開發偵測軟體、立法和公共教育措施。

Deepfake 網絡安全背景

Deepfake 技術在 2021 年成為對個人和組織的巨大網路安全威脅。攻擊者和惡意行為者現在使用 Deepfake 來複製真人的聲音和圖像。 在私部門背景下，這種新的網路威脅可能會導致重大的財務損失。 

Deepfake 技術通過應用人工智能 (AI) 和機器學習 (ML) 來創建合成人類視頻或聲音，以及操縱真實的視覺和音頻內容，將“深度學習”和“假”這兩個詞結合起來。 Deepfakes 使用深度學習算法，當給定大型數據集時，它會自學如何解決問題。 Deepfakes 用於在視頻和數字內容中交換真人的面孔，以製作看起來真實但虛假的內容。 

同樣，同樣的技術也可以應用於音頻文件。 例如，語音模仿在現代已被用於各種應用。 但是，可以使用 AI 和 ML 使用最少的音頻樣本創建聽起來真實的語音克隆。 這些語音克隆已被早已去世的音樂家用來創作新的和真實的歌曲。 音頻深度偽造也被用於電影、媒體和政治信息中。 然而，自從幾年前出現第一個 deepfake 以來，這項技術一直被認為是對安全、地緣政治和文化具有重大影響的威脅。

破壞性影響

Deepfakes 幫助網絡攻擊者克服了一個關鍵障礙，即難以令人信服地冒充另一個人。 Deepfakes 是一種人工智能驅動的技術，一些網絡犯罪分子越來越多地嘗試通過創建能夠欺騙和欺騙毫無戒心的用戶的真人視頻或錄音來冒充真人。 

同時，2019 年，由犯罪分子破壞商業電子郵件造成的網絡攻擊導致的經濟損失比任何其他形式的網絡攻擊都要高。借助 deepfake 技術，攻擊者可以結合使用電子郵件網絡釣魚和真實語音消息來滲透安全系統。 例如，專家報告說，網絡犯罪分子傾向於使用輕鬆的方式來欺騙用戶，通過發送帶有深度偽造語音消息的商業電子郵件或經理或高管的 mp4 錄音來說服商業用戶點擊某些鏈接。 不幸的是，這些用戶被迫下載惡意軟件。

由於深度偽造的易用性和日益複雜的程度，政府和社交媒體平台正在採取措施防止使用深度偽造來操縱消費者。 例如，加利福尼亞通過了一項名為 AB 730 的法案，旨在限制在政治活動中使用 deepfake。 Facebook 和 Twitter 已採取措施打擊 deepfakes，宣布他們的舉措（在 2021 年）刪除為惡意意圖創建的 deepfakes。  

目前，存在檢測和識別深度偽造的技術和軟件，通常是通過識別深度偽造使用的算法中發現的重複模式。 然而，更複雜的深度偽造總是被構建來擊敗這些檢測應用程序，這意味著網絡安全專業人員必須在這項技術之前不斷創新。 

Deepfake 網路安全的影響

深度造假網路安全的更廣泛影響可能包括：

• 通過使用 AI 對抗 AI deepfakes，對抗越來越多的針對企業和個人的網絡攻擊。
• 識別和防止惡意音頻和視頻的使用。 例如，包含噪聲像素以分析聲譜或媒體文件幀，或防止修改視頻以檢測任何形式的失真。
• 減少或防止可能欺騙選民或損害候選人聲譽的政治競選廣告。
• 需要先進的數位素養計劃來教育大眾辨別真實內容和被操縱的內容。
• 巨額財務損失需要開發複雜的詐欺偵測系統，這可能會在網路安全領域創造新的就業機會。
• 旨在檢測和打擊深度造假的反技術的發展，導致了動態且不斷發展的技術格局。
• 對網路安全專業人員的需求增加，導致該行業的就業成長以及對專門培訓和教育計劃的需求。

需要考慮的問題

• 除了防止對政治運動的操縱之外，政府可以製定哪些可能的法規來防止深度偽造的傳播？
• 即使網絡安全專業人員和機構正在構建軟件和開發檢測和識別深度偽造的技術，使用深度偽造會破壞信任嗎？