計算宣傳：自動欺騙的時代

• 作者：
• 作者姓名

  量子運行遠見
• 2022 年 11 月 21 日

洞察總結

在社交媒體時代，由於計算宣傳（旨在操縱公眾輿論的算法）的傳播，一些人越來越難以相信他們所見所聞。 該技術主要用於影響人們對政治問題的看法。 隨著人工智能 (AI) 系統的不斷發展，計算宣傳可能會被用於更致命的目的。

計算宣傳語境

計算宣傳使用人工智能係統在網上創建和傳播誤導或虛假信息。 特別是，Facebook、谷歌和 Twitter 等大型科技公司因使用其算法操縱公眾輿論而受到批評。 例如，Facebook 在 2016 年被指控使用其算法從其熱門話題部分壓制保守的新聞報導。 與此同時，2016 年美國總統大選是一個備受矚目的案例，據說計算宣傳會影響選民。 例如，谷歌被指控將其搜索結果偏向希拉里·克林頓，而 Twitter 則因允許機器人在選舉期間傳播虛假信息而受到批評。 

計算宣傳的影響在全球範圍內都能感受到，特別是在全國選舉期間，而且往往針對少數群體。 在緬甸，從 2017 年到 2022 年，針對羅興亞穆斯林少數群體的仇恨言論和暴力事件激增。 這種仇恨大部分是由於緬甸民族主義團體策劃的在線宣傳，散佈假新聞和煽動性視頻，妖魔化羅興亞人。 

計算宣傳的另一個後果是它會削弱對民主和製度的信任。 這種侵蝕可能產生嚴重後果，導致一個國家國內人口的兩極分化和政治動盪加劇。 由於其被證明的有效性，全球許多政府和政黨正在使用人工智能宣傳來武器化社交媒體平台來對抗他們的反對者和批評者。

破壞性影響

由於整合了各種新興的人工智能創新，計算宣傳變得越來越複雜。 一個例子包括自然語言處理 (NLP)，它使人工智能能夠編寫聽起來像人類的原始內容。 此外，任何人都可以下載 deepfake 和語音克隆技術。 這些技術使人們能夠創建虛假角色、冒充公眾人物，並在他們的臥室中進行精心策劃的虛假宣傳活動。 

專家認為，自動化宣傳的危險被以下因素放大：

• 一個不知情的公眾，
• 一個沒有能力處理大量虛假信息的法律體系，以及
• 社交媒體公司幾乎沒有針對剝削的保護。

計算宣傳的一個潛在解決方案是美國國會向社群媒體公司施壓，要求其驗證其用戶的身份。社群媒體平台的另一個解決方案是採用修改後的系統，第三方在允許個人建立帳戶之前以加密方式驗證其身分。

然而，由於社群媒體平台不斷變化和發展，這些措施實施起來具有挑戰性。這些公司很難根據不斷變化的線上使用情況來驗證用戶。此外，許多人對政府監管通訊平台持謹慎態度，因為這可能是一種審查形式。

計算宣傳的影響

計算宣傳的更廣泛影響可能包括： 

• 政府越來越多地使用社交媒體和假新聞網站進行國家贊助的計算宣傳，以影響選舉、政策和外交事務。
• 越來越多地使用社交媒體機器人、虛假賬戶和人工智能生成的個人資料，旨在傳播有關捏造新聞和視頻的虛假信息。
• 由網上虛假宣傳活動引起的更多暴力事件（例如，公共騷亂、暗殺企圖等）可能傷害公民、破壞公共財產並擾亂基本服務。
• 增加對旨在培訓公眾識別虛假信息和假新聞的公共資助項目的投資。
• 加強對少數民族和少數群體的歧視，導致更多的種族滅絕和更低的生活質量。
• 科技公司部署先進的檢測演算法來識別和反擊計算宣傳，從而提高數位媒體的完整性和用戶信任度。
• 教育機構將媒體素養納入課程，培養學生的批判性思維，從計算宣傳中辨別事實資訊。
• 各國之間進行國際合作，制定打擊計算虛假資訊、加強全球數位安全與合作的全球標準與協議。

需要考慮的問題

• 計算宣傳如何影響您的國家？
• 在線消費內容時，您通過哪些方式保護自己免受計算宣傳的影響？