宣傳機器人：數字煽動者大軍

• 作者：
• 作者姓名

  量子運行遠見
• 2022 年 10 月 26 日

洞察總結

在社群媒體時代，線上機器人已成為傳播宣傳的越來越常見的工具。這些機器人是旨在模仿真人的自動化帳戶，可用於透過傳播虛假訊息來影響政治和時事。這些機器人使用增加的長期影響可能包括公司和政黨利用它們來操縱公眾輿論，以及更多合成的社交媒體帳戶煽動有爭議的辯論和政策的火焰。

宣傳機器人上下文

機器人使用人工智慧 (AI) 軟體，可以自主執行操作，例如分享訊息、重新分享、按讚、追蹤、取消追蹤或直接向媒體平台上的各個帳號發送訊息。由於人工智慧軟體應用程式的多樣性，媒體和社會運動已經採用了這項技術，以增加與會員群的互動和影響力。宣傳機器人在流氓政府、組織和活動團體中越來越受歡迎，因為創建和管理它們的軟體平台變得越來越容易訪問和使用。

這些機器人具有高度通用性和可編程性，這使得它們在透過針對特定社群來影響公眾輿論方面特別有效。這些機器人可以傳播有關候選人和問題的虛假訊息，或騷擾持相反觀點的人。此外，他們還可以創建虛假的社交媒體資料來製造對特定候選人或事業的支持。特別是，社群媒體平台 Twitter 已成為這些機器人的避風港，因為該網站非常適合發送簡短的書面訊息。 

宣傳機器人被部署在幾場備受矚目的政治運動中，包括 2016 年的美國總統大选和英國脫歐公投。在這兩種情況下，機器人都會傳播錯誤信息並在選民之間播下不和。 雖然宣傳機器人不僅限於威權國家，但它們在言論自由受到限制的地方也很普遍。 在這些國家，政府經常使用機器人來控制人口並鎮壓抗議和異議。 例如中國和俄羅斯，它們經常使用人工智能 (AI) 和機器學習 (ML) 算法在其高度受限的互聯網網絡中充斥著政府傾向的內容。

破壞性影響

促使宣傳機器人興起的一些重要發展是人工智能生成文本的能力不斷提高，以及社交媒體聊天機器人的日益普及。 文本生成軟件足夠複雜，大多數時候可以欺騙許多人。 文本生成軟件可以就高度複雜的國家問題撰寫有影響力的專欄文章，或在商家網站上與消費者交談。 這些機器人甚至被聲稱是合法的本地新聞來源但提供虛假信息的網站（也稱為粉紅粘液新聞）使用。

2017 年，美國聯邦通信委員會 (FCC) 收到了超過 22 萬條關於網絡中立性的公眾輿論邀請。 大約一半的評論似乎是欺詐性的，使用了被盜的身份。 這些評論過於簡單。 大約 1.3 萬個是從同一個模板中生成的，其中一些單詞被更改為看起來不同。 

而在 2020 年，哈佛大學研究員 Max Weiss 創建了文本生成軟件，在政府關於國家健康保險計劃 Medicaid 的呼籲中撰寫了 1,000 條評論。 Weiss 進行了這項研究，以證明對宣傳機器人進行編程是多麼容易。 這些評論都是獨一無二且可信的，以至於醫療補助管理人員認為它們是真實的。 Weiss 隨後將他正在進行的研究告知 Medicaid，並刪除了評論，以防止任何政策辯論變得有偏見。 

宣傳機器人的影響

宣傳機器人的更廣泛影響可能包括： 

• 公司使用宣傳機器人創建有價值的公共關係內容以恢復其企業聲譽。
• 越來越多的個性化短信和電子郵件協助網絡犯罪分子實施身份盜竊、欺詐和網絡釣魚。
• 租用宣傳機器人供個人使用的個人； 例如，使用機器人來增加社交媒體關注者並在線騷擾人們。
• 更多由人工智能驅動的角色向報紙和民選官員發送信件，向公共規則制定過程提交個人評論，並在社交媒體上討論政治問題。
• 政府試圖對大型科技公司實施更嚴格的審核立法，以規範機器人的使用和創建。
• 企業適應宣傳機器人的監控功能，進而加強對員工生產力和顧客行為的監控。
• 隨著區分真實內容和機器人生成的內容變得具有挑戰性，消費者的懷疑情緒加劇，影響了品牌信任和行銷效果。
• 政策制定者面臨著平衡言論自由與遏制錯誤訊息的困境，影響了數位通訊平台的立法範圍。

需要考慮的問題

• 個人和組織如何保護自己免於在不知不覺中與宣傳機器人進行對話？
• 機器人還能如何改變公共辯論和討論？
• 您最近遇到過哪些社交媒體宣傳機器人？