情感 AI：我們是否希望 AI 理解我們的感受？

• 作者：
• 作者姓名

  量子運行遠見
• 2022 年 9 月 6 日

洞察總結

情緒人工智慧 (AI) 正在改變機器在醫療保健、行銷和客戶服務領域理解人類情感和做出反應的方式。儘管對其科學基礎和隱私問題存在爭議，但這項技術正在迅速發展，蘋果和亞馬遜等公司將其整合到他們的產品中。它的日益增長的使用引發了有關隱私、準確性以及加深偏見的可能性的重要問題，從而促使需要謹慎的監管和道德考慮。

情感人工智能情境

人工智慧系統正在學習識別人類情緒，並在從醫療保健到行銷活動等各個領域利用這些資訊。例如，網站使用表情符號來衡量觀眾對其內容的反應。然而，情感AI真的如它所聲稱的那樣嗎？ 

情感 AI（也稱為情感計算或人工情感智能）是 AI 的一個子集，可測量、理解、模擬和響應人類情感。 該學科可以追溯到 1995 年，當時麻省理工學院媒體實驗室教授 Rosalind Picard 出版了《情感計算》一書。 根據麻省理工學院媒體實驗室的說法，情感人工智能允許人與機器之間進行更自然的互動。 情緒 AI 試圖回答兩個問題：人類的情緒狀態是什麼，他們會如何反應？ 收集到的答案會嚴重影響機器提供服務和產品的方式。

人工情感智能經常與情感分析互換，但它們在數據收集方面有所不同。 情感分析側重於語言研究，例如根據社交媒體帖子、博客和評論的基調來確定人們對特定主題的看法。 然而，情感人工智能依靠面部識別和表情來確定情緒。 其他有效的計算因素是語音模式和生理數據，如眼球運動的變化。 一些專家認為情緒分析是情緒人工智能的一個子集，但隱私風險較小。

破壞性影響

2019年，包括美國東北大學和格拉斯哥大學在內的一組跨大學研究人員發表的研究表明，情緒人工智慧並不具備堅實的科學基礎。該研究強調，無論是由人類還是人工智慧進行分析並不重要；重要的是。根據面部表情準確預測情緒狀態具有挑戰性。研究人員認為，表情並不是提供有關個體的明確且獨特訊息的指紋。

不過，有些專家並不同意這項分析。 Hume AI 的創辦人 Alan Cowen 認為，現代演算法已經開發出準確對應人類情感的資料集和原型。 Hume AI 籌集了 5 萬美元的投資資金，使用來自美洲、非洲和亞洲的人員資料集來訓練其情緒 AI 系統。 

情感 AI 領域的其他新興參與者包括 HireVue、Entropik、Emteq 和 Neurodata Labs。 Entropik 使用面部表情、眼睛注視、聲調和腦電波來確定營銷活動的影響。 一家俄羅斯銀行在致電客戶服務代表時使用 Neurodata 來分析客戶情緒。 

甚至大型科技公司也開始利用情感人工智能的潛力。 2016 年，Apple 收購了位於聖地亞哥的面部表情分析公司 Emotient。 亞馬遜的虛擬助手 Alexa 會在檢測到用戶感到沮喪時道歉並澄清其回應。 與此同時，微軟的語音識別人工智能公司 Nuance 可以根據司機的面部表情分析他們的情緒。

情感人工智能的影響

情感人工智能的更廣泛影響可能包括： 

• 大型科技公司收購專注於人工智慧（尤其是情感人工智慧）的小公司，以增強其自動駕駛汽車系統，從而與乘客進行更安全、更具同理心的互動。
• 客戶支援中心結合情緒人工智慧來解釋聲音和臉部線索，為消費者帶來更個人化和有效的問題解決體驗。
• 更多資金流入情感運算，促進國際學術和研究組織之間的合作，從而加速人機互動的進步。
• 政府面臨日益增長的需求，需要製定政策來管理臉部和生物數據的收集、儲存和應用。
• 由於有缺陷或有偏見的情感人工智慧，存在加深與種族和性別相關的偏見的風險，需要對公共和私營部門的人工智慧培訓和部署制定更嚴格的標準。
• 消費者對情感人工智慧設備和服務的依賴日益增加，導致更多情感智慧技術成為日常生活中不可或缺的一部分。
• 教育機構可以將情感人工智慧融入電子學習平台，根據學生的情感反應調整教學方法，以增強學習體驗。
• 醫療保健提供者利用情感人工智慧更好地了解患者的需求和情緒，從而改善診斷和治療結果。
• 行銷策略不斷發展以使用情感人工智慧，使公司能夠更有效地根據個人情緒狀態客製化廣告和產品。
• 法律系統可能採用情緒人工智慧來評估證人可信度或審判期間的情緒狀態，從而引發道德和準確性問題。

需要考慮的問題

• 你會同意讓情緒人工智能應用掃描你的面部表情和語調來預測你的情緒嗎？
• 人工智能可能誤讀情緒的可能風險有哪些？