情感 AI:我们是否希望 AI 理解我们的感受?

图片来源:
图片来源
iStock

情感 AI:我们是否希望 AI 理解我们的感受?

情感 AI:我们是否希望 AI 理解我们的感受?

副标题文字
公司正在大力投资人工智能技术,以利用能够分析人类情绪的机器。
    • 作者:
    • 作者姓名
      量子运行远见
    • 2022 年 9 月 6 日

    洞察总结

    情感人工智能 (AI) 正在改变机器在医疗保健、营销和客户服务领域理解人类情感和做出反应的方式。尽管对其科学基础和隐私问题存在争议,但这项技术正在迅速发展,苹果和亚马逊等公司将其集成到他们的产品中。它的日益增长的使用引发了有关隐私、准确性以及加深偏见的可能性的重要问题,从而促使需要谨慎的监管和道德考虑。

    情感 AI 上下文

    人工智能系统正在学习识别人类情绪,并在从医疗保健到营销活动等各个领域利用这些信息。例如,网站使用表情符号来衡量观众对其内容的反应。然而,情感AI真的如它所声称的那样吗? 

    情感人工智能(也称为情感计算或人工智能)是人工智能的一个子集,用于测量、理解、模拟和响应人类情感。 该学科可以追溯到 1995 年,当时麻省理工学院媒体实验室教授 Rosalind Picard 出版了《情感计算》一书。 根据麻省理工学院媒体实验室的说法,情感人工智能允许人与机器之间更自然的互动。 情绪人工智能试图回答两个问题:人类的情绪状态是什么,他们将如何反应? 收集的答案严重影响机器提供服务和产品的方式。

    人工智能通常与情绪分析互换,但它们在数据收集方面有所不同。 情感分析侧重于语言研究,例如根据人们的社交媒体帖子、博客和评论的语气确定人们对特定主题的看法。 然而,情感 AI 依赖于面部识别和表情来确定情感。 其他有效的计算因素是语音模式和生理数据,如眼球运动的变化。 一些专家认为情感分析是情感 AI 的一个子集,但隐私风险较小。

    破坏性影响

    2019年,包括美国东北大学和格拉斯哥大学在内的一组跨大学研究人员发表的研究表明,情感人工智能并不具备坚实的科学基础。该研究强调,无论是由人类还是人工智能进行分析并不重要;重要的是。根据面部表情准确预测情绪状态具有挑战性。研究人员认为,表情并不是提供有关个体的明确且独特信息的指纹。

    不过,一些专家并不同意这一分析。 Hume AI 的创始人 Alan Cowen 认为,现代算法已经开发出准确对应人类情感的数据集和原型。 Hume AI 筹集了 5 万美元的投资资金,使用来自美洲、非洲和亚洲的人员数据集来训练其情感 AI 系统。 

    情感人工智能领域的其他新兴参与者是 HireVue、Entropik、Emteq 和 Neurodata Labs。 Entropik 使用面部表情、眼睛注视、语调和脑电波来确定营销活动的影响。 一家俄罗斯银行在致电客户服务代表时使用 Neurodata 分析客户情绪。 

    甚至大型科技公司也开始利用情感 AI 的潜力。 2016 年,苹果收购了位于圣地亚哥的面部表情分析公司 Emotient。 亚马逊的虚拟助手 Alexa 在检测到用户感到沮丧时会道歉并澄清其回应。 与此同时,微软的语音识别 AI 公司 Nuance 可以根据驾驶员的面部表情分析驾驶员的情绪。

    情感人工智能的含义

    情感人工智能的更广泛影响可能包括: 

    • 大型科技公司收购专注于人工智能(尤其是情感人工智能)的小公司,以增强其自动驾驶汽车系统,从而与乘客进行更安全、更具同理心的互动。
    • 客户支持中心结合情感人工智能来解释声音和面部线索,为消费者带来更加个性化和有效的问题解决体验。
    • 更多资金流入情感计算,促进国际学术和研究组织之间的合作,从而加速人机交互的进步。
    • 政府面临着日益增长的需求,需要制定政策来管理面部和生物数据的收集、存储和应用。
    • 由于有缺陷或有偏见的情感人工智能,存在加深与种族和性别相关的偏见的风险,需要对公共和私营部门的人工智能培训和部署制定更严格的标准。
    • 消费者对情感人工智能设备和服务的依赖日益增加,导致更多情感智能技术成为日常生活中不可或缺的一部分。
    • 教育机构可以将情感人工智能融入电子学习平台,根据学生的情感反应调整教学方法,以增强学习体验。
    • 医疗保健提供者利用情感人工智能更好地了解患者的需求和情绪,从而改善诊断和治疗结果。
    • 营销策略不断发展以使用情感人工智能,使公司能够更有效地根据个人情绪状态定制广告和产品。
    • 法律系统可能采用情感人工智能来评估证人可信度或审判期间的情绪状态,从而引发道德和准确性问题。

    需要考虑的问题

    • 您是否同意让情感 AI 应用程序扫描您的面部表情和语调以预测您的情绪?
    • 人工智能可能误读情绪的潜在风险是什么?

    洞察参考

    此见解引用了以下流行和机构链接:

    麻省理工学院斯隆管理学院 情感AI,解释