Emotion AI: Queremos que a AI entenda nossos sentimentos?

• Autor:
• Nome do autor

  Previsão Quantumrun
• 6 de Setembro de 2022

Resumo do insight

A inteligência artificial emocional (IA) está transformando a forma como as máquinas entendem e reagem às emoções humanas na área da saúde, marketing e atendimento ao cliente. Apesar dos debates sobre a sua base científica e preocupações com a privacidade, esta tecnologia está a evoluir rapidamente, com empresas como a Apple e a Amazon a integrá-la nos seus produtos. A sua utilização crescente levanta questões importantes sobre a privacidade, a precisão e o potencial para aprofundar preconceitos, suscitando a necessidade de uma regulamentação cuidadosa e de considerações éticas.

Contexto de IA de emoção

Os sistemas de inteligência artificial estão a aprender a reconhecer as emoções humanas e a aproveitar essas informações em vários setores, desde os cuidados de saúde até às campanhas de marketing. Por exemplo, os sites usam emoticons para avaliar como os espectadores respondem ao seu conteúdo. No entanto, a IA emocional é tudo o que afirma ser? 

Emotion AI (também conhecido como computação afetiva ou inteligência emocional artificial) é um subconjunto de AI que mede, entende, simula e responde às emoções humanas. A disciplina remonta a 1995, quando a professora do laboratório de mídia do MIT, Rosalind Picard, lançou o livro “Affective Computing”. De acordo com o MIT Media Lab, a IA da emoção permite uma interação mais natural entre pessoas e máquinas. Emotion AI tenta responder a duas perguntas: qual é o estado emocional do ser humano e como eles reagirão? As respostas coletadas impactam fortemente a forma como as máquinas fornecem serviços e produtos.

A inteligência emocional artificial é frequentemente trocada pela análise de sentimentos, mas são diferentes na coleta de dados. A análise de sentimento é focada em estudos de linguagem, como determinar as opiniões das pessoas sobre tópicos específicos de acordo com o tom de suas postagens de mídia social, blogs e comentários. No entanto, a IA emocional depende do reconhecimento facial e das expressões para determinar o sentimento. Outros fatores de computação eficazes são padrões de voz e dados fisiológicos, como alterações no movimento dos olhos. Alguns especialistas consideram a análise de sentimentos um subconjunto da IA ​​emocional, mas com menos riscos de privacidade.

Impacto disruptivo

Em 2019, um grupo de investigadores interuniversitários, incluindo a Universidade Northeastern nos EUA e a Universidade de Glasgow, publicou estudos revelando que a IA das emoções não tem uma base científica sólida. O estudo destacou que não importa se humanos ou IA estão conduzindo a análise; é um desafio prever com precisão estados emocionais com base em expressões faciais. Os pesquisadores argumentam que as expressões não são impressões digitais que fornecem informações definitivas e únicas sobre um indivíduo.

No entanto, alguns especialistas não concordam com esta análise. O fundador da Hume AI, Alan Cowen, argumentou que os algoritmos modernos desenvolveram conjuntos de dados e protótipos que correspondem com precisão às emoções humanas. A Hume AI, que angariou 5 milhões de dólares em financiamento de investimentos, utiliza conjuntos de dados de pessoas das Américas, África e Ásia para treinar o seu sistema de IA emocional. 

Outros players emergentes no campo da IA ​​da emoção são HireVue, Entropik, Emteq e Neurodata Labs. O Entropik usa expressões faciais, olhares, tons de voz e ondas cerebrais para determinar o impacto de uma campanha de marketing. Um banco russo usa o Neurodata para analisar os sentimentos dos clientes ao ligar para os representantes de atendimento ao cliente. 

Até a Big Tech está começando a capitalizar o potencial da IA ​​emocional. Em 2016, a Apple comprou a Emotient, uma empresa de San Diego que analisa expressões faciais. Alexa, assistente virtual da Amazon, pede desculpas e esclarece suas respostas ao detectar que seu usuário está frustrado. Enquanto isso, a empresa de IA de reconhecimento de fala da Microsoft, Nuance, pode analisar as emoções dos motoristas com base em suas expressões faciais.

Implicações da emoção AI

Implicações mais amplas da IA ​​emocional podem incluir: 

• Grandes empresas tecnológicas adquirem empresas mais pequenas especializadas em IA, especialmente em IA emocional, para melhorar os seus sistemas de veículos autónomos, resultando em interações mais seguras e empáticas com os passageiros.
• Centros de suporte ao cliente que incorporam IA emocional para interpretar sinais vocais e faciais, levando a experiências de resolução de problemas mais personalizadas e eficazes para os consumidores.
• Mais financiamento fluindo para a computação afetiva, promovendo colaborações entre organizações acadêmicas e de pesquisa internacionais, acelerando assim os avanços na interação humano-IA.
• Os governos enfrentam exigências crescentes para criar políticas que governem a recolha, o armazenamento e a aplicação de dados faciais e biológicos.
• Um risco de agravamento dos preconceitos relacionados com a raça e o género devido à IA emocional defeituosa ou tendenciosa, exigindo padrões mais rigorosos para a formação e implantação da IA ​​nos sectores público e privado.
• Aumento da dependência do consumidor em dispositivos e serviços emocionais habilitados para IA, levando a que tecnologias mais emocionalmente inteligentes se tornem parte integrante da vida diária.
• As instituições educacionais podem integrar a IA emocional em plataformas de e-learning, adaptando métodos de ensino com base nas respostas emocionais dos alunos para melhorar as experiências de aprendizagem.
• Profissionais de saúde utilizam IA emocional para entender melhor as necessidades e emoções dos pacientes, melhorando o diagnóstico e os resultados do tratamento.
• As estratégias de marketing estão evoluindo para usar IA emocional, permitindo que as empresas adaptem anúncios e produtos de forma mais eficaz aos estados emocionais individuais.
• Os sistemas jurídicos possivelmente adotam a IA emocional para avaliar a credibilidade das testemunhas ou os estados emocionais durante os julgamentos, levantando preocupações éticas e de precisão.

Questões a considerar

• Você consentiria que os aplicativos de IA de emoção escaneassem suas expressões faciais e tom de voz para antecipar suas emoções?
• Quais são os possíveis riscos de a IA interpretar mal as emoções?