AI emocional: ¿Queremos que la IA comprenda nuestros sentimientos?

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• 6 de septiembre de 2022

Resumen de información

La inteligencia artificial (IA) de las emociones está transformando la forma en que las máquinas entienden y reaccionan a las emociones humanas en la atención médica, el marketing y el servicio al cliente. A pesar de los debates sobre su base científica y las preocupaciones sobre la privacidad, esta tecnología está evolucionando rápidamente y empresas como Apple y Amazon la integran en sus productos. Su uso cada vez mayor plantea cuestiones importantes sobre la privacidad, la precisión y la posibilidad de profundizar los sesgos, lo que genera la necesidad de una regulación cuidadosa y consideraciones éticas.

Contexto de inteligencia artificial emocional

Los sistemas de inteligencia artificial están aprendiendo a reconocer las emociones humanas y aprovechar esa información en diversos sectores, desde la atención sanitaria hasta las campañas de marketing. Por ejemplo, los sitios web utilizan emoticones para medir cómo responden los espectadores a su contenido. Sin embargo, ¿la IA de las emociones es todo lo que dice ser? 

La IA emocional (también conocida como computación afectiva o inteligencia emocional artificial) es un subconjunto de la IA que mide, comprende, simula y responde a las emociones humanas. La disciplina se remonta a 1995, cuando la profesora del laboratorio de medios del MIT, Rosalind Picard, publicó el libro "Informática afectiva". Según el MIT Media Lab, la IA emocional permite una interacción más natural entre personas y máquinas. Emotion AI intenta responder a dos preguntas: ¿cuál es el estado emocional del ser humano y cómo reaccionará? Las respuestas recopiladas tienen un gran impacto en la forma en que las máquinas brindan servicios y productos.

La inteligencia emocional artificial a menudo se intercambia con el análisis de sentimientos, pero son diferentes en la recopilación de datos. El análisis de sentimientos se centra en los estudios de idiomas, como determinar las opiniones de las personas sobre temas específicos de acuerdo con el tono de sus publicaciones, blogs y comentarios en las redes sociales. Sin embargo, la inteligencia artificial emocional se basa en el reconocimiento facial y las expresiones para determinar el sentimiento. Otros factores informáticos efectivos son los patrones de voz y los datos fisiológicos, como los cambios en el movimiento de los ojos. Algunos expertos consideran que el análisis de sentimientos es un subconjunto de la inteligencia artificial emocional, pero con menos riesgos para la privacidad.

Impacto disruptivo

En 2019, un grupo de investigadores interuniversitarios, incluida la Universidad Northeastern de EE. UU. y la Universidad de Glasgow, publicaron estudios que revelan que la IA emocional no tiene una base científica sólida. El estudio destacó que no importa si los humanos o la IA realizan el análisis; Es un desafío predecir con precisión los estados emocionales basándose en las expresiones faciales. Los investigadores sostienen que las expresiones no son huellas dactilares que proporcionen información definitiva y única sobre un individuo.

Sin embargo, algunos expertos no están de acuerdo con este análisis. El fundador de Hume AI, Alan Cowen, argumentó que los algoritmos modernos habían desarrollado conjuntos de datos y prototipos que corresponden con precisión a las emociones humanas. Hume AI, que recaudó 5 millones de dólares en financiación de inversiones, utiliza conjuntos de datos de personas de América, África y Asia para entrenar su sistema de inteligencia artificial emocional. 

Otros jugadores emergentes en el campo de la IA emocional son HireVue, Entropik, Emteq y Neurodata Labs. Entropik utiliza expresiones faciales, miradas, tonos de voz y ondas cerebrales para determinar el impacto de una campaña de marketing. Un banco ruso usa Neurodata para analizar los sentimientos de los clientes cuando llama a los representantes de servicio al cliente. 

Incluso Big Tech está comenzando a capitalizar el potencial de la inteligencia artificial emocional. En 2016, Apple compró Emotient, una empresa de análisis de expresiones faciales con sede en San Diego. Alexa, el asistente virtual de Amazon, pide disculpas y aclara sus respuestas cuando detecta que su usuario está frustrado. Mientras tanto, la firma de IA de reconocimiento de voz de Microsoft, Nuance, puede analizar las emociones de los conductores en función de sus expresiones faciales.

Implicaciones de la emoción AI

Las implicaciones más amplias de la IA emocional pueden incluir: 

• Las grandes corporaciones tecnológicas adquieren empresas más pequeñas especializadas en IA, especialmente en IA emocional, para mejorar sus sistemas de vehículos autónomos, lo que da como resultado interacciones más seguras y empáticas con los pasajeros.
• Centros de atención al cliente que incorporan inteligencia artificial emocional para interpretar señales vocales y faciales, lo que genera experiencias de resolución de problemas más personalizadas y efectivas para los consumidores.
• Más fondos fluyen hacia la computación afectiva, fomentando colaboraciones entre organizaciones académicas y de investigación internacionales, acelerando así los avances en la interacción entre humanos y IA.
• Los gobiernos enfrentan demandas crecientes para crear políticas que regulen la recopilación, el almacenamiento y la aplicación de datos faciales y biológicos.
• Existe el riesgo de que se profundicen los sesgos relacionados con la raza y el género debido a una IA emocional defectuosa o sesgada, lo que requiere estándares más estrictos para el entrenamiento y el despliegue de la IA en los sectores público y privado.
• Mayor dependencia de los consumidores de dispositivos y servicios habilitados para la inteligencia artificial emocional, lo que lleva a que una tecnología más inteligente desde el punto de vista emocional se convierta en parte integral de la vida diaria.
• Las instituciones educativas pueden integrar la IA emocional en plataformas de aprendizaje electrónico, adaptando métodos de enseñanza basados ​​en las respuestas emocionales de los estudiantes para mejorar las experiencias de aprendizaje.
• Los proveedores de atención médica utilizan la IA emocional para comprender mejor las necesidades y emociones de los pacientes, mejorando los resultados del diagnóstico y el tratamiento.
• Las estrategias de marketing están evolucionando para utilizar la inteligencia artificial de las emociones, lo que permite a las empresas adaptar anuncios y productos de manera más efectiva a los estados emocionales individuales.
• Los sistemas legales posiblemente adopten IA emocional para evaluar la credibilidad de los testigos o los estados emocionales durante los juicios, lo que plantea preocupaciones éticas y de precisión.

Preguntas a considerar

• ¿Aceptaría que las aplicaciones de IA de emociones escaneen sus expresiones faciales y tono de voz para anticipar sus emociones?
• ¿Cuáles son los posibles riesgos de que la IA interprete mal las emociones?