Эмоциональный ИИ: хотим ли мы, чтобы ИИ понимал наши чувства?

• Автор:
• Имя автора

  Квантумран Форсайт
• 6 сентября, 2022

Сводка статистики

Искусственный интеллект эмоций (ИИ) меняет то, как машины понимают человеческие эмоции и реагируют на них в сфере здравоохранения, маркетинга и обслуживания клиентов. Несмотря на споры о ее научной основе и проблемах конфиденциальности, эта технология быстро развивается, и такие компании, как Apple и Amazon, интегрируют ее в свои продукты. Его растущее использование поднимает важные вопросы о конфиденциальности, точности и возможности усиления предвзятости, что вызывает необходимость тщательного регулирования и этических соображений.

Контекст эмоционального ИИ

Системы искусственного интеллекта учатся распознавать человеческие эмоции и использовать эту информацию в различных секторах, от здравоохранения до маркетинговых кампаний. Например, веб-сайты используют смайлы, чтобы оценить, как зрители реагируют на их контент. Однако является ли искусственный интеллект эмоций тем, чем он себя называет? 

Эмоциональный ИИ (также известный как аффективные вычисления или искусственный эмоциональный интеллект) — это подмножество ИИ, которое измеряет, понимает, имитирует человеческие эмоции и реагирует на них. Эта дисциплина восходит к 1995 году, когда профессор лаборатории MIT Media Розалинд Пикард выпустила книгу «Аффективные вычисления». По данным MIT Media Lab, эмоциональный ИИ обеспечивает более естественное взаимодействие между людьми и машинами. Эмоциональный ИИ пытается ответить на два вопроса: каково эмоциональное состояние человека и как он отреагирует? Собранные ответы сильно влияют на то, как машины предоставляют услуги и продукты.

Искусственный эмоциональный интеллект часто заменяют анализом настроений, но они отличаются сбором данных. Анализ настроений сосредоточен на языковых исследованиях, таких как определение мнений людей по конкретным темам в соответствии с тоном их сообщений в социальных сетях, блогов и комментариев. Однако эмоциональный ИИ полагается на распознавание лиц и выражения для определения настроения. Другими эффективными вычислительными факторами являются голосовые паттерны и физиологические данные, такие как изменения в движении глаз. Некоторые эксперты считают анализ настроений подмножеством эмоционального ИИ, но с меньшим риском для конфиденциальности.

Разрушительное воздействие

В 2019 году группа межуниверситетских исследователей, в том числе Северо-Восточного университета в США и Университета Глазго, опубликовала исследования, показавшие, что эмоциональный ИИ не имеет прочной научной основы. Исследование подчеркнуло, что не имеет значения, проводят ли анализ люди или ИИ; сложно точно предсказать эмоциональное состояние по выражению лица. Исследователи утверждают, что выражения лиц — это не отпечатки пальцев, которые предоставляют точную и уникальную информацию о человеке.

Однако некоторые эксперты не согласны с этим анализом. Основатель Hume AI Алан Коуэн утверждал, что современные алгоритмы разработали наборы данных и прототипы, которые точно соответствуют человеческим эмоциям. Hume AI, которая привлекла 5 миллионов долларов США в виде инвестиционного финансирования, использует наборы данных людей из Америки, Африки и Азии для обучения своей системы искусственного интеллекта для эмоций. 

Другими новыми игроками в области эмоционального ИИ являются HireVue, Entropik, Emteq и Neurodata Labs. Entropik использует выражение лица, взгляд, тон голоса и мозговые волны, чтобы определить влияние маркетинговой кампании. Российский банк использует Neurodata для анализа настроений клиентов при звонках представителям службы поддержки. 

Даже большие технологии начинают извлекать выгоду из потенциала эмоционального ИИ. В 2016 году Apple приобрела Emotient, фирму из Сан-Диего, занимающуюся анализом выражений лица. Alexa, виртуальный помощник Amazon, приносит свои извинения и разъясняет свои ответы, когда обнаруживает, что его пользователь расстроен. Между тем, фирма Microsoft по распознаванию речи Nuance может анализировать эмоции водителей на основе выражений их лиц.

Последствия эмоционального ИИ

Более широкие последствия эмоционального ИИ могут включать: 

• Крупные технологические корпорации приобретают более мелкие компании, специализирующиеся на искусственном интеллекте, особенно на эмоциональном искусственном интеллекте, для улучшения своих автономных транспортных систем, что приводит к более безопасному и чуткому взаимодействию с пассажирами.
• Центры поддержки клиентов используют эмоциональный искусственный интеллект для интерпретации голосовых и мимических сигналов, что приводит к более персонализированному и эффективному решению проблем для потребителей.
• Больше финансирования поступает в аффективные вычисления, что способствует сотрудничеству между международными академическими и исследовательскими организациями, тем самым ускоряя прогресс во взаимодействии человека и искусственного интеллекта.
• Правительства сталкиваются с растущими требованиями по созданию политики, регулирующей сбор, хранение и применение лицевых и биологических данных.
• Риск углубления предубеждений, связанных с расой и полом, из-за ошибочных или предвзятых эмоций ИИ, что требует более строгих стандартов для обучения и использования ИИ в государственном и частном секторах.
• Растущая зависимость потребителей от устройств и услуг с поддержкой эмоционального искусственного интеллекта, что приводит к тому, что более эмоционально интеллектуальные технологии становятся неотъемлемой частью повседневной жизни.
• Образовательные учреждения могут интегрировать искусственный интеллект эмоций в платформы электронного обучения, адаптируя методы обучения, основанные на эмоциональных реакциях учащихся, для улучшения учебного процесса.
• Поставщики медицинских услуг используют искусственный интеллект эмоций, чтобы лучше понимать потребности и эмоции пациентов, улучшая диагностику и результаты лечения.
• Маркетинговые стратегии развиваются с использованием эмоционального искусственного интеллекта, что позволяет компаниям более эффективно адаптировать рекламу и продукты к индивидуальным эмоциональным состояниям.
• Правовые системы, возможно, примут эмоциональный ИИ для оценки достоверности свидетелей или эмоционального состояния во время судебных разбирательств, что вызывает обеспокоенность по этике и точности.

Вопросы для рассмотрения

• Вы бы согласились на то, чтобы приложения с искусственным интеллектом для эмоций сканировали выражение вашего лица и тон голоса, чтобы предугадывать ваши эмоции?
• Каковы возможные риски того, что ИИ может неправильно интерпретировать эмоции?