Emotion AI: Искаме ли AI да разбира чувствата ни?

• Автор:
• име Автор

  Quantumrun Foresight
• Септември 6, 2022

Резюме на прозрението

Емоционалният изкуствен интелект (AI) трансформира начина, по който машините разбират и реагират на човешките емоции в здравеопазването, маркетинга и обслужването на клиенти. Въпреки дебатите относно нейната научна основа и опасенията за поверителността, тази технология се развива бързо, като компании като Apple и Amazon я интегрират в своите продукти. Нарастващата му употреба повдига важни въпроси относно неприкосновеността на личния живот, точността и потенциала за задълбочаване на пристрастията, което налага необходимостта от внимателно регулиране и етични съображения.

Emotion AI контекст

Системите с изкуствен интелект се учат да разпознават човешките емоции и да използват тази информация в различни сектори, от здравеопазване до маркетингови кампании. Например уебсайтовете използват емотикони, за да преценят как зрителите реагират на тяхното съдържание. Дали обаче ИИ на емоциите е всичко, за което се представя? 

Emotion AI (известен също като афективно изчисление или изкуствен емоционален интелект) е подгрупа от AI, която измерва, разбира, симулира и реагира на човешките емоции. Дисциплината датира от 1995 г., когато професорът от MIT Media lab Розалинд Пикард издаде книгата „Affective Computing“. Според MIT Media Lab емоционалният изкуствен интелект позволява по-естествено взаимодействие между хора и машини. Emotion AI се опитва да отговори на два въпроса: какво е емоционалното състояние на човека и как ще реагира? Събраните отговори оказват силно влияние върху начина, по който машините предоставят услуги и продукти.

Изкуственият емоционален интелект често се заменя с анализа на настроението, но те са различни в събирането на данни. Анализът на настроенията е фокусиран върху езикови изследвания, като например определяне на мненията на хората по конкретни теми според тона на техните публикации в социалните медии, блогове и коментари. Въпреки това, изкуственият интелект на емоциите разчита на разпознаване на лица и изражения, за да определи настроенията. Други ефективни изчислителни фактори са гласови модели и физиологични данни като промени в движението на очите. Някои експерти смятат, че анализът на настроенията е подмножество от ИИ на емоциите, но с по-малко рискове за поверителността.

Разрушително въздействие

През 2019 г. група междууниверситетски изследователи, включително Североизточния университет в САЩ и Университета на Глазгоу, публикуваха проучвания, разкриващи, че ИИ на емоциите няма солидна научна основа. Проучването подчертава, че няма значение дали хората или AI извършват анализа; предизвикателство е точното прогнозиране на емоционалните състояния въз основа на изражението на лицето. Изследователите твърдят, че изразите не са пръстови отпечатъци, които предоставят окончателна и уникална информация за индивида.

Някои експерти обаче не са съгласни с този анализ. Основателят на Hume AI, Алън Коуен, твърди, че съвременните алгоритми са разработили масиви от данни и прототипи, които точно съответстват на човешките емоции. Hume AI, който събра 5 милиона щатски долара инвестиционно финансиране, използва масиви от данни на хора от Америка, Африка и Азия, за да обучи своята емоционална AI система. 

Други нововъзникващи играчи в областта на емоционалния AI са HireVue, Entropik, Emteq и Neurodata Labs. Entropik използва изражението на лицето, погледа на очите, гласовите тонове и мозъчните вълни, за да определи въздействието на маркетинговата кампания. Руска банка използва Neurodata, за да анализира настроенията на клиентите, когато се обаждат на представители за обслужване на клиенти. 

Дори Big Tech започва да се възползва от потенциала на емоционалния AI. През 2016 г. Apple закупи Emotient, базирана в Сан Диего фирма, анализираща изражението на лицето. Alexa, виртуалният асистент на Amazon, се извинява и изяснява своите отговори, когато установи, че потребителят му е разочарован. Междувременно фирмата на Microsoft за AI разпознаване на реч, Nuance, може да анализира емоциите на водачите въз основа на техните изражения на лицето.

Последици от емоционалния AI

По-широките последици от ИИ на емоциите могат да включват: 

• Големите технологични корпорации придобиват по-малки компании, специализирани в AI, особено в емоционалния AI, за да подобрят своите системи за автономно превозно средство, което води до по-безопасни и по-съпричастни взаимодействия с пътниците.
• Центрове за поддръжка на клиенти, включващи емоционален AI за интерпретиране на гласови и лицеви знаци, което води до по-персонализирани и ефективни преживявания за решаване на проблеми за потребителите.
• Повече финансиране се влива в ефективни компютри, насърчавайки сътрудничеството между международни академични и изследователски организации, като по този начин ускорява напредъка във взаимодействието човек-AI.
• Правителствата са изправени пред нарастващи изисквания за създаване на политики, които управляват събирането, съхранението и прилагането на лицеви и биологични данни.
• Риск от задълбочаване на предразсъдъците, свързани с раса и пол поради дефектен или предубеден емоционален ИИ, изискващ по-строги стандарти за обучение и внедряване на ИИ в публичния и частния сектор.
• Повишено разчитане на потребителите на устройства и услуги, поддържащи емоционален изкуствен интелект, което води до това, че по-емоционално интелигентните технологии стават неразделна част от ежедневието.
• Образователните институции могат да интегрират емоционален AI в платформи за електронно обучение, като адаптират методите на преподаване въз основа на емоционалните реакции на учениците, за да подобрят учебния опит.
• Доставчиците на здравни услуги използват емоционален изкуствен интелект, за да разберат по-добре нуждите и емоциите на пациентите, подобрявайки диагнозата и резултатите от лечението.
• Маркетинговите стратегии се развиват, за да използват изкуствен интелект на емоциите, което позволява на компаниите да адаптират рекламите и продуктите по-ефективно към индивидуалните емоционални състояния.
• Правните системи вероятно приемат емоционален AI за оценка на достоверността на свидетелите или емоционалните им състояния по време на съдебни процеси, което поражда опасения за етика и точност.

Въпроси за разглеждане

• Бихте ли се съгласили приложенията за изкуствен интелект на емоциите да сканират изражението на лицето и тона на гласа ви, за да предвидят емоциите ви?
• Какви са възможните рискове от AI потенциално погрешно разчитане на емоции?