Emoce AI: Chceme, aby AI rozuměla našim pocitům?

• Autor:
• jméno autora

  Quantumrun Foresight
• Září 6, 2022

Shrnutí statistik

Umělá inteligence emocí (AI) mění způsob, jakým stroje chápou a reagují na lidské emoce ve zdravotnictví, marketingu a zákaznických službách. Navzdory debatám o vědeckém základu a obavách o soukromí se tato technologie rychle vyvíjí a společnosti jako Apple a Amazon ji integrují do svých produktů. Jeho rostoucí používání vyvolává důležité otázky týkající se soukromí, přesnosti a potenciálu prohlubování předsudků, což vyvolává potřebu pečlivé regulace a etických úvah.

Kontext AI emocí

Systémy umělé inteligence se učí rozpoznávat lidské emoce a využívat tyto informace v různých odvětvích, od zdravotnictví po marketingové kampaně. Webové stránky například používají emotikony k měření toho, jak diváci reagují na jejich obsah. Jsou však emoce AI vším, za co se vydávají? 

Emoce AI (také známá jako afektivní výpočet nebo umělá emoční inteligence) je podmnožinou AI, která měří, chápe, simuluje a reaguje na lidské emoce. Tato disciplína sahá až do roku 1995, kdy profesorka laboratoře MIT Media Rosalind Picardová vydala knihu „Affective Computing“. Podle MIT Media Lab umožňuje AI emocí přirozenější interakci mezi lidmi a stroji. Umělá inteligence emocí se pokouší odpovědět na dvě otázky: jaký je emoční stav člověka a jak bude reagovat? Shromážděné odpovědi výrazně ovlivňují způsob, jakým stroje poskytují služby a produkty.

Umělá emoční inteligence se často zaměňuje s analýzou sentimentu, ale liší se ve sběru dat. Analýza sentimentu se zaměřuje na jazykové studie, jako je určování názorů lidí na konkrétní témata podle tónu jejich příspěvků na sociálních sítích, blogů a komentářů. Umělá inteligence emocí se však při určování sentimentu spoléhá na rozpoznávání obličeje a výrazy. Dalšími účinnými výpočetními faktory jsou hlasové vzorce a fyziologická data, jako jsou změny v pohybu očí. Někteří odborníci považují analýzu sentimentu za podmnožinu emoční umělé inteligence, ale s menším rizikem ochrany soukromí.

Rušivý dopad

V roce 2019 skupina meziuniverzitních výzkumníků, včetně Northeastern University v USA a University of Glasgow, publikovala studie odhalující, že emoční AI nemá pevný vědecký základ. Studie zdůraznila, že nezáleží na tom, zda analýzu provádějí lidé nebo AI; je náročné přesně předvídat emoční stavy na základě výrazů obličeje. Vědci tvrdí, že výrazy nejsou otisky prstů, které poskytují definitivní a jedinečné informace o jednotlivci.

Někteří odborníci však s touto analýzou nesouhlasí. Zakladatel Hume AI, Alan Cowen, tvrdil, že moderní algoritmy vyvinuly datové sady a prototypy, které přesně odpovídají lidským emocím. Hume AI, která získala investiční financování ve výši 5 milionů USD, využívá datové sady lidí z Ameriky, Afriky a Asie k trénování svého systému AI emocí. 

Dalšími nově vznikajícími hráči na poli emoční umělé inteligence jsou HireVue, Entropik, Emteq a Neurodata Labs. Entropik používá výrazy obličeje, pohledy očí, tóny hlasu a mozkové vlny k určení dopadu marketingové kampaně. Ruská banka používá Neurodata k analýze nálad klientů, když volá zástupcům zákaznických služeb. 

Dokonce i Big Tech začíná využívat potenciál emotivní umělé inteligence. V roce 2016 Apple koupil Emotient, společnost se sídlem v San Diegu, která analyzuje výrazy obličeje. Alexa, virtuální asistentka Amazonu, se omlouvá a objasňuje své reakce, když zjistí, že je její uživatel frustrovaný. Mezitím společnost Microsoft Nuance pro rozpoznávání řeči dokáže analyzovat emoce řidičů na základě jejich výrazů obličeje.

Důsledky emocí AI

Širší důsledky emoční umělé inteligence mohou zahrnovat: 

• Velké technologické korporace akvizující menší společnosti specializující se na AI, zejména na emoční AI, aby zlepšily své systémy autonomních vozidel, což má za následek bezpečnější a empatičtější interakce s cestujícími.
• Centra zákaznické podpory využívající umělou inteligenci na základě emocí k interpretaci vokálních a obličejových podnětů, což spotřebitelům vede k personalizovanějšímu a efektivnějšímu řešení problémů.
• Více finančních prostředků plynoucích do afektivního počítání, podporující spolupráci mezi mezinárodními akademickými a výzkumnými organizacemi, čímž se urychluje pokrok v interakci člověk-AI.
• Vlády čelí rostoucím požadavkům na vytvoření politik, které řídí sběr, uchovávání a aplikaci obličejových a biologických dat.
• Riziko prohloubení předsudků souvisejících s rasou a pohlavím v důsledku chybné nebo předpojaté AI emocí, což vyžaduje přísnější standardy pro výcvik a nasazení umělé inteligence ve veřejném i soukromém sektoru.
• Větší závislost spotřebitelů na emočních zařízeních a službách s umělou inteligencí, což vede k tomu, že emocionálně inteligentnější technologie se stává nedílnou součástí každodenního života.
• Vzdělávací instituce mohou integrovat emoční umělou inteligenci do e-learningových platforem a přizpůsobit výukové metody založené na emocionálních reakcích studentů, aby zlepšily studijní zkušenosti.
• Poskytovatelé zdravotní péče využívají umělou inteligenci na základě emocí k lepšímu pochopení potřeb a emocí pacientů a ke zlepšení výsledků diagnostiky a léčby.
• Marketingové strategie se vyvíjejí tak, aby využívaly umělou inteligenci na základě emocí, což společnostem umožňuje efektivněji přizpůsobovat reklamy a produkty jednotlivým emočním stavům.
• Právní systémy možná přijímají emoční umělou inteligenci k posouzení důvěryhodnosti svědků nebo emočních stavů během soudního řízení, což vyvolává obavy z etiky a přesnosti.

Otázky k zamyšlení

• Souhlasili byste s tím, aby aplikace AI emocí skenovaly vaše výrazy obličeje a tón hlasu, aby předvídaly vaše emoce?
• Jaká jsou možná rizika, že AI potenciálně špatně čte emoce?