Systémy umělé inteligence (AI) se učí rozpoznávat lidské emoce a využívat tyto informace v různých odvětvích, od zdravotnictví po marketingové kampaně. Webové stránky například používají emotikony k měření toho, jak diváci reagují na jejich obsah. Jsou však emoce AI vším, za co se vydávají?
Kontext AI emocí
Emoce AI (také známá jako afektivní výpočet nebo umělá emoční inteligence) je podmnožinou AI, která měří, chápe, simuluje a reaguje na lidské emoce. Tato disciplína sahá až do roku 1995, kdy profesorka laboratoře MIT Media Rosalind Picardová vydala knihu „Affective Computing“. Podle MIT Media Lab umožňuje AI emocí přirozenější interakci mezi lidmi a stroji. Umělá inteligence emocí se pokouší odpovědět na dvě otázky: jaký je emoční stav člověka a jak bude reagovat? Shromážděné odpovědi výrazně ovlivňují způsob, jakým stroje poskytují služby a produkty.
Umělá emoční inteligence se často zaměňuje s analýzou sentimentu, ale liší se ve sběru dat. Analýza sentimentu se zaměřuje na jazykové studie, jako je určování názorů lidí na konkrétní témata podle tónu jejich příspěvků na sociálních sítích, blogů a komentářů. Umělá inteligence emocí se však při určování sentimentu spoléhá na rozpoznávání obličeje a výrazy. Dalšími účinnými výpočetními faktory jsou hlasové vzorce a fyziologická data, jako jsou změny v pohybu očí. Někteří odborníci považují analýzu sentimentu za podmnožinu emoční umělé inteligence, ale s menším rizikem ochrany soukromí.
Rušivý dopad
V roce 2019 skupina meziuniverzitních výzkumníků, včetně Northeastern University v USA a University of Glasgow, publikovala studie odhalující, že emoční AI nemá pevný vědecký základ. Studie zdůraznila, že nezáleží na tom, zda analýzu provádějí lidé nebo AI; je náročné přesně předvídat emoční stavy na základě výrazů obličeje. Vědci tvrdí, že výrazy nejsou otisky prstů, které poskytují definitivní a jedinečné informace o jednotlivci. Někteří odborníci však s touto analýzou nesouhlasí. Zakladatel Hume AI, Alan Cowen, tvrdil, že moderní algoritmy vyvinuly datové sady a prototypy, které přesně odpovídají lidským emocím. Hume AI, která získala 5 milionů dolarů na investiční financování, využívá datové sady lidí z Ameriky, Afriky a Asie k trénování svého systému AI emocí.
Dalšími nově vznikajícími hráči na poli emoční umělé inteligence jsou HireVue, Entropik, Emteq a Neurodata Labs. Entropik používá výrazy obličeje, pohledy očí, tóny hlasu a mozkové vlny k určení dopadu marketingové kampaně. Ruská banka používá Neurodata k analýze nálad klientů, když volá zástupcům zákaznických služeb.
Dokonce i Big Tech začíná využívat potenciál emotivní umělé inteligence. V roce 2016 Apple koupil Emotient, společnost se sídlem v San Diegu, která analyzuje výrazy obličeje. Alexa, virtuální asistentka Amazonu, se omlouvá a objasňuje své reakce, když zjistí, že je její uživatel frustrovaný. Mezitím společnost Microsoft Nuance pro rozpoznávání řeči dokáže analyzovat emoce řidičů na základě jejich výrazů obličeje.
Důsledky emocí AI
Širší důsledky emoční umělé inteligence mohou zahrnovat:
- Big Tech nakupuje více startupů, aby rozšířili svůj výzkum a schopnosti umělé inteligence, včetně využití emoční umělé inteligence v samořídících vozidlech.
- Oddělení zákaznických služeb call centra využívající umělou inteligenci na základě emocí k předvídání chování zákazníků na základě tónu jejich hlasu a změn ve výrazu jejich obličeje.
- Zvýšení investic do efektivního výpočetního výzkumu, včetně rozšířených partnerství s globálními univerzitami a výzkumnými institucemi.
- Rostoucí tlak na vlády, aby regulovaly, jak se shromažďují, ukládají a používají údaje o obličeji a biologické údaje.
- Prohlubování rasové a genderové diskriminace prostřednictvím dezinformací nebo chybných analýz.
Otázky ke komentáři
- Souhlasili byste s tím, aby aplikace AI emocí skenovaly vaše výrazy obličeje a tón hlasu, aby předvídaly vaše emoce?
- Jaká jsou možná rizika, že AI potenciálně špatně čte emoce?
