Emotion AI: Vill vi att AI ska förstå våra känslor?

• Författare:
• författarnamn

  Quantumrun Framsyn
• September 6, 2022

Insiktssammanfattning

Emotion artificiell intelligens (AI) förändrar hur maskiner förstår och reagerar på mänskliga känslor inom sjukvård, marknadsföring och kundservice. Trots debatter om dess vetenskapliga grund och integritetsproblem, utvecklas denna teknik snabbt, med företag som Apple och Amazon som integrerar den i sina produkter. Dess växande användning väcker viktiga frågor om integritet, noggrannhet och potentialen för fördjupade fördomar, vilket leder till ett behov av noggrann reglering och etiska överväganden.

Emotion AI-kontext

Artificiell intelligens-system lär sig känna igen mänskliga känslor och dra nytta av den informationen inom olika sektorer, från sjukvård till marknadsföringskampanjer. Till exempel använder webbplatser uttryckssymboler för att mäta hur tittarna reagerar på deras innehåll. Men är emotion AI allt som den påstår sig vara? 

Emotion AI (även känd som affective computing eller artificiell emotionell intelligens) är en delmängd av AI som mäter, förstår, simulerar och reagerar på mänskliga känslor. Disciplinen går tillbaka till 1995 när MIT Media lab-professor Rosalind Picard släppte boken "Affective Computing". Enligt MIT Media Lab tillåter emotion AI en mer naturlig interaktion mellan människor och maskiner. Emotion AI försöker svara på två frågor: vad är människans känslomässiga tillstånd, och hur kommer de att reagera? De insamlade svaren påverkar i hög grad hur maskiner tillhandahåller tjänster och produkter.

Artificiell emotionell intelligens byts ofta ut med sentimentanalys, men de är olika i datainsamling. Sentimentanalys är fokuserad på språkstudier, som att bestämma människors åsikter om specifika ämnen enligt tonen i deras inlägg på sociala medier, bloggar och kommentarer. Emellertid förlitar sig emotion AI på ansiktsigenkänning och uttryck för att bestämma känslor. Andra effektiva beräkningsfaktorer är röstmönster och fysiologiska data som förändringar i ögonrörelser. Vissa experter anser att sentimentanalys är en delmängd av känslomässig AI men med färre integritetsrisker.

Störande inverkan

Under 2019 publicerade en grupp interuniversitetsforskare, inklusive Northeastern University i USA och University of Glasgow, studier som avslöjade att emotion AI inte har en solid vetenskaplig grund. Studien visade att det inte spelar någon roll om människor eller AI utför analysen; det är utmanande att exakt förutsäga känslotillstånd baserat på ansiktsuttryck. Forskarna hävdar att uttryck inte är fingeravtryck som ger definitiv och unik information om en individ.

Vissa experter håller dock inte med om denna analys. Grundaren av Hume AI, Alan Cowen, hävdade att moderna algoritmer hade utvecklat datauppsättningar och prototyper som exakt motsvarar mänskliga känslor. Hume AI, som samlade in 5 miljoner USD i investeringsfinansiering, använder datauppsättningar av människor från Amerika, Afrika och Asien för att träna sitt känslomässiga AI-system. 

Andra framväxande spelare inom emotion AI-fältet är HireVue, Entropik, Emteq och Neurodata Labs. Entropik använder ansiktsuttryck, ögonblick, rösttoner och hjärnvågor för att avgöra effekten av en marknadsföringskampanj. En rysk bank använder Neurodata för att analysera kundernas känslor när de ringer kundtjänstrepresentanter. 

Till och med Big Tech börjar dra nytta av potentialen hos emotion AI. 2016 köpte Apple Emotient, ett San Diego-baserat företag som analyserar ansiktsuttryck. Alexa, Amazons virtuella assistent, ber om ursäkt och förtydligar sina svar när den upptäcker att dess användare är frustrerad. Samtidigt kan Microsofts taligenkännande AI-företag, Nuance, analysera förares känslor baserat på deras ansiktsuttryck.

Implikationer av emotion AI

Vidare implikationer av emotion AI kan inkludera: 

• Stora teknikföretag som förvärvar mindre företag som specialiserar sig på AI, särskilt inom emotion AI, för att förbättra sina autonoma fordonssystem, vilket resulterar i säkrare och mer empatiska interaktioner med passagerare.
• Kundsupportcenter som innehåller emotion AI för att tolka röst- och ansiktssignaler, vilket leder till mer personliga och effektiva problemlösningsupplevelser för konsumenter.
• Mer finansiering flödar till affektiv datoranvändning, främjar samarbeten mellan internationella akademiska organisationer och forskningsorganisationer, och påskyndar därigenom framstegen inom interaktion mellan människa och AI.
• Regeringar som står inför växande krav på att skapa policyer som styr insamling, lagring och tillämpning av ansiktsdata och biologiska data.
• En risk för fördjupade fördomar relaterade till ras och kön på grund av bristfällig eller partisk känslomässig AI, vilket kräver strängare standarder för AI-träning och användning i offentlig och privat sektor.
• Ökat konsumenters beroende av emotion AI-aktiverade enheter och tjänster, vilket leder till att mer känslomässigt intelligent teknik blir integrerad i det dagliga livet.
• Utbildningsinstitutioner kan integrera emotion AI i e-lärande plattformar, anpassa undervisningsmetoder baserat på elevernas känslomässiga svar för att förbättra lärandeupplevelser.
• Sjukvårdsleverantörer som använder emotion AI för att bättre förstå patientbehov och känslor, förbättra diagnos och behandlingsresultat.
• Marknadsföringsstrategier som utvecklas för att använda emotion AI, vilket gör det möjligt för företag att skräddarsy annonser och produkter mer effektivt till individuella känslotillstånd.
• Rättssystem antar möjligen emotion AI för att bedöma vittnens trovärdighet eller känslomässiga tillstånd under rättegångar, vilket ger upphov till etiska och korrekthetsproblem.

Frågor att överväga

• Skulle du samtycka till att appar för emotion AI skannar dina ansiktsuttryck och röstton för att förutse dina känslor?
• Vilka är de möjliga riskerna med att AI eventuellt misstolkar känslor?