רגש בינה מלאכותית: האם אנחנו רוצים ש- AI יבין את הרגשות שלנו?

• מְחַבֵּר:
• שם היוצר

  Quantumrun Foresight
• ספטמבר 6, 2022

סיכום תובנה

בינה מלאכותית של רגשות (AI) משנה את האופן שבו מכונות מבינות ומגיבות לרגשות אנושיים בתחום הבריאות, השיווק ושירות הלקוחות. למרות ויכוחים על הבסיס המדעי שלה ודאגות הפרטיות שלה, הטכנולוגיה הזו מתפתחת במהירות, כאשר חברות כמו אפל ואמזון משלבות אותה במוצרים שלהן. השימוש הגובר בו מעלה שאלות חשובות לגבי פרטיות, דיוק והפוטנציאל להעמקת הטיות, מה שמעורר צורך ברגולציה זהירה ושיקולים אתיים.

הקשר AI רגש

מערכות בינה מלאכותית לומדות לזהות רגשות אנושיים ולמנף מידע זה במגזרים שונים, החל משירותי בריאות ועד מסעות פרסום שיווקיים. לדוגמה, אתרי אינטרנט משתמשים באמוטיקונים כדי לאמוד כיצד הצופים מגיבים לתוכן שלהם. עם זאת, האם רגש AI הוא כל מה שהוא טוען להיות? 

בינה מלאכותית של רגשות (הידועה גם בשם מחשוב רגשי או אינטליגנציה רגשית מלאכותית) היא תת-קבוצה של בינה מלאכותית המודדת, מבינה, מדמה ומגיבה לרגשות אנושיים. הדיסציפלינה מתחילה בשנת 1995 כאשר פרופסור למעבדת MIT Media רוזלינד פיקארד הוציאה את הספר "מחשוב אפקטיבי". לפי מעבדת המדיה של MIT, בינה מלאכותית רגשית מאפשרת אינטראקציה טבעית יותר בין אנשים ומכונות. Emotion AI מנסה לענות על שתי שאלות: מהו מצבו הרגשי של האדם, וכיצד הוא יגיב? התשובות שנאספו משפיעות במידה רבה על האופן שבו מכונות מספקות שירותים ומוצרים.

אינטליגנציה רגשית מלאכותית מוחלפת לעתים קרובות עם ניתוח סנטימנטים, אך הם שונים באיסוף הנתונים. ניתוח סנטימנטים מתמקד במחקרי שפה, כגון קביעת דעותיהם של אנשים לגבי נושאים ספציפיים על פי הטון של הפוסטים, הבלוגים והתגובות שלהם במדיה החברתית. עם זאת, בינה מלאכותית של רגשות מסתמכת על זיהוי פנים והבעות כדי לקבוע סנטימנט. גורמי מחשוב יעילים נוספים הם דפוסי קול ונתונים פיזיולוגיים כמו שינויים בתנועת העיניים. חלק מהמומחים רואים בניתוח סנטימנטים תת-קבוצה של AI רגשי אך עם פחות סיכוני פרטיות.

השפעה משבשת

בשנת 2019, קבוצה של חוקרים בין-אוניברסיטאות, כולל אוניברסיטת Northeastern בארה"ב ואוניברסיטת גלזגו, פרסמה מחקרים שחשפו כי לבינה מלאכותית רגשית אין בסיס מדעי מוצק. המחקר הדגיש שזה לא משנה אם בני אדם או בינה מלאכותית עורכים את הניתוח; זה מאתגר לחזות במדויק מצבים רגשיים על סמך הבעות פנים. החוקרים טוענים שביטויים אינם טביעות אצבע המספקות מידע סופי וייחודי על אדם.

עם זאת, חלק מהמומחים אינם מסכימים עם הניתוח הזה. מייסד ה-Hume AI, אלן קוון, טען שאלגוריתמים מודרניים פיתחו מערכי נתונים ואבות טיפוס התואמים במדויק לרגשות אנושיים. Hume AI, שגייסה 5 מיליון דולר במימון השקעות, משתמשת במערכי נתונים של אנשים מאמריקה, אפריקה ואסיה כדי לאמן את מערכת הבינה המלאכותית הרגשית שלה. 

שחקנים מתפתחים נוספים בתחום הבינה המלאכותית הרגשית הם HireVue, Entropik, Emteq ו- Neurodata Labs. Entropik משתמש בהבעות פנים, מבט עיניים, גווני קול וגלי מוח כדי לקבוע את ההשפעה של קמפיין שיווקי. בנק רוסי משתמש ב- Neurodata כדי לנתח סנטימנטים של לקוחות כאשר מתקשרים לנציגי שירות לקוחות. 

אפילו ביג טק מתחילה לנצל את הפוטנציאל של בינה מלאכותית רגשית. בשנת 2016, אפל רכשה את Emotient, חברה שבסיסה בסן דייגו המנתחת הבעות פנים. אלקסה, העוזרת הוירטואלית של אמזון, מתנצלת ומבהירה את תגובותיה כשהיא מזהה שהמשתמש שלה מתוסכל. בינתיים, חברת זיהוי הדיבור של מיקרוסופט, Nuance, יכולה לנתח את רגשות הנהגים על סמך הבעות הפנים שלהם.

השלכות של רגש AI

השלכות רחבות יותר של AI רגש עשויות לכלול: 

• תאגידי טכנולוגיה גדולים רוכשים חברות קטנות יותר המתמחות בבינה מלאכותית, במיוחד בבינה מלאכותית רגשית, כדי לשפר את מערכות הרכב האוטונומי שלהם, וכתוצאה מכך אינטראקציות בטוחות ואמפתיות יותר עם הנוסעים.
• מרכזי תמיכת לקוחות המשלבים AI רגשי כדי לפרש רמזים קוליים ופנים, מה שמוביל לחוויות אישיות ויעילות יותר של פתרון בעיות עבור הצרכנים.
• עוד מימון זורם למחשוב רגשי, מטפח שיתופי פעולה בין ארגוני אקדמיה ומחקר בינלאומיים, ובכך מאיץ את ההתקדמות באינטראקציה בין אדם ל-AI.
• ממשלות העומדות בפני דרישות גוברת ליצירת מדיניות המסדירה את האיסוף, האחסון והיישום של נתונים פנים וביולוגיים.
• סיכון להעמקת הטיות הקשורות לגזע ולמגדר עקב AI רגשי פגום או מוטה, המחייב סטנדרטים מחמירים יותר לאימונים ופריסה של AI במגזר הציבורי והפרטי.
• תלות מוגברת של הצרכנים במכשירים ושירותים התומכים בבינה מלאכותית רגשית, מה שמוביל לטכנולוגיה חכמה יותר מבחינה רגשית שהופכת לאינטגרלית בחיי היומיום.
• מוסדות חינוך עשויים לשלב בינה מלאכותית רגשית בפלטפורמות למידה מתוקשבות, תוך התאמת שיטות הוראה המבוססות על התגובות הרגשיות של התלמידים כדי לשפר את חוויות הלמידה.
• ספקי שירותי בריאות המשתמשים בבינה מלאכותית רגשית כדי להבין טוב יותר את צרכי המטופל ורגשותיו, לשיפור האבחון ותוצאות הטיפול.
• אסטרטגיות שיווק המתפתחות לשימוש ב-Emotion AI, המאפשרות לחברות להתאים פרסומות ומוצרים בצורה יעילה יותר למצבים רגשיים בודדים.
• ייתכן שמערכות משפטיות מאמצות בינה מלאכותית רגשית כדי להעריך את אמינות העדים או מצבים רגשיים במהלך משפטים, מה שמעורר חששות אתיים ודיוק.

שאלות שכדאי לקחת בחשבון

• האם תסכים שאפליקציות בינה מלאכותית רגשות יסרוקו את הבעות הפנים ואת גוון הקול שלך כדי לצפות את הרגשות שלך?
• מהם הסיכונים האפשריים של AI שעלול לקרוא לא נכון רגשות?