זיופים עמוקים והטרדה: כיצד משתמשים בתוכן סינתטי כדי להטריד נשים

• מְחַבֵּר:
• שם היוצר

  Quantumrun Foresight
• דצמבר 14, 2022

סיכום תובנה

התפתחויות בטכנולוגיית Deepfake הביאו להגדלת מקרים של הטרדה מינית, במיוחד נגד נשים. מומחים מאמינים שההתעללות תחמיר אלא אם ייאכפו חוקים מחמירים יותר לגבי אופן היצירה, השימוש וההפצה של מדיה סינתטית. ההשלכות ארוכות הטווח של שימוש בזיופים עמוקים לצורך הטרדה עשויות לכלול הגברת תביעות משפטיות וטכנולוגיות ומסננים מתקדמות יותר של זיוף עמוק.

זיופים עמוקים והקשר של הטרדה

בשנת 2017, לוח דיונים באתר Reddit שימש לראשונה לאירוח פורנוגרפיה עם בינה מלאכותית (AI). תוך חודש, השרשור של Reddit הפך לוויראלי, ואלפי אנשים פרסמו את הפורנוגרפיה המזוויפת שלהם באתר. תוכן סינתטי המשמש ליצירת פורנוגרפיה מזויפת או הטרדה נפוץ יותר ויותר, אך העניין הציבורי מתמקד לעתים קרובות בזיופים עמוקים של תעמולה המקדמים דיסאינפורמציה וחוסר יציבות פוליטית. 

המונח "דיפפייק" הוא שילוב של "למידה עמוקה" ו"זיוף", שיטה ליצירה מחדש של תמונות וסרטונים בעזרת AI. המרכיב החיוני בייצור התוכן הזה הוא למידת מכונה (ML), המאפשרת יצירה מהירה וזולה של חומר מזויף שקשה יותר ויותר לצופים אנושיים לזהות.

 רשת עצבית מאומנת עם צילומים של האדם הממוקד כדי ליצור סרטון מזויף עמוק. ככל שישתמשו יותר מדה בנתוני האימון, כך התוצאות יהיו מציאותיות יותר; הרשת תלמד את הגינונים של אותו אדם ותכונות אישיות אחרות. ברגע שהרשת העצבית מאומנת, כל אחד יכול להשתמש בטכניקות של גרפיקה ממוחשבת כדי להצמיד עותק של דמותו של אדם על שחקן או גוף אחר. העתקה זו הביאה למספר גדל והולך של חומרים פורנוגרפיים של ידועניות ואזרחים שלא מודעים לכך שהתמונות שלהם שימשו בדרך זו. לפי חברת המחקר Sensity AI, בערך 90 עד 95 אחוזים מכל הסרטונים המזויפים עמוקים נכנסים לקטגוריית הפורנוגרפיה ללא הסכמה.

השפעה משבשת

זיופים עמוקים החמירו את הפרקטיקה של פורנו נקמה, בעיקר מכוונות לנשים כדי לחשוף אותן להשפלה וטראומה פומבית. פרטיותן ובטיחותן של נשים נמצאות בסכנה מכיוון שטכנולוגיית וידאו מזויפת מקצה לקצה מקבלת יותר ויותר נשק, למשל, הטרדה, הפחדה, משפילה והשפלה של נשים באופן אישי ומקצועי. גרוע מכך, אין מספיק רגולציה נגד תוכן מסוג זה.

לדוגמה, החל משנת 2022, תוכן פורנו נקמה אסור ב-46 מדינות בארה"ב, ורק שתי מדינות מכסות במפורש מדיה סינתטית באיסור שלהן. זיופים עמוקים אינם חוקיים כשלעצמם, רק כאשר הם מפרים זכויות יוצרים או הופכים לשון הרע. מגבלות אלו מקשות על הקורבנות לנקוט בהליכים משפטיים, במיוחד מכיוון שאין דרך למחוק תוכן זה באופן מקוון לצמיתות.

בינתיים, סוג אחר של תוכן סינתטי, אווטרים (ייצוגים מקוונים של משתמשים), נתון גם הוא לתקיפות. על פי דו"ח משנת 2022 של ארגון הסברה ללא מטרות רווח SumOfUs, אישה החוקרת מטעם הארגון הותקפה לכאורה בפלטפורמת Metaverse Horizon Worlds. האישה דיווחה שמשתמש אחר תקף מינית את הדמות שלה בזמן שאחרים צפו. כשהקורבן הביא לידיעת מטה את האירוע, דובר מטא אמר כי החוקר ביטל את אפשרות הגבול האישי. התכונה הוצגה בפברואר 2022 כאמצעי זהירות המופעל כברירת מחדל ומנע מזרים להתקרב לאוואטר בטווח של ארבעה מטרים.

השלכות של זיופים עמוקים והטרדה

השלכות רחבות יותר של זיופים עמוקים והטרדה עשויות לכלול: 

• לחץ מוגבר על ממשלות ליישם מדיניות רגולטורית גלובלית נגד זיופים עמוקים המשמשים להטרדה דיגיטלית ותקיפה.
• יותר נשים נפגעות מטכנולוגיה מזויפת עמוקה, במיוחד סלבריטאים, עיתונאים ופעילים.
• עלייה בתביעות של קורבנות של הטרדה ולשון הרע. 
• התגברות התקריות של התנהגות בלתי הולמת כלפי אווטרים וייצוגים מקוונים אחרים בקהילות מטאוורס.
• יישומים ומסננים חדשים וקלים יותר ויותר לשימוש בזיוף עמוק, שיכולים ליצור תוכן ריאליסטי, מה שמוביל למוצרים של תוכן מזויף עמוק ללא הסכמה, במיוחד פורנוגרפיה.
• רשתות חברתיות ופלטפורמות אירוח אתרים משקיעות יותר כדי לפקח בכבדות על תוכן המופץ בפלטפורמות שלהן, כולל איסור על אנשים או הסרת דפים קבוצתיים.

שאלות שכדאי לקחת בחשבון

• איך הממשלה שלך מטפלת בהטרדה מזויפת עמוקה?
• מהן הדרכים האחרות שבהן משתמשים מקוונים יכולים להגן על עצמם מפני קורבן על ידי יוצרי זיוף עמוק?