Deepfakes: מה הם ולמה הם חשובים

• מְחַבֵּר:
• שם היוצר

  Quantumrun Foresight
• ינואר 19, 2022

סיכום תובנה

Deepfakes, טכנולוגיה המאפשרת יצירת סרטונים או אודיו מזויפים היפר-ריאליסטיים, הופיעה ב-2017 ומאז עוררה דאגה והזדמנות. בעוד שהטכנולוגיה נוצלה לרעה כדי ליצור תוכן מטעה, היא מציעה גם יתרונות פוטנציאליים כמו שיפור הפרטיות המקוונת, שינוי אסטרטגיות פרסום וסיוע באכיפת החוק. עם זאת, ההשלכות ארוכות הטווח של זיופים עמוקים הן עצומות, החל מהצורך בחינוך לאוריינות דיגיטלית וצמיחתה של תעשייה חדשה המתמקדת בזיהוי זיופים עמוקים, ועד לשיקולים אתיים וצריכת אנרגיה מוגברת.

ההקשר של Deepfakes

המונח "זיוף עמוק" נכנס למודעות הציבורית בשנת 2017 כאשר משתמש Reddit שיתף קטעים פורנוגרפיים שהשתמשו בטכנולוגיית החלפת פנים בקוד פתוח. בסרטונים האלה, הם החליפו את פניהם של מפורסמים כמו סקרלט ג'והנסון, טיילור סוויפט, גל גדות ואחרים באמנים פורנוגרפיים. זו הייתה רק ההתחלה.

טכנולוגיית Deepfake מאפשרת לאנשים ליצור וידאו או אודיו של אירועים שמעולם לא התרחשו. לדוגמה, סלבריטאים ופוליטיקאים מצאו את עצמם בסרטונים עושים ואומרים דברים שהם מעולם לא באמת עשו או אמרו. דאגות לגבי חזותיים מזויפים ואודיו שנוצרו על ידי טכנולוגיות Deep Fake הובילו להתרבות של אמצעי נגד. כדי לבטל את ההשפעות השליליות של זיופים עמוקים, חיוני להציג חוקים חדשים. בשנת 2020, פלטפורמות מדיה חברתית כולל טוויטר ופייסבוק אסרו זיופים עמוקים מהרשתות שלהן. 

נדרשים כמה צעדים כדי ליצור קליפ Deepfake באיכות גבוהה. ראשית, הפעל אלפי צילומי פנים של שני אנשים דרך מקודד. המקודד מדגיש קווי דמיון בין שני הפנים ומוריד אותם לתכונות משותפות על ידי דחיסת התמונות. לאחר מכן, הפנים משוחזרות מתמונות דחוסות באמצעות מפענח. מכיוון שפנים שונות, מפענח אחד מאומן לשחזר את פניו של האדם הראשון ואחר לשחזר את פניו של האדם השני. לאחר מכן, היוצר צריך להזין תמונות מקודדות למפענח ה"שגוי" כדי להחיל את החלפת הפנים. 

השפעה משבשת

זיופים עמוקים, תוך שהם מהווים איומים משמעותיים, מציגים גם הזדמנויות ייחודיות. עבור אנשים, היכולת ליצור פרסונות דיגיטליות מציאותיות יכולה לשנות אינטראקציות מקוונות. לדוגמה, אדם יכול להשתמש בזיוף עמוק כדי לשמור על פרטיות במהלך שיחות וידאו, הצגת אווטאר דיגיטלי במקום הפנים האמיתיות שלו. תכונה זו עשויה להיות שימושית במיוחד במצבים שבהם בטיחות אישית או אנונימיות הם בעלי חשיבות עליונה.

עבור תאגידים, זיופים עמוקים יכולים להגדיר מחדש אסטרטגיות פרסום ומעורבות לקוחות. חברות יכולות ליצור דוברות וירטואליות, המותאמות לתהודה עם קהלי יעד שונים. אסטרטגיה זו עשויה להוביל לקמפיינים שיווקיים מותאמים אישית ויעילים יותר. עם זאת, זה גם מעלה שיקולים אתיים, שכן צרכנים עלולים להיות שולל על ידי ייצוגים היפר-ריאליסטיים אך מלאכותיים.

ממשלות יכולות להשתמש בטכנולוגיית Deepfake למטרות בטיחות וביטחון הציבור. לדוגמה, רשויות אכיפת החוק יכולות להשתמש בזיופים עמוקים בפעולות עוקץ, וליצור תרחישים מציאותיים מבלי לסכן קצינים אנושיים. עם זאת, פוטנציאל השימוש לרעה הוא גבוה, וחיוני לממשלות לקבוע תקנות קפדניות כדי למנוע שימוש לרעה בטכנולוגיה זו. בטווח הארוך, ההשפעה של זיופים עמוקים תהיה תלויה במידה רבה באיזו אחריות אנו משתמשים ומווסתים את הכלי החזק הזה.

השלכות של זיופים עמוקים

השלכות רחבות יותר של טכנולוגיית Deepfake עשויות לכלול: 

• השימוש בו באכיפת החוק כדי לשחזר זירות פשע עם יחסי הגומלין של חפצים זמניים ומרחביים. 
• השימוש בו על ידי עסקי קמעונאות אופנה ליצירת חדרי ניסיון וירטואליים עבור לקוחות כדי לנסות מוצרים אהובים מבלי לנסות אותם בפועל.
• מתן כלים חדשים לאינטגרציה וביטוי עצמי ליחידים בעולם המקוון. למשל, אנשים יכולים ליצור אווטרים של עצמם לביטוי עצמי מקוון.
• השימוש המתקדם והנפוץ בזיופים עמוקים ברחבי התקשורת על ידי מספר שחקנים רעים. בתרחיש הגרוע ביותר הזה, זיופים עמוקים עלולים לפגוע ביכולת החברה להאמין במה שהם רואים ושומעים, ולהפוך חלקים רחבים יותר של החברה לרגישים יותר לתעמולה ולצורות שונות של מניפולציות.
• עלייה בביקוש לחינוך לאוריינות דיגיטלית, וכתוצאה מכך אוכלוסייה מושכלת ובעלת אבחנה שיכולה להבחין טוב יותר בין תוכן אמיתי למניפולציה.
• תעשייה חדשה התמקדה באיתור ומניעה של זיופים עמוקים, יצירת הזדמנויות עבודה וצמיחה כלכלית.
• התקדמות בבינה מלאכותית ולמידת מכונה, פורצת את הגבולות של מה שאפשרי מבחינה טכנולוגית.
• עלייה בצריכת האנרגיה, שכן יצירה וזיהוי של זיופים עמוקים דורשים משאב חישובי משמעותי.

שאלות שכדאי לקחת בחשבון

• מהן ההשפעות הפוטנציאליות של זיופים עמוקים על החברה?
• האם אתה חושב שחוקים שהוכנסו על ידי ממשלות יעזרו לחסל את היישומים השליליים של זיופים עמוקים? 
• על אילו חידושים ניתן ליישם טכנולוגיית Deepfake בעתיד?