Quantumrun

КРЕДИТ ЗОБРАЖЕННЯ:

iStock

Глибокі фейки та домагання: як синтетичний контент використовується для домагань до жінок

Маніпуляційні зображення та відео створюють цифрове середовище, націлене на жінок.

Автор:
ім'я автора
Quantumrun Foresight
14 Грудня, 2022

Короткий огляд

Розвиток технології deepfake призвів до збільшення випадків сексуальних домагань, особливо щодо жінок. Експерти вважають, що зловживання посиляться, якщо не будуть застосовуватися суворіші закони щодо створення, використання та розповсюдження синтетичних носіїв. Довгострокові наслідки використання глибоких фейків для переслідувань можуть включати збільшення судових позовів і більш просунуті технології та фільтри глибоких фейків.

Дипфейки та контекст агресивних дій

У 2017 році дошка обговорень на веб-сайті Reddit була вперше використана для розміщення порнографії, обробленої штучним інтелектом (AI). Протягом місяця тема Reddit стала вірусною, і тисячі людей розмістили на сайті свою глибоку фейкову порнографію. Синтетичний контент, який використовується для створення фальшивої порнографії чи переслідувань, стає все більш поширеним, однак суспільний інтерес часто зосереджується на пропагандистських глибоких фейках, які пропагують дезінформацію та політичну нестабільність.

Термін «deepfake» — це поєднання «глибокого навчання» та «фейку», методу відтворення фотографій і відео за допомогою ШІ. Важливим компонентом у створенні цього вмісту є машинне навчання (ML), яке дозволяє швидко та недорого створювати підроблені матеріали, які глядачам стає все важче виявити.

Нейронна мережа навчається за допомогою кадрів цільової особи для створення глибокого фейкового відео. Чим більше кадрів використовується в навчальних даних, тим реалістичнішими будуть результати; мережа дізнається про манери та інші особистісні риси цієї людини. Коли нейронна мережа навчена, будь-хто може використовувати методи комп’ютерної графіки, щоб накласти копію подоби людини на іншого актора чи тіло. Це копіювання призвело до різкого збільшення кількості порнографічних матеріалів жінок-знаменитостей та цивільних осіб, які не підозрюють, що їхні зображення використовувалися таким чином. За даними дослідницької компанії Sensity AI, приблизно від 90 до 95 відсотків усіх глибоких фейкових відео належать до категорії порнографії без згоди.

Руйнівний вплив

Deepfakes погіршили практику порно з помстою, головним чином націлених на жінок, щоб піддати їх публічному приниженню та травмі. Конфіденційність і безпека жінок знаходяться під загрозою, оскільки наскрізна фальшива відеотехнологія все більше стає зброєю, наприклад, переслідуючи, залякуючи, принижуючи гідність і принижуючи жіночу особисту та професійну гідність. Гірше того, немає достатнього регулювання проти такого типу контенту.

Наприклад, станом на 2022 рік порноконтент про помсту заборонений у 46 штатах США, і лише два штати прямо висвітлюють заборону на синтетичні медіа. Deepfakes не є незаконними самі по собі, лише якщо вони порушують авторські права або стають наклепом. Ці обмеження ускладнюють для жертв подання до суду, особливо тому, що неможливо остаточно видалити цей вміст онлайн.

Тим часом інша форма синтетичного контенту – аватари (онлайн-представництва користувачів) також зазнає нападок. Відповідно до звіту некомерційної правозахисної організації SumOfUs за 2022 рік, жінка, яка проводила дослідження від імені організації, нібито зазнала нападу на платформі Metaverse Horizon Worlds. Жінка повідомила, що інший користувач згвалтував її аватар, поки інші спостерігали. Коли жертва повідомила про інцидент Meta, представник Meta сказав, що дослідник деактивував опцію Personal Boundary. Ця функція була введена в лютому 2022 року як запобіжний захід, увімкнений за замовчуванням і не дозволяв незнайомцям наближатися до аватара на радіус чотирьох футів.

Наслідки дипфейків і переслідування

Більш широкі наслідки глибоких фейків і переслідувань можуть включати:

Посилення тиску на уряди щодо впровадження глобальної регуляторної політики проти дипфейків, які використовуються для цифрових переслідувань і нападів.
Більше жінок стають жертвами технології deepfake, зокрема знаменитостей, журналістів та активісток.
Збільшення кількості позовів від жертв глибоких фейкових переслідувань і наклепу.
Збільшення випадків неналежної поведінки по відношенню до аватарів та інших онлайн-представництв у спільнотах метавсесвіту.
Випускаються нові та дедалі простіші у використанні додатки та фільтри deepfake, які можуть створювати реалістичний контент, що призводить до комерціалізації контенту deepfake без згоди, особливо порнографії.
Соціальні медіа та платформи для розміщення веб-сайтів більше інвестують у ретельний моніторинг вмісту, що поширюється на їхніх платформах, зокрема забороняють окремих осіб або видаляють сторінки груп.