Дипфейки и домогательства: как синтетический контент используется для домогательств к женщинам

• Автор:
• Имя автора

  Квантумран Форсайт
• 14 декабря 2022

Сводка статистики

Развитие технологии дипфейков привело к увеличению случаев сексуальных домогательств, особенно в отношении женщин. Эксперты полагают, что злоупотребления будут ухудшаться, если не будут приняты более строгие законы о том, как создаются, используются и распространяются синтетические медиа. Долгосрочные последствия использования дипфейков для преследования могут включать в себя увеличение количества судебных исков и более продвинутые технологии и фильтры дипфейков.

Дипфейки и контекст домогательств

В 2017 году дискуссионная доска на веб-сайте Reddit впервые использовалась для размещения порнографии, управляемой искусственным интеллектом (ИИ). В течение месяца тред на Reddit стал вирусным, и тысячи людей разместили на сайте свою дипфейковую порнографию. Синтетический контент, используемый для создания поддельной порнографии или домогательств, становится все более распространенным явлением, однако общественный интерес часто сосредоточен на пропагандистских дипфейках, которые способствуют распространению дезинформации и политической нестабильности. 

Термин «глубокое подделка» представляет собой сочетание «глубокого обучения» и «подделки», метода воссоздания фотографий и видео с помощью ИИ. Важным компонентом в производстве этого контента является машинное обучение (ML), которое позволяет быстро и недорого создавать поддельные материалы, которые зрителям становится все труднее обнаружить.

 Нейронная сеть обучается на кадрах целевого человека для создания дипфейкового видео. Чем больше кадров используется в обучающих данных, тем более реалистичными будут результаты; сеть узнает манеры этого человека и другие черты личности. Как только нейронная сеть обучена, любой может использовать методы компьютерной графики, чтобы наложить копию изображения человека на другого актера или тело. Это копирование привело к резкому увеличению количества порнографических материалов знаменитостей и гражданских лиц, не подозревающих, что их изображения использовались таким образом. По данным исследовательской компании Sensity AI, от 90 до 95 процентов всех дипфейковых видео попадают в категорию порнографии без согласия.

Разрушительное воздействие

Дипфейки усугубили практику порномести, в первую очередь нацеленную на женщин, чтобы подвергнуть их публичному унижению и травмам. Неприкосновенность частной жизни и безопасность женщин находятся под угрозой, поскольку сквозные фейковые видеотехнологии все чаще используются в качестве оружия, например, для преследования, запугивания, унижения и унижения женщин в личном и профессиональном плане. Хуже того, недостаточно регулирования этого типа контента.

Например, по состоянию на 2022 год контент порномести запрещен в 46 штатах США, и только два штата прямо включают в свой запрет синтетические медиа. Дипфейки сами по себе не являются незаконными, только если они нарушают авторские права или носят клеветнический характер. Эти ограничения затрудняют потерпевшим подачу судебных исков, особенно потому, что невозможно навсегда удалить этот контент в Интернете.

Между тем другой вид синтетического контента — аватары (онлайн-представления пользователей) — также подвергается нападкам. Согласно отчету некоммерческой правозащитной организации SumOfUs за 2022 год, женщина, занимающаяся исследованиями от имени организации, предположительно подверглась нападению на платформе Metaverse Horizon Worlds. Женщина сообщила, что другой пользователь изнасиловал ее аватар, пока другие смотрели. Когда жертва сообщила об инциденте Мете, представитель Меты сказал, что исследователь отключил опцию «Личные границы». Эта функция была введена в феврале 2022 года в качестве меры предосторожности, включенной по умолчанию и не позволяющей незнакомцам приближаться к аватару в пределах четырех футов.

Последствия дипфейков и домогательств

Более широкие последствия дипфейков и домогательств могут включать: 

• Усиление давления на правительства с целью реализации глобальной политики регулирования против дипфейков, используемых для цифровых домогательств и нападений.
• Все больше женщин становятся жертвами технологии дипфейков, особенно знаменитости, журналисты и активистки.
• Рост судебных исков от жертв дипфейковых преследований и клеветы. 
• Увеличение случаев ненадлежащего поведения по отношению к аватарам и другим онлайн-представлениям в сообществах метавселенной.
• Выпускаются новые и все более простые в использовании приложения для дипфейков и фильтры, которые могут создавать реалистичный контент, что приводит к превращению в товар несогласованного дипфейкового контента, особенно порнографии.
• Платформы социальных сетей и хостинга веб-сайтов вкладывают больше средств в тщательный мониторинг контента, распространяемого на их платформах, включая блокировку отдельных лиц или удаление групповых страниц.

Вопросы для рассмотрения

• Как ваше правительство борется с дипфейковыми домогательствами?
• Какими еще способами онлайн-пользователи могут защитить себя от преследования со стороны создателей дипфейков?