Генеративно-состязательные сети (GAN): эпоха синтетических медиа

• Автор:
• Имя автора

  Квантумран Форсайт
• 5 декабря 2023

Сводка статистики

Генеративно-состязательные сети (GAN), известные созданием дипфейков, генерируют синтетические данные, имитирующие реальные лица, голоса и манеры поведения. Их использование варьируется от улучшения Adobe Photoshop до создания реалистичных фильтров в Snapchat. Однако GAN вызывают этические проблемы, поскольку их часто используют для создания вводящих в заблуждение дипфейковых видеороликов и распространения дезинформации. В здравоохранении существует обеспокоенность по поводу конфиденциальности данных пациентов при обучении GAN. Несмотря на эти проблемы, GAN имеют полезные применения, например, для помощи в уголовных расследованиях. Их широкое использование в различных секторах, включая кинопроизводство и маркетинг, привело к призывам к более строгим мерам конфиденциальности данных и государственному регулированию технологии GAN.

Контекст генеративно-состязательных сетей (GAN)

GAN — это тип глубокой нейронной сети, которая может генерировать новые данные, аналогичные тем, на которых она обучается. Два основных блока, которые конкурируют друг с другом за создание фантастических творений, называются генератором и дискриминатором. Генератор отвечает за создание новых данных, а дискриминатор пытается отличить сгенерированные данные от обучающих данных. Генератор постоянно пытается обмануть дискриминатор, создавая информацию, которая выглядит максимально реальной. Для этого генератору необходимо изучить основное распределение данных, что позволит GAN создавать новую информацию, фактически не запоминая ее.

Когда в 2014 году ученый Google Ян Гудфеллоу и его коллеги по команде впервые разработали GAN, этот алгоритм показал большие перспективы для машинного обучения. С тех пор GAN нашли множество реальных применений в различных отраслях. Например, Adobe использует GAN для Photoshop следующего поколения. Google использует возможности GAN как для генерации текста, так и изображений. IBM эффективно использует GAN для увеличения данных. Snapchat использует их для эффективных фильтров изображений, а Disney — для сверхвысокого разрешения. 

Разрушительное воздействие

Хотя GAN изначально был создан для улучшения машинного обучения, его применение пересекло сомнительные территории. Например, постоянно создаются дипфейковые видео, чтобы имитировать реальных людей и создавать впечатление, будто они делают или говорят что-то, чего не делали. Например, было видео, на котором бывший президент США Барак Обама называет уничижительным термином своего коллегу-бывшего президента США Дональда Трампа, а генеральный директор Facebook Марк Цукербург хвастается тем, что может контролировать миллиарды украденных данных. Ничего из этого не произошло в реальной жизни. Кроме того, большинство дипфейковых видео нацелены на женщин-знаменитостей и помещают их в порнографический контент. GAN также могут создавать вымышленные фотографии с нуля. Например, несколько фейковых аккаунтов журналистов в LinkedIn и Twitter оказались созданными с помощью ИИ. Эти синтетические профили можно использовать для создания реалистично звучащих статей и идейных идей, которые могут использовать пропагандисты. 

Между тем, в секторе здравоохранения растет обеспокоенность по поводу данных, которые могут быть украдены при использовании реальной базы данных пациентов в качестве обучающих данных для алгоритмов. Некоторые исследователи утверждают, что для защиты личной информации должен существовать дополнительный уровень безопасности или маскировочный уровень. Однако, хотя GAN в основном известен своей способностью обманывать людей, у него есть и положительные преимущества. Например, в мае 2022 года полиция Нидерландов воссоздала видео 13-летнего мальчика, убитого в 2003 году. Используя реалистичные кадры жертвы, полиция надеется побудить людей вспомнить жертву и выступить с обвинениями. новая информация по нераскрытому делу. Полиция утверждает, что они уже получили несколько наводок, но для их подтверждения им придется провести проверку биографических данных.

Применение генеративно-состязательных сетей (GAN)

Некоторые приложения генеративно-состязательных сетей (GAN) могут включать: 

• Киноиндустрия создает дипфейковый контент для размещения синтетических актеров и пересъемки сцен в постпродакшенных фильмах. Эта стратегия может привести к долгосрочной экономии средств, поскольку им не придется платить актерам и съемочной группе дополнительную компенсацию.
• Растущее использование дипфейковых текстов и видео для продвижения идеологий и пропаганды по всему различному политическому спектру.
• Компании, использующие синтетические видеоролики для создания тщательно продуманных брендинговых и маркетинговых кампаний, не нанимая реальных людей, кроме программистов.
• Группы, лоббирующие усиление защиты конфиденциальности медицинских данных и другой личной информации. Этот отказ может заставить компании разрабатывать данные обучения, которые не основаны на реальных базах данных. Однако результаты могут быть не такими точными.
• Правительства регулируют и контролируют фирмы, производящие технологию GAN, чтобы гарантировать, что эта технология не используется для дезинформации и мошенничества.

Вопросы для комментариев

• Был ли у вас опыт использования технологии GAN? Каким был этот опыт?
• Как компании и правительства могут гарантировать, что GAN используется этично?