Конфиденциальность распознавания: можно ли защитить онлайн-фотографии?

• Автор:
• Имя автора

  Квантумран Форсайт
• 4 ноября 2022

Сводка статистики

Поскольку технология распознавания лиц (FRT) становится широко распространенной, различные группы пытались ограничить ее эффективность для сохранения конфиденциальности. Хотя попытка перехитрить системы распознавания лиц не всегда возможна, исследователи начали экспериментировать со способами запутать онлайн-приложения, которые сканируют и собирают фотографии для механизмов распознавания лиц. Эти методы включают использование искусственного интеллекта (ИИ) для добавления «шума» к изображениям и программного обеспечения для маскировки.

Контекст конфиденциальности распознавания

Технология распознавания лиц все чаще используется в различных секторах, включая правоохранительные органы, образование, розничную торговлю и авиацию, для самых разных целей — от выявления преступников до наблюдения. Например, в Нью-Йорке распознавание лиц помогло следователям произвести многочисленные аресты и выявить случаи кражи личных данных и мошенничества, особенно с 2010 года. Однако этот рост использования также поднимает вопросы о конфиденциальности и этичности использования такой технологии. .

В сфере пограничной безопасности и иммиграции Министерство внутренней безопасности США использует распознавание лиц для проверки личности путешественников, въезжающих и выезжающих из страны. Это делается путем сравнения фотографий путешественников с существующими изображениями, например, в паспортах. Аналогичным образом, ритейлеры применяют распознавание лиц для выявления потенциальных воров путем сравнения лиц покупателей с базами данных известных правонарушителей. 

Несмотря на практические преимущества, расширение использования технологий распознавания лиц вызвало обеспокоенность по поводу конфиденциальности и согласия. Ярким примером является случай Clearview AI, компании, которая без явного разрешения собрала миллиарды изображений с платформ социальных сетей и Интернета для обучения своей системы распознавания лиц. Такая практика подчеркивает тонкую грань между общественным и частным достоянием, поскольку люди, которые публикуют свои фотографии в Интернете, часто имеют ограниченный контроль над тем, как используются эти изображения. 

Разрушительное воздействие

В 2020 году исследователи из Чикагского университета разработали программное обеспечение под названием Fawkes. Фоукс предлагает эффективный метод защиты распознавания лиц путем «маскировки» фотографий для обмана систем глубокого обучения, при этом внося минимальные изменения, незаметные для человеческого глаза. Инструмент предназначен исключительно для систем, которые собирают личные изображения без разрешения, и не влияет на модели, созданные на основе изображений, полученных законным путем, например тех, которые используются правоохранительными органами.

Fawkes можно загрузить с веб-сайта проекта, и каждый может использовать его, выполнив несколько простых шагов. Программному обеспечению для клоакинга требуется всего несколько минут, чтобы обработать фотографии, прежде чем пользователи смогут опубликовать их публично. Программное обеспечение также доступно для операционных систем Mac и ПК.

В 2021 году израильская технологическая компания Adversa AI создала алгоритм, который добавляет шум или незначительные изменения к фотографиям лиц, в результате чего системы сканирования лиц полностью обнаруживают другое лицо. Алгоритм успешно тонко меняет изображение человека на кого-то другого по своему выбору (например, генеральный директор Adversa AI смог обмануть систему поиска изображений, чтобы она идентифицировала его как Илона Маска из Tesla). Эта технология уникальна, потому что она была создана без детального знания алгоритмов целевого FRT. Таким образом, человек также может использовать этот инструмент против других систем распознавания лиц.

Последствия признания конфиденциальности

Более широкие последствия конфиденциальности распознавания могут включать: 

• Социальные сети и другие платформы на основе контента, использующие технологии распознавания конфиденциальности.
• Смартфоны, ноутбуки и камеры, включая программы, которые могут скрывать фотографии пользователей, повышая конфиденциальность пользователей.
• Все большее число стартапов разрабатывают биометрический камуфляж или программы для ограничения обнаружения FRT. 
• Больше национальных и местных органов власти реализуют законы, ограничивающие или запрещающие FRT в общественном слежении.
• Больше судебных исков против систем распознавания лиц, которые незаконно очищают частные изображения, включая привлечение компаний социальных сетей к ответственности за отсутствие мер безопасности.
• Растущее движение граждан и организаций, которые лоббируют более широкое использование FRT.

Вопросы для рассмотрения

• Что можно сделать, чтобы сбалансировать использование систем распознавания лиц?
• Как вы используете распознавание лиц на работе и в повседневной жизни?