Quantumrun

КРЕДИТ ЗОБРАЖЕННЯ:

iStock

Конфіденційність розпізнавання: чи можна захистити фотографії в Інтернеті?

Дослідники та компанії розробляють нові технології, щоб допомогти людям захистити свої онлайн-фотографії від використання в системах розпізнавання облич.

Автор:
ім'я автора
Quantumrun Foresight
Листопад 4, 2022

Короткий огляд

Оскільки технологія розпізнавання обличчя (FRT) стає широко поширеною, різні групи намагаються обмежити її ефективність, щоб зберегти конфіденційність. Хоча спроба перехитрити системи розпізнавання облич не завжди можлива, дослідники почали експериментувати зі способами заплутати онлайн-програми, які очищують і збирають фотографії для механізмів розпізнавання облич. Ці методи включають використання штучного інтелекту (ШІ) для додавання «шуму» до зображень і програмне забезпечення для маскування.

Контекст конфіденційності розпізнавання

Технологія розпізнавання облич все частіше використовується різними секторами, включаючи правоохоронні органи, освіту, роздрібну торгівлю та авіацію, для цілей, починаючи від ідентифікації злочинців і закінчуючи стеженням. Наприклад, у Нью-Йорку розпізнавання облич відіграло важливу роль у допомозі слідчим здійснювати численні арешти та виявляти випадки крадіжки особистих даних і шахрайства, значною мірою починаючи з 2010 року. Однак таке збільшення використання також викликає питання щодо конфіденційності та етичного використання такої технології. .

У сфері охорони кордону та імміграції Міністерство внутрішньої безпеки США використовує розпізнавання облич для перевірки особи мандрівників, які в’їжджають і залишають країну. Це робиться шляхом порівняння фотографій мандрівників із наявними зображеннями, наприклад, у паспортах. Подібним чином роздрібні торговці впроваджують розпізнавання облич, щоб ідентифікувати потенційних крадіїв, порівнюючи обличчя покупців із базою даних відомих злочинців.

Незважаючи на практичні переваги, розширення використання технологій розпізнавання обличчя викликало занепокоєння щодо конфіденційності та згоди. Яскравим прикладом є випадок Clearview AI, компанії, яка зібрала мільярди зображень із платформ соціальних мереж та Інтернету без явного дозволу, щоб навчити свою систему розпізнавання облич. Ця практика підкреслює тонку межу між публічним і приватним доменами, оскільки люди, які діляться своїми фотографіями в Інтернеті, часто мають обмежений контроль над тим, як ці зображення використовуються.

Руйнівний вплив

У 2020 році дослідники з Чиказького університету розробили програмне забезпечення під назвою Fawkes. Фокс пропонує ефективний метод захисту від розпізнавання обличчя шляхом «маскування» фотографій, щоб обдурити системи глибокого навчання, вносячи при цьому мінімальні зміни, непомітні для людського ока. Інструмент націлений виключно на системи, які збирають особисті зображення без дозволу, і не впливає на моделі, створені на основі законно отриманих зображень, наприклад ті, що використовуються правоохоронними органами.

Fawkes можна завантажити з веб-сайту проекту, і кожен може використовувати його, виконавши кілька простих кроків. Програмне забезпечення для маскування займає лише кілька хвилин, щоб обробити фотографії, перш ніж користувачі зможуть опублікувати їх у відкритому доступі. Програмне забезпечення також доступне для операційних систем Mac і PC.

У 2021 році ізраїльська технологічна компанія Adversa AI створила алгоритм, який додає шум або незначні зміни до фотографій облич, що змушує системи сканування обличчя виявляти зовсім інше обличчя. Алгоритм успішно тонко змінює образ людини на когось іншого за їх вибором (наприклад, генеральний директор Adversa AI зміг обдурити систему пошуку зображень, щоб ідентифікувати його як Ілона Маска Tesla). Ця технологія є унікальною, оскільки вона була створена без детального знання алгоритмів цільового FRT. Таким чином, особа також може використовувати інструмент проти інших механізмів розпізнавання обличчя.

Наслідки конфіденційності розпізнавання

Більш широкі наслідки конфіденційності розпізнавання можуть включати:

Соціальні медіа та інші платформи на основі контенту, що містять технології конфіденційності розпізнавання.
Смартфони, ноутбуки та камери, включаючи програми, які можуть маскувати фотографії користувачів, підвищуючи конфіденційність користувачів.
Зростає кількість стартапів, які розробляють біометричний камуфляж або програми для обмеження виявлення FRT.
Більше національних і місцевих органів влади застосовують закони, які обмежують або забороняють FRT під час громадського спостереження.
Більше судових позовів проти систем розпізнавання облич, які незаконно збирають приватні зображення, зокрема притягнення компаній соціальних мереж до відповідальності за відсутність заходів безпеки.
Зростаючий рух громадян та організацій, які лобіюють проти все більшого використання FRT.