Поверителност на разпознаването: Могат ли онлайн снимките да бъдат защитени?

• Автор:
• име Автор

  Quantumrun Foresight
• Ноември 4, 2022

Резюме на прозрението

Тъй като технологията за разпознаване на лица (FRT) става широко разпространена, различни групи се опитват да ограничат нейната ефикасност, за да запазят поверителността. Докато опитите за надхитряне на системите за лицево разпознаване не винаги са възможни, изследователите са започнали да експериментират с начини да объркат онлайн приложенията, които изтриват и събират снимки за машини за лицево разпознаване. Тези методи включват използване на изкуствен интелект (AI) за добавяне на „шум“ към изображения и софтуер за прикриване.

Контекст на поверителност на разпознаването

Технологията за лицево разпознаване се използва все повече от различни сектори, включително правоприлагане, образование, търговия на дребно и авиация, за цели, вариращи от идентифициране на престъпници до наблюдение. Например в Ню Йорк лицевото разпознаване изигра важна роля в подпомагането на следователите да извършат многобройни арести и да идентифицират случаи на кражба на самоличност и измами, значително от 2010 г. насам. Това нарастване на употребата обаче също така повдига въпроси относно поверителността и етичната употреба на такава технология .

В граничната сигурност и имиграцията Министерството на вътрешната сигурност на САЩ използва лицево разпознаване, за да потвърди самоличността на пътниците, влизащи и напускащи страната. Това се прави чрез сравняване на снимки на пътници със съществуващи изображения, като тези в паспортите. По подобен начин търговците на дребно приемат лицево разпознаване, за да идентифицират потенциални крадци, като сравняват лицата на клиентите с база данни с известни нарушители. 

Въпреки практическите ползи, разширяващата се употреба на технологии за разпознаване на лица предизвика опасения относно неприкосновеността на личния живот и съгласието. Забележителен пример е случаят с Clearview AI, компания, която натрупа милиарди изображения от социални медийни платформи и интернет, без изрично разрешение, за да обучи своята система за разпознаване на лица. Тази практика подчертава тънката граница между публичните и частните домейни, тъй като хората, които споделят своите снимки онлайн, често имат ограничен контрол върху това как се използват тези изображения. 

Разрушително въздействие

През 2020 г. софтуер, наречен Fawkes, беше разработен от изследователи от Чикагския университет. Fawkes предлага ефективен метод за защита при разпознаване на лица чрез „прикриване“ на снимки, за да измами системите за дълбоко обучение, като същевременно прави минимални промени, които не са забележими за човешкото око. Инструментът е насочен единствено към системи, които събират лични изображения без разрешение и не засяга модели, изградени със законно получени снимки, като тези, използвани от правоприлагащите органи.

Fawkes може да бъде изтеглен от уебсайта на проекта и всеки може да го използва, като следва няколко прости стъпки. Софтуерът за прикриване отнема само няколко минути, за да обработи снимките, преди потребителите да могат да продължат и да ги публикуват публично. Софтуерът е наличен и за Mac и PC операционни системи.

През 2021 г. базираната в Израел технологична компания Adversa AI създаде алгоритъм, който добавя шум или незначителни промени към снимки на лица, което кара системите за сканиране на лица да откриват напълно различно лице. Алгоритъмът успешно променя образа на индивида с някой друг по техен избор (напр. изпълнителният директор на Adversa AI успя да измами система за търсене на изображения, за да го идентифицира като Илон Мъск на Tesla). Тази технология е уникална, защото е създадена без подробно познаване на алгоритмите на целевия FRT. По този начин дадено лице може също да използва инструмента срещу други машини за разпознаване на лица.

Последици от поверителността на разпознаването

По-широките последици от поверителността на разпознаването могат да включват: 

• Социални медии и други базирани на съдържание платформи, включващи технологии за поверителност на разпознаването.
• Смартфони, лаптопи и фотоапарати, включително програми, които могат да прикриват снимките на потребителите, увеличавайки поверителността на потребителите.
• Все по-голям брой стартиращи компании разработват биометричен камуфлаж или програми за ограничаване на откриването на FRT. 
• Повече национални и местни правителства прилагат закони, които ограничават или забраняват FRT при обществено наблюдение.
• Повече съдебни дела срещу системи за разпознаване на лица, които незаконно изтриват частни изображения, включително търсене на отговорност от социалните медии за липсата на мерки за сигурност.
• Нарастващо движение на граждани и организации, които лобират срещу нарастващата употреба на FRT.

Въпроси за разглеждане

• Какво може да се направи, за да се балансира използването на системи за лицево разпознаване?
• Как използвате лицевото разпознаване на работа и в ежедневието си?