퀀텀런

이미지 크레딧:

iStock

개인 정보 인식: 온라인 사진을 보호할 수 있습니까?

연구원과 회사는 개인이 온라인 사진이 얼굴 인식 시스템에 사용되지 않도록 보호하는 데 도움이 되는 새로운 기술을 개발하고 있습니다.

저자:
저자 이름
퀀텀런 예측
2022 년 11 월 4 일

인사이트 요약

얼굴 인식 기술(FRT)이 널리 보급됨에 따라 다양한 그룹에서 개인 정보 보호를 위해 FRT의 효율성을 제한하려고 노력해 왔습니다. 안면 인식 시스템을 능가하려는 시도가 항상 가능한 것은 아니지만, 연구자들은 안면 인식 엔진용 사진을 스크랩하고 수집하는 온라인 앱을 혼동시키는 방법을 실험하기 시작했습니다. 이러한 방법에는 인공 지능(AI)을 사용하여 이미지 및 클로킹 소프트웨어에 "노이즈"를 추가하는 것이 포함됩니다.

프라이버시 컨텍스트 인식

안면 인식 기술은 법 집행, 교육, 소매, 항공 등 다양한 분야에서 범죄자 식별부터 감시까지 다양한 목적으로 활용되는 사례가 점차 늘어나고 있습니다. 예를 들어, 뉴욕에서는 안면 인식이 수사관이 2010년부터 수많은 체포를 하고 신원 도용 및 사기 사건을 식별하는 데 도움이 되었습니다. 그러나 이러한 사용 증가로 인해 개인 정보 보호 및 해당 기술의 윤리적 사용에 대한 의문도 제기되었습니다. .

국경 보안 및 이민 분야에서 미국 국토안보부는 얼굴 인식을 사용하여 입국 및 출국하는 여행자의 신원을 확인합니다. 이는 여행자의 사진을 여권에서 발견된 것과 같은 기존 이미지와 비교함으로써 수행됩니다. 마찬가지로, 소매업체는 고객의 얼굴을 알려진 범죄자 데이터베이스와 비교하여 잠재적인 좀도둑을 식별하기 위해 얼굴 인식을 채택하고 있습니다.

실질적인 이점에도 불구하고 얼굴 인식 기술의 사용이 확대되면서 개인 정보 보호 및 동의에 대한 우려가 촉발되었습니다. 주목할만한 예는 안면 인식 시스템을 훈련시키기 위해 명시적인 허가 없이 소셜 미디어 플랫폼과 인터넷에서 수십억 개의 이미지를 수집한 회사인 Clearview AI의 경우입니다. 이러한 관행은 자신의 사진을 온라인으로 공유하는 개인이 이러한 이미지가 사용되는 방식에 대한 통제력이 제한되는 경우가 많기 때문에 공개 도메인과 비공개 도메인 사이의 얇은 경계를 강조합니다.

파괴적 영향

2020년 시카고대학교 연구진이 Fawkes라는 소프트웨어를 개발했습니다. Fawkes는 인간의 눈에 눈에 띄지 않는 최소한의 변경을 수행하면서 딥 러닝 시스템을 속이기 위해 사진을 "클로킹"함으로써 효과적인 얼굴 인식 보호 방법을 제공합니다. 이 도구는 허가 없이 개인 이미지를 수집하는 시스템만을 대상으로 하며 법 집행 기관에서 사용하는 것과 같이 합법적으로 획득한 사진으로 구축된 모델에는 영향을 미치지 않습니다.

Fawkes는 프로젝트 웹사이트에서 다운로드할 수 있으며, 몇 가지 간단한 단계를 따르면 누구나 사용할 수 있습니다. 클로킹 소프트웨어는 사용자가 사진을 공개적으로 게시하기 전에 사진을 처리하는 데 몇 분밖에 걸리지 않습니다. 이 소프트웨어는 Mac 및 PC 운영 체제에서도 사용할 수 있습니다.

2021년 이스라엘에 본사를 둔 기술 회사 Adversa AI는 얼굴 스캔 시스템이 다른 얼굴을 모두 감지하도록 하는 얼굴 사진에 노이즈 또는 사소한 변경을 추가하는 알고리즘을 만들었습니다. 알고리즘은 성공적으로 개인의 이미지를 자신이 선택한 다른 사람으로 미묘하게 변경합니다(예: Adversa AI의 CEO는 이미지 검색 시스템을 속여 그를 Tesla의 Elon Musk로 식별할 수 있었습니다). 이 기술은 대상 FRT의 알고리즘에 대한 자세한 지식 없이 만들어졌기 때문에 고유합니다. 따라서 개인은 다른 안면 인식 엔진에 대해 도구를 사용할 수도 있습니다.