퀀텀런

이미지 크레딧:

iStock

Deepfakes: 딥페이크는 무엇이며 왜 중요한가요?

Deepfakes는 개인과 기업을 비방하고 허위 진술하는 데 사용될 수 있습니다. 그러나 적절한 지식이 있으면 경영진은 자신과 비즈니스를 보호할 수 있습니다.

저자:
저자 이름
퀀텀런 예측
2022 년 1 월 19 일

인사이트 요약

초현실적인 가짜 비디오 또는 오디오를 생성할 수 있는 기술인 Deepfakes는 2017년에 등장했으며 이후 우려와 기회를 모두 불러일으켰습니다. 이 기술은 사기성 콘텐츠를 만드는 데 오용되었지만 온라인 개인 정보 보호 강화, 광고 전략 혁신, 법 집행 지원과 같은 잠재적인 이점도 제공합니다. 그러나 딥페이크의 장기적인 영향은 디지털 리터러시 교육의 필요성과 딥페이크 감지에 중점을 둔 새로운 산업의 성장에서 윤리적 고려 및 에너지 소비 증가에 이르기까지 광범위합니다.

딥페이크 컨텍스트

"딥페이크"라는 용어는 2017년 Reddit 사용자가 오픈 소스 얼굴 교환 기술을 사용하는 포르노 클립을 공유하면서 대중에게 알려졌습니다. 이 비디오에서 그들은 Scarlett Johansson, Taylor Swift, Gal Gadot 등과 같은 유명인의 얼굴을 포르노 배우와 교환했습니다. 이것은 시작에 불과했습니다.

Deepfake 기술을 통해 사람들은 결코 발생하지 않은 이벤트의 비디오 또는 오디오를 만들 수 있습니다. 예를 들어 유명인과 정치인은 비디오에서 자신이 실제로 하지 않았거나 말한 적이 없는 행동과 말을 하는 자신을 발견했습니다. 딥페이크 기술로 생성된 가짜 영상 및 오디오에 대한 우려로 대책이 확산되었습니다. 딥페이크의 부정적인 영향을 없애기 위해서는 새로운 법을 도입하는 것이 필수적입니다. 2020년 트위터와 페이스북을 포함한 소셜 미디어 플랫폼은 네트워크에서 딥페이크를 금지했습니다.

고품질 딥페이크 클립을 만들려면 몇 단계를 거쳐야 합니다. 먼저 인코더를 통해 두 사람의 수천 개의 얼굴 사진을 실행합니다. 인코더는 두 얼굴 사이의 유사성을 강조 표시하고 이미지를 압축하여 공유 기능으로 낮춥니다. 그런 다음 디코더를 사용하여 압축된 사진에서 얼굴을 복구합니다. 얼굴이 다르기 때문에 한 디코더는 첫 번째 사람의 얼굴을 복구하고 다른 디코더는 두 번째 사람의 얼굴을 복구하도록 훈련됩니다. 그런 다음 작성자는 인코딩된 사진을 "잘못된" 디코더에 공급하여 얼굴 스왑을 적용해야 합니다.

파괴적 영향

딥페이크는 중대한 위협을 가하는 동시에 고유한 기회도 제공합니다. 개인의 경우 현실적인 디지털 페르소나를 생성하는 능력은 온라인 상호작용을 변화시킬 수 있습니다. 예를 들어 화상 통화 중에 개인 정보를 유지하기 위해 딥페이크를 사용하여 실제 얼굴 대신 디지털 아바타를 표시할 수 있습니다. 이 기능은 개인의 안전이나 익명성이 가장 중요한 상황에서 특히 유용할 수 있습니다.

기업의 경우 딥페이크는 광고 및 고객 참여 전략을 재정의할 수 있습니다. 기업은 다양한 대상 청중과 공감하도록 맞춤화된 가상 대변인을 만들 수 있습니다. 이 전략은 보다 개인화되고 효과적인 마케팅 캠페인으로 이어질 수 있습니다. 그러나 이것은 또한 소비자가 초현실적이지만 인위적인 표현에 속을 수 있기 때문에 윤리적 고려 사항을 제기합니다.

정부는 공공 안전 및 보안 목적을 위해 딥페이크 기술을 사용할 수 있습니다. 예를 들어, 법 집행 기관은 딥페이크를 사용하여 인간 경찰관을 위험에 빠뜨리지 않고 현실적인 시나리오를 만들 수 있습니다. 그러나 오용 가능성이 높으므로 정부가 이 기술의 남용을 방지하기 위해 엄격한 규정을 수립하는 것이 중요합니다. 장기적으로 딥페이크의 영향은 우리가 이 강력한 도구를 얼마나 책임감 있게 사용하고 규제하는지에 크게 좌우됩니다.

딥페이크의 의미

딥페이크 기술의 더 넓은 의미는 다음과 같습니다.

법 집행 기관에서 시간적 및 공간적 인공물의 상호 관계로 범죄 현장을 재구성하는 데 사용합니다.
패션 소매 업체에서 고객이 실제로 시도하지 않고 좋아하는 제품을 사용해 볼 수 있는 가상 체험실을 만드는 데 사용합니다.
온라인 세계에서 통합 및 자기 표현을 위한 새로운 도구를 개인에게 제공합니다. 예를 들어, 개인은 온라인 자기 표현을 위해 자신의 아바타를 만들 수 있습니다.
여러 악의적인 행위자가 미디어 전반에 걸쳐 딥페이크를 널리 사용합니다. 이 최악의 시나리오에서 딥페이크는 그들이 보고 듣는 것을 믿는 사회의 능력을 손상시켜 사회의 광범위한 영역을 선전과 다양한 형태의 조작에 더 취약하게 만들 수 있습니다.
디지털 리터러시 교육에 대한 수요가 급증하여 실제 콘텐츠와 조작된 콘텐츠를 더 잘 구분할 수 있는 더 많은 정보와 분별력을 갖춘 대중이 생겼습니다.
딥페이크 탐지 및 방지에 중점을 둔 새로운 산업으로 일자리 창출 및 경제 성장.
기술적으로 가능한 것의 한계를 뛰어넘는 인공 지능 및 기계 학습의 발전.
딥페이크 생성 및 감지에 상당한 컴퓨팅 리소스가 필요하므로 에너지 소비가 증가합니다.