퀀텀런

이미지 크레딧:

iStock

딥페이크 및 괴롭힘: 합성 콘텐츠를 사용하여 여성을 괴롭히는 방법

조작된 이미지와 비디오는 여성을 대상으로 하는 디지털 환경에 기여하고 있습니다.

저자:
저자 이름
퀀텀런 예측
2022 년 12 월 14 일

인사이트 요약

딥페이크 기술의 발전으로 인해 특히 여성을 대상으로 한 성희롱 사건이 증가했습니다. 전문가들은 합성 미디어의 생성, 사용, 배포 방법에 대한 보다 엄격한 법률이 시행되지 않으면 학대가 더욱 악화될 것이라고 믿습니다. 괴롭힘을 목적으로 딥페이크를 사용하는 것의 장기적인 영향에는 소송 증가와 더욱 발전된 딥페이크 기술 및 필터가 포함될 수 있습니다.

딥페이크 및 괴롭힘 맥락

2017년에는 웹사이트 Reddit의 토론 게시판이 처음으로 인공 지능(AI)으로 조작된 음란물을 호스팅하는 데 사용되었습니다. 한 달 안에 Reddit 스레드는 입소문을 타고 수천 명의 사람들이 자신의 딥페이크 포르노를 사이트에 게시했습니다. 가짜 포르노나 괴롭힘을 만드는 데 사용되는 합성 콘텐츠가 점점 더 보편화되고 있지만, 대중의 관심은 허위 정보와 정치적 불안정을 조장하는 딥페이크 선전에 집중되는 경우가 많습니다.

딥페이크(deepfake)라는 용어는 딥 러닝(deep learning)과 인공지능(AI)의 도움을 받아 사진과 동영상을 재창조하는 방법인 '페이크(fake)'의 합성어다. 이 콘텐츠 제작의 필수 구성 요소는 머신 러닝(ML)으로, 이를 통해 시청자가 감지하기 점점 어려워지는 가짜 자료를 빠르고 저렴하게 생성할 수 있습니다.

신경망은 딥페이크 비디오를 만들기 위해 표적이 된 사람의 영상으로 훈련됩니다. 훈련 데이터에 사용된 푸티지가 많을수록 결과가 더 사실적입니다. 네트워크는 그 사람의 버릇과 기타 성격 특성을 학습합니다. 신경망이 훈련되면 누구나 컴퓨터 그래픽 기술을 사용하여 사람의 초상을 다른 배우나 신체에 중첩할 수 있습니다. 이러한 복제로 인해 자신의 이미지가 이러한 방식으로 사용되었다는 사실을 인지하지 못한 여성 연예인과 민간인의 음란물이 급증했습니다. 리서치 회사인 Sensity AI에 따르면 모든 딥페이크 비디오의 약 90~95%가 합의되지 않은 포르노 범주에 속합니다.

파괴적 영향

딥페이크는 주로 여성을 표적으로 삼아 대중의 굴욕과 트라우마에 노출시키는 등 리벤지 포르노 관행을 악화시켰습니다. 여성을 개인적으로나 직업적으로 괴롭히고, 위협하고, 품위를 떨어뜨리고, 품위를 떨어뜨리는 등 엔드투엔드 가짜 비디오 기술이 점점 무기화됨에 따라 여성의 개인 정보 보호와 안전이 위협받고 있습니다. 더 나쁜 것은 이러한 유형의 콘텐츠에 대한 규제가 충분하지 않다는 것입니다.

예를 들어, 2022년 현재 미국 46개 주에서 리벤지 포르노 콘텐츠가 금지되어 있으며, 단 XNUMX개 주에서만 합성 미디어를 명시적으로 금지하고 있습니다. 딥페이크 자체는 불법이 아니며 저작권을 침해하거나 명예를 훼손하는 경우에만 불법입니다. 이러한 제한으로 인해 피해자가 법적 조치를 취하기가 어렵습니다. 특히 이 콘텐츠를 온라인에서 영구적으로 삭제할 수 있는 방법이 없기 때문입니다.

한편, 다른 형태의 합성 콘텐츠인 아바타(온라인 사용자 표현)도 공격을 받고 있습니다. 비영리 옹호 단체 SumOfUs의 2022년 보고서에 따르면, 조직을 대신해 연구를 하던 여성이 메타버스 플랫폼 호라이즌 월드에서 폭행을 당했다고 합니다. 이 여성은 다른 사용자가 자신의 아바타를 보는 동안 다른 사용자가 자신의 아바타를 성폭행했다고 보고했습니다. 피해자가 사건을 메타에게 알렸을 때 메타 대변인은 연구원이 개인 경계 옵션을 비활성화했다고 말했습니다. 이 기능은 2022년 XNUMX월에 기본적으로 활성화된 안전 예방 조치로 도입되었으며 낯선 사람이 XNUMX피트 이내의 아바타에 접근하는 것을 방지했습니다.

딥페이크와 괴롭힘의 의미

딥페이크와 괴롭힘의 광범위한 의미는 다음과 같습니다.

정부가 디지털 괴롭힘 및 폭행에 사용되는 딥페이크에 대한 글로벌 규제 정책을 시행해야 하는 압력 증가.
딥페이크 기술, 특히 유명인, 언론인, 활동가의 피해를 입은 여성이 더 많습니다.
딥페이크 성희롱 및 명예훼손 피해자들의 소송 증가.
메타버스 커뮤니티에서 아바타 및 기타 온라인 표현에 대한 부적절한 행동이 증가했습니다.
사실적인 콘텐츠를 만들 수 있는 새롭고 점점 사용하기 쉬운 딥페이크 앱과 필터가 출시되어 동의 없는 딥페이크 콘텐츠, 특히 포르노가 상품화되고 있습니다.
소셜 미디어 및 웹사이트 호스팅 플랫폼은 개인 금지 또는 그룹 페이지 삭제를 포함하여 플랫폼에서 유포되는 콘텐츠를 집중적으로 모니터링하기 위해 더 많은 투자를 합니다.