퀀텀런

이미지 크레딧:

iStock

합성 미디어 시장: AI 생성 콘텐츠의 가치 창출

합성 미디어 또는 '딥페이크'는 더 어두운 경로로 바뀔 수 있는 번성하는 지하 시장을 가지고 있습니다.

저자:
저자 이름
퀀텀런 예측
2022 년 3 월 23 일

인사이트 요약

합성 미디어, 특히 딥페이크는 동영상을 변경하고 개인의 행동이나 말을 허위로 표현하는 데 사용할 수 있는 빠르게 발전하는 기술입니다. 취미로 사용하는 도구로서의 초기 단계부터 현재의 지하 시장에 이르기까지 이 기술의 적용 범위는 예술적 창작에서부터 잠재적인 범죄 사칭 및 정치적 조작에 이르기까지 다양합니다. 이러한 추세의 장기적인 영향에는 문화적 규범, 법적 틀, 광고 전략, 심지어 교육 시스템의 변화도 포함됩니다.

합성 미디어 컨텍스트 시장

'합성 미디어'는 일반적으로 사람들을 오도하거나 미디어의 의미를 바꾸기 위해 AI를 사용하여 데이터 또는 미디어를 생산하는 것을 말합니다. 응용 분야에 따라 합성 미디어는 범죄 또는 정치적 목적으로 더 많이 사용될 수 있습니다. 가장 잘 알려진 합성 미디어 형태는 '딥페이크'입니다. 제작자가 동영상을 촬영하고 사람의 얼굴을 편집하여 동영상에 등장하는 사람을 대체하는 것입니다. 이 기술은 카메라에 포착된 행위에 대한 개인의 참여를 잘못 나타낼 수 있습니다.

정보 회사인 Deeptrace는 합성 미디어의 기술 개발과 소비가 세 단계에 걸쳐 발전했다고 예측했습니다. 개발의 첫 번째 단계는 기술이 주로 애호가에게만 국한되었기 때문에 기술이 여전히 새롭고 규제되지 않은 시기였습니다. 이후 이 단계는 지나갔습니다.

현재(2020~2025년) 진행되고 있는 두 번째 단계는 기술이 수요와 공급을 충족시키기 위해 지하 시장이 등장할 만큼 충분히 널리 보급되는 단계입니다. 합성 미디어의 의심스러운 법적 특성을 감안할 때 이 시장은 현재 지하 시장이며 준규제만 가능합니다. 현재 합성 미디어 제품은 대부분 음란물이며 Instagram, Snapchat 및 TikTok과 같은 소셜 플랫폼에서 특수 필터로 나타나는 패러디 작품은 그러한 창작물 중 소수를 형성합니다.

파괴적 영향

합성 미디어 기술, 특히 딥페이크의 발전은 현재 적용 범위를 훨씬 뛰어넘는 의미를 갖습니다. 기술이 성숙해짐에 따라 범죄 사칭 및 국가 활동을 위한 강력한 도구가 될 수 있습니다. 개인의 경우 딥페이크를 오용할 경우 개인적, 재정적 피해를 입을 수 있습니다.

딥페이크 비디오가 자신이 저지르지 않은 범죄를 인정하거나 다른 해로운 행동에 연루된 사람을 설득력 있게 묘사하는 시나리오를 상상해 보세요. 이러한 추세는 평판 손상, 법적 문제 또는 개인 안전 문제로 이어질 수 있습니다. 개인은 보는 것이 더 이상 반드시 믿는 것이 아니라는 점을 이해하면서 자신이 소비하는 콘텐츠에 대해 더욱 주의를 기울이고 인식해야 할 수도 있습니다.

기업은 지적 재산 도용, 사기, 기업 스파이 활동과 관련된 문제에 직면할 수 있습니다. 잘 제작된 딥페이크를 사용하여 화상 회의에서 CEO를 사칭하여 민감한 정보가 유출될 수 있습니다. 정부는 혁신과 언론의 자유에 대한 필요성과 보안 및 개인 정보 보호에 대한 잠재적 위험 사이의 균형을 유지하면서 딥페이크의 생산 및 유포를 규제하는 데 보다 적극적인 역할을 수행해야 할 수도 있습니다. 딥페이크 포르노와 정치적 이용을 표적으로 삼는 기존 법률은 시작에 불과하며, 이 새로운 기술의 광범위한 위험과 윤리적 고려 사항을 해결하기 위해 보다 포괄적인 법적 틀을 개발해야 할 수도 있습니다.

합성 미디어 시장의 시사점

합성 미디어 시장의 더 넓은 의미는 다음과 같습니다.

합성 미디어 기술의 지속적인 개발에 자금을 지원하여 새로운 예술 형식과 엔터테인먼트 장르의 출현을 유도할 뿐만 아니라 합성 미디어를 콘텐츠 제작자에게 매력적인 틈새시장으로 만듭니다.
합성 미디어 제작자에 대한 지하 접근이 증가하여 시간이 지남에 따라 틈새 시장이 합법화될 가능성이 있으며 이는 콘텐츠가 소비되고 규제되는 방식에 영향을 미칠 수 있습니다.
음란물 및 패러디 용도로 딥페이크를 더 많이 수용하도록 장려하여 문화적 규범을 변화시키고 음란물 및 풍자에 대한 기존 법적 틀에 잠재적으로 도전하게 됩니다.
사칭이나 사기 목적으로 딥페이크를 사용하도록 장려하여 개인적 및 직업적 의사소통 모두에서 보안 조치를 강화하고 경계를 강화합니다.
딥페이크를 탐지하고 퇴치하기 위한 새로운 도구와 방법의 개발로 인해 제작자와 탐지자 간의 지속적인 군비 경쟁이 발생하고 기술 산업과 법 집행 기관에 영향을 미칩니다.
고도로 개인화된 콘텐츠를 만들기 위해 합성 미디어를 활용하는 광고 및 마케팅 전략의 변화는 더욱 표적화되고 효과적인 캠페인으로 이어지지만 조작 및 동의에 대한 윤리적 우려도 제기합니다.
합성 미디어를 교육 시스템에 통합하면 학습 경험이 향상되지만 정확성과 윤리적 사용을 보장하기 위한 새로운 지침이 필요합니다.
정치 캠페인에서 딥페이크의 잠재적 사용으로 인해 진정성, 투명성, 민주주의에서 기술의 역할에 대한 더욱 엄격한 규제와 공개 담론이 발생합니다.