퀀텀런

이미지 크레딧:

iStock

컴퓨팅 선전: 자동화된 속임수의 시대

컴퓨터 선전은 인구를 통제하고 허위 정보에 더 취약하게 만듭니다.

저자:
저자 이름
퀀텀런 예측
2022 년 11 월 21 일

인사이트 요약

소셜 미디어 시대에, 여론을 조작하도록 설계된 알고리즘인 컴퓨터 선전의 확산으로 인해 일부 사람들이 보고 듣는 것을 신뢰하는 것이 점점 더 어려워졌습니다. 이 기술은 주로 정치적 문제에 대한 사람들의 인식을 흔들기 위해 사용됩니다. 그리고 인공 지능(AI) 시스템이 계속 발전함에 따라 컴퓨팅 선전이 훨씬 더 치명적인 목적에 적용될 수 있습니다.

컴퓨팅 선전 컨텍스트

컴퓨팅 선전은 AI 시스템을 사용하여 온라인에서 오도하거나 잘못된 정보를 생성하고 유포합니다. 특히 페이스북, 구글, 트위터 등 빅테크 기업들은 알고리즘을 이용해 여론을 조작했다는 비판을 받아왔다. 예를 들어, Facebook은 2016년에 인기 주제 섹션에서 보수적인 뉴스 기사를 억제하기 위해 알고리즘을 사용하여 비난을 받았습니다. 한편, 2016년 미국 대통령 선거는 컴퓨터 선전이 유권자에게 영향을 미친다는 세간의 이목을 끈 사건이었습니다. 예를 들어, 구글은 힐러리 클린턴에게 유리하도록 검색 결과를 왜곡했다는 비난을 받았고 트위터는 선거 기간 동안 봇이 잘못된 정보를 퍼뜨리도록 허용했다는 비난을 받았습니다.

컴퓨터 선전의 효과는 전 세계적으로, 특히 총선 기간 동안 그리고 종종 소수 집단에 대해 느껴집니다. 미얀마에서는 2017년부터 2022년까지 소수민족 로힝야족에 대한 증오심 표현과 폭력이 급증했습니다. 이러한 증오의 대부분은 로힝야족을 악마화하는 가짜 뉴스와 선동적인 비디오를 퍼뜨리는 미얀마의 민족주의 단체가 만든 온라인 선전 때문입니다.

컴퓨터 선전의 또 다른 결과는 민주주의와 제도에 대한 신뢰를 약화시킬 수 있다는 것입니다. 이러한 침식은 심각한 결과를 초래할 수 있으며, 이는 한 국가의 국내 인구 사이에 양극화와 정치적 불안을 증가시킬 수 있습니다. 입증된 효과로 인해 전 세계적으로 많은 정부와 정당이 AI 선전을 사용하여 반대자와 비평가에 맞서 소셜 미디어 플랫폼을 무기화하고 있습니다.

파괴적 영향

컴퓨팅 선전은 다양한 새로운 AI 혁신의 통합으로 인해 점점 더 정교해지고 있습니다. 한 가지 예는 AI가 인간처럼 들리는 독창적인 콘텐츠를 작성할 수 있도록 하는 자연어 처리(NLP)를 포함합니다. 또한 딥페이크 및 음성 복제 기술은 누구나 다운로드할 수 있습니다. 이러한 기술을 통해 사람들은 가짜 페르소나를 만들고 공인으로 가장하며 침실에서 정교한 허위 정보 캠페인을 벌일 수 있습니다.

전문가들은 자동화된 선전의 위험이 다음과 같이 확대된다고 생각합니다.

정보가 없는 대중,
대량의 허위 정보를 처리할 수 있는 장비가 부족한 법률 시스템,
착취에 대한 보호가 거의 없는 소셜 미디어 회사.

컴퓨터 선전에 대한 잠재적인 해결책은 미국 의회가 소셜 미디어 회사에 사용자의 신원을 확인하도록 압력을 가하는 것입니다. 또 다른 해결책은 소셜 미디어 플랫폼이 수정된 시스템을 채택하여 제3자가 개인의 계정 생성을 허용하기 전에 개인의 신원을 암호화 방식으로 확인하는 것입니다.

그러나 소셜 미디어 플랫폼은 끊임없이 변화하고 발전하기 때문에 이러한 조치를 구현하기가 어렵습니다. 끊임없이 변화하는 온라인 사용 환경에서 이들 기업이 사용자를 확인하는 것은 어려울 것입니다. 또한, 많은 사람들은 정부가 통신 플랫폼을 규제하는 것이 검열의 한 형태일 수 있다는 점을 경계합니다.

컴퓨터 선전의 의미

컴퓨터 선전의 광범위한 의미는 다음과 같습니다.

정부는 선거, 정책 및 외교에 영향을 미치기 위해 국가 후원 컴퓨터 선전을 위해 소셜 미디어와 가짜 뉴스 웹사이트를 점점 더 많이 사용하고 있습니다.
조작된 뉴스 및 비디오에 대한 허위 정보를 퍼뜨리기 위해 설계된 소셜 미디어 봇, 가짜 계정 및 AI 생성 프로필의 사용이 증가하고 있습니다.
온라인상의 허위 정보 선전 캠페인으로 인해 더욱 폭력적인 사건(예: 대중 폭동, 암살 시도 등)이 발생하여 시민에게 피해를 입히고 공공 재산을 파괴하며 필수 서비스를 방해할 수 있습니다.
허위 정보와 가짜 뉴스를 식별하도록 대중을 훈련시키기 위해 고안된 공적 자금 프로그램에 대한 투자 증가.
인종 및 소수 집단에 대한 차별 강화로 인해 대량 학살이 증가하고 삶의 질이 저하됩니다.
컴퓨터 선전을 식별하고 이에 대응하기 위해 고급 탐지 알고리즘을 배포하는 기술 회사는 디지털 미디어 무결성과 사용자 신뢰를 향상시킵니다.
미디어 활용 능력을 커리큘럼에 통합하여 컴퓨터 선전에서 사실 정보를 식별할 수 있도록 학생들의 비판적 사고를 육성하는 교육 기관입니다.
전산 허위 정보에 맞서 글로벌 디지털 보안과 협력을 강화하기 위한 글로벌 표준과 프로토콜을 수립하기 위한 국가 간 국제 협력입니다.