퀀텀런

이미지 크레딧:

iStock

선전 봇: 디지털 선동가의 군대

봇은 선전 콘텐츠 생성을 자동화하는 데 사용되고 있습니다.

저자:
저자 이름
퀀텀런 예측
2022 년 10 월 26 일

인사이트 요약

소셜 미디어 시대에 온라인 봇은 선전을 전파하는 데 점점 더 일반적인 도구가 되었습니다. 이러한 봇은 실제 사람을 모방하도록 설계된 자동화된 계정이며 허위 정보를 퍼뜨려 정치 및 시사에 영향을 미치는 데 사용될 수 있습니다. 이러한 봇의 사용 증가로 인한 장기적인 영향에는 이를 사용하여 여론을 조작하는 기업과 정당, 논쟁의 여지가 있는 논쟁과 정책의 불길을 부채질하는 합성 소셜 미디어 계정이 포함될 수 있습니다.

선전 봇 컨텍스트

봇은 인공지능(AI) 소프트웨어를 사용하며 미디어 플랫폼에서 메시지 공유, 재공유, 좋아요, 팔로우, 언팔로우, 다이렉트 메시징 등의 작업을 자율적으로 수행할 수 있습니다. 다양한 AI 소프트웨어 애플리케이션으로 인해 미디어와 사회 운동에서는 회원 기반과의 상호 작용 및 도달 범위를 늘리기 위해 이 기술을 채택했습니다. 선전 봇을 만들고 관리하는 소프트웨어 플랫폼의 접근성과 사용이 점점 쉬워지면서 불량 정부, 조직, 활동가 그룹 사이에서 선전 봇의 인기가 높아지고 있습니다.

이러한 봇은 다재다능하고 프로그래밍이 가능하므로 특정 커뮤니티를 표적으로 삼아 여론에 영향을 미치는 데 특히 효과적입니다. 봇은 후보자와 문제에 대한 허위 정보를 퍼뜨리거나 반대 견해를 가진 사람들을 괴롭힐 수 있습니다. 또한 특정 후보자나 명분을 지지하기 위해 가짜 소셜 미디어 프로필을 만들 수도 있습니다. 특히, 소셜 미디어 플랫폼인 Twitter는 짧고 서면 메시지를 잘 전달하기 때문에 이러한 봇의 안식처가 되었습니다.

프로파간다 봇은 2016년 미국 대통령 선거와 영국 브렉시트 국민투표를 포함하여 여러 유명 정치 캠페인에 배치되었습니다. 두 경우 모두 봇은 잘못된 정보를 퍼뜨리고 유권자들 사이에 불화를 뿌렸습니다. 선전 봇은 권위주의 국가에만 국한되지 않고 언론의 자유가 제한되는 곳에서 널리 퍼져 있습니다. 그러한 국가에서 정부는 종종 봇을 사용하여 인구를 통제하고 항의와 반대를 진압합니다. 인공 지능(AI) 및 기계 학습(ML) 알고리즘을 사용하여 정부에 의존하는 콘텐츠로 고도로 제한된 인터넷 네트워크를 종종 범람시키는 중국과 러시아가 그 예입니다.

파괴적 영향

선전 봇의 부상을 가능하게 한 몇 가지 중요한 발전은 텍스트를 생성하는 AI의 능력이 증가하고 소셜 미디어 챗봇의 인기가 높아지는 것입니다. 텍스트 생성 소프트웨어는 대부분의 시간 동안 많은 사람들을 속일 만큼 정교합니다. 텍스트 생성 소프트웨어는 매우 복잡한 국가 문제에 대한 영향력 있는 논평을 작성하거나 판매자 웹사이트에서 소비자와 대화할 수 있습니다. 이러한 봇은 합법적인 지역 뉴스 소스를 사칭하지만 허위 정보를 제공하는 웹사이트(핑크 슬라임 저널리즘이라고도 함)에서도 사용됩니다.

2017년에 미국 연방통신위원회(FCC)는 망 중립성에 관한 여론 조사를 위해 22만 건 이상의 의견을 받았습니다. 댓글의 약 절반은 도용된 ID를 사용하여 사기성인 것으로 나타났습니다. 이 의견은 단순했습니다. 약 1.3만 개가 동일한 템플릿에서 생성되었으며 일부 단어는 다르게 표시되도록 변경되었습니다.

반면 2020년에 하버드 대학교 연구원인 Max Weiss는 국민 건강 보험 프로그램인 Medicaid에 관한 정부 요청에 대한 1,000개의 의견을 작성하는 텍스트 생성 소프트웨어를 만들었습니다. Weiss는 선전 봇을 프로그래밍하는 것이 얼마나 쉬운지 증명하기 위해 이 연구를 수행했습니다. 의견은 모두 독특하고 믿을 수 있었기 때문에 Medicaid 관리자는 그것이 진짜라고 생각했습니다. 그런 다음 Weiss는 자신이 수행하고 있는 연구에 대해 Medicaid에 알렸고 정책 토론이 편향되지 않도록 의견을 제거했습니다.

선전 봇의 의미

선전 봇의 더 넓은 의미는 다음과 같습니다.

선전 봇을 사용하여 귀중한 홍보 콘텐츠를 만들어 기업 평판을 회복하는 회사.
사이버 범죄자가 신원 도용, 사기 및 피싱을 실행하는 데 도움이 되는 개인화된 문자 메시지 및 이메일 사례가 증가하고 있습니다.
개인 용도로 선전 봇을 임대하는 개인 예: 봇을 사용하여 소셜 미디어 팔로어를 늘리고 온라인에서 사람들을 괴롭히는 것.
더 많은 양의 AI 기반 페르소나는 신문과 선출직 공무원에게 편지를 보내고, 공개 규칙 제정 프로세스에 개별 의견을 제출하고, 소셜 미디어에서 정치적 문제를 논의합니다.
정부는 봇의 사용 및 생성을 규제하기 위해 거대 기술 회사에 대해 더 엄격한 규제 법률을 시행하려고 합니다.
기업은 선전 봇의 감시 기능에 적응하여 직원 생산성과 고객 행동에 대한 모니터링을 강화합니다.
진짜 콘텐츠와 봇 생성 콘텐츠를 구별하는 것이 어려워지면서 소비자 회의론이 심화되어 브랜드 신뢰도와 마케팅 효과에 영향을 미치고 있습니다.
정책입안자들은 언론의 자유와 잘못된 정보를 억제해야 하는 필요성 사이의 균형을 유지하여 디지털 커뮤니케이션 플랫폼에 대한 입법 범위에 영향을 미치는 딜레마에 직면해 있습니다.