퀀텀런

이미지 크레딧:

iStock

인터넷을 장악한 AI: 봇이 온라인 세계를 장악하려 할까?

인간이 인터넷의 다른 부분을 자동화하기 위해 더 많은 봇을 생성함에 따라 그들이 장악하는 것은 시간 문제일까요?

저자:
저자 이름
퀀텀런 예측
2023 년 1 월 3 일

인터넷은 고객 서비스에서 거래, 스트리밍 엔터테인먼트에 이르기까지 우리가 생각할 수 있는 모든 프로세스를 관리하는 알고리즘과 AI로 가득 차 있습니다. 그러나 AI가 점점 더 발전함에 따라 인간은 봇의 진행 상황을 추적하는 데 더 주의를 기울여야 할 수도 있습니다.

인터넷 컨텍스트를 인수하는 AI

인터넷 초창기에는 대부분의 콘텐츠가 정적이고(예: 최소한의 상호 작용이 있는 텍스트 및 이미지) 온라인 활동의 대부분은 사람의 프롬프트나 명령에 의해 시작되었습니다. 그러나 조직이 계속해서 더 많은 알고리즘과 봇을 온라인으로 설계, 설치 및 동기화함에 따라 인터넷의 인간 시대는 곧 끝날 수 있습니다. (상황에 따라 봇은 시스템이나 사용자와 상호 작용할 수 있는 인터넷 또는 다른 네트워크의 자율 프로그램입니다.) 클라우드 사이버 보안 회사인 Imperva Incapsula에 따르면 2013년 인터넷 트래픽의 31%만이 검색 엔진과 "좋은 봇"으로 구성되었습니다. ” 나머지는 스패머(이메일 해커), 스크레이퍼(웹 사이트 데이터베이스에서 개인 정보 훔치기), 사칭자(타겟 서버에 대한 인터넷 트래픽을 압도하는 분산 서비스 거부 공격을 유발)와 같은 악의적인 요소를 포함합니다.

가상 비서가 더 복잡한 작업을 수행함에 따라 봇과 인간의 상호 작용이 온라인에서 더욱 보편화되고 있습니다. 예를 들어 Google 어시스턴트는 단순히 캘린더 알림을 설정하거나 간단한 문자 메시지를 보내는 대신 미용실에 전화를 걸어 약속 일정을 잡을 수 있습니다. 다음 단계는 봇 대 봇 상호 작용으로, 두 개의 봇이 소유자를 대신하여 작업을 수행합니다. 예를 들어 한 쪽에서는 자동으로 작업에 지원하고 다른 쪽에서는 이러한 애플리케이션을 처리합니다.

파괴적 영향

온라인에서 가능해진 데이터 공유, 트랜잭션 및 상호 연결 기능의 범위가 계속해서 증가함에 따라 점점 더 많은 인간 및 상업적 상호 작용을 자동화하려는 동기가 계속 커지고 있습니다. 대부분의 경우 이러한 자동화는 온라인 웹 트래픽의 대부분을 대표할 수 있는 알고리즘 또는 가상 비서로 실행되어 사람을 몰아냅니다.

또한 인터넷에서 봇의 존재가 증가함에 따라 인간의 개입을 넘어서 빠르게 진화할 수 있습니다. 비영리 단체인 세계경제포럼(World Economic Forum)은 규제되지 않은 온라인 봇의 확산을 Tangled Web이라고 부릅니다. 이 환경에서 초기에 간단한 작업을 수행하도록 코딩된 저수준 알고리즘은 데이터를 통해 진화하고 사이버 인프라에 침투하며 방화벽을 회피하는 방법을 학습합니다. 최악의 시나리오는 "AI 잡초"가 인터넷을 통해 확산되어 결국 물 및 에너지 관리 시스템과 같은 필수 부문에 도달하고 방해하는 것입니다. 훨씬 더 위험한 시나리오는 이러한 잡초가 위성 및 핵 제어 시스템을 "질식"시키는 것입니다.

스스로 진화하는 "봇이 도적질"하는 것을 방지하기 위해 회사는 알고리즘을 엄격하게 모니터링하고 출시 전에 엄격한 테스트를 거치며 오작동할 경우 "킬 스위치"를 대기하는 데 더 많은 리소스를 할애할 수 있습니다. 이러한 표준을 준수하지 않으면 무거운 벌금과 제재를 가해 봇을 제어하기 위해 고안된 규정이 제대로 준수되도록 해야 합니다.

인터넷을 통제하는 AI 시스템에 대한 시사점

대부분의 웹 트래픽을 독점하는 알고리즘 및 봇에 대한 보다 광범위한 의미는 다음과 같습니다.

더 많은 모니터링, 관리 및 트랜잭션 활동이 자율적으로 처리됨에 따라 비즈니스 및 공공 서비스는 점점 더 효율적이고 저렴해지고 있습니다.
기업이 인터넷에서 배포하고 업데이트하는 모든 봇에 대해 회사를 모니터링, 감사 및 책임지도록 하는 글로벌 규정 및 정책.
처리하는 데 더 많은 슈퍼 컴퓨터가 필요한 더 큰 데이터 세트로 이어질 수 있는 봇 간 상호 작용 증가. 이것은 차례로 전 세계 인터넷의 에너지 소비를 증가시킬 것입니다.
인공 지능 시스템은 인간과 협력하거나 규제되지 않는 경우 온라인 제어를 위협할 수 있는 자체 메타버스에 존재할 수 있을 만큼 지각력이 높아집니다.