IA assumindo o controle da Internet: os bots estão prestes a sequestrar o mundo online?

• Autor:
• Nome do autor

  Previsão Quantumrun
• 3 de janeiro de 2023

A Internet está repleta de algoritmos e IA que gerenciam todos os processos que podemos imaginar – desde atendimento ao cliente até transações e streaming de entretenimento. No entanto, os humanos podem precisar de estar mais vigilantes no acompanhamento do progresso dos bots à medida que a IA se torna cada vez mais avançada.

IA assumindo o controle do contexto da Internet

Nos primórdios da Internet, a maior parte do conteúdo era estático (por exemplo, texto e imagens com interatividade mínima) e grande parte da atividade online era iniciada por avisos ou comandos humanos. No entanto, esta Era Humana da Internet poderá acabar em breve, à medida que as organizações continuarem a conceber, instalar e sincronizar cada vez mais algoritmos e bots online. (Para contextualizar, os bots são programas autônomos na Internet ou em outra rede que podem interagir com sistemas ou usuários.) De acordo com a empresa de segurança cibernética em nuvem Imperva Incapsula, em 2013, apenas 31% do tráfego da Internet era composto por mecanismos de pesquisa e “bons bots”. ” O restante contém elementos maliciosos, como spammers (hackers de e-mail), scrapers (que roubam informações privadas de bancos de dados de sites) e imitadores (instigam ataques distribuídos de negação de serviço, que sobrecarregam o tráfego da Internet para um servidor visado.

A interação bot-humano está se tornando mais comum online, à medida que assistentes virtuais realizam tarefas mais complexas. Por exemplo, o Google Assistant pode fazer chamadas para salões de cabeleireiro para agendar um compromisso, em vez de apenas configurar um lembrete de calendário ou enviar uma simples mensagem de texto. O próximo passo é a interação entre bots, onde dois bots executam tarefas em nome de seus proprietários, como se candidatar autonomamente a vagas de um lado e ter essas candidaturas processadas do outro.

Impacto disruptivo

À medida que a amplitude das capacidades de partilha de dados, transações e interconectividade tornadas possíveis online continua a crescer, há um incentivo cada vez maior para automatizar cada vez mais interações humanas e comerciais. Em muitos casos, essas automações serão executadas por um algoritmo ou assistente virtual, que juntos poderiam representar a grande maioria do tráfego online da web, expulsando os humanos.    

Além disso, a presença crescente de bots na Internet pode evoluir rapidamente para além da intervenção humana. A organização sem fins lucrativos, Fórum Econômico Mundial, chama a disseminação não regulamentada de bots online como uma Teia Emaranhada. Neste ambiente, algoritmos de baixo nível, inicialmente codificados para executar tarefas simples, aprendem a evoluir através de dados, a infiltrar-se em infraestruturas cibernéticas e a escapar a firewalls. O pior cenário é uma “erva daninha da IA” que se espalha pela Internet, eventualmente atingindo e perturbando sectores essenciais, como os sistemas de gestão de água e energia. Um cenário ainda mais perigoso é se estas ervas daninhas “sufocarem” os sistemas de satélite e de controlo nuclear. 

Para evitar o aumento de “bots desonestos” auto-evolutivos, as empresas podem dedicar mais recursos para monitorizar rigorosamente os seus algoritmos, submetê-los a testes rigorosos antes do lançamento e ter um “interruptor de interrupção” em espera no caso de mau funcionamento. O não cumprimento destas normas também deve ser alvo de pesadas multas e sanções para garantir que os regulamentos concebidos para controlar os bots sejam cumpridos adequadamente.

Implicações para os sistemas de IA que assumem o controle da Internet

Implicações mais amplas para algoritmos e bots que monopolizam a maior parte do tráfego da web podem incluir:

• As empresas e os serviços públicos tornam-se cada vez mais eficientes e de baixo custo à medida que mais atividades de monitorização, administrativas e transacionais são realizadas de forma autónoma.
• Regulamentações e políticas globais que monitoram, auditam e responsabilizam as empresas por cada bot que lançam e atualizam na Internet.
• Aumentar as interações entre bots que podem levar a conjuntos de dados maiores que precisariam de mais supercomputadores para serem processados. Isto, por sua vez, aumentaria o consumo global de energia da Internet.
• Os sistemas de inteligência artificial tornam-se sencientes o suficiente para existirem nos seus próprios metaversos, onde podem fazer parceria com humanos ou ameaçar os controlos online se não forem regulamentados.

Perguntas para comentar

• Como tem sido sua experiência ao interagir com bots da Internet, como chatbots de atendimento ao cliente? 
• Você faz uso de atendimento virtual no seu dia a dia?