Ciberataques automatizados usando IA: quando as máquinas se tornam cibercriminosas

CRÉDITO DE IMAGEM:
Crédito da imagem
iStock

Ciberataques automatizados usando IA: quando as máquinas se tornam cibercriminosas

Ciberataques automatizados usando IA: quando as máquinas se tornam cibercriminosas

Texto do subtítulo
O poder da inteligência artificial (IA) e do aprendizado de máquina (ML) está sendo explorado por hackers para tornar os ataques cibernéticos mais eficazes e letais.
    • Autor:
    • Nome do autor
      Previsão Quantumrun
    • 30 de Setembro de 2022

    Resumo do insight

    A inteligência artificial (IA) e a aprendizagem automática (ML) são cada vez mais utilizadas na segurança cibernética, tanto para proteger sistemas como para executar ataques cibernéticos. Sua capacidade de aprender com dados e comportamentos permite identificar vulnerabilidades do sistema, mas também dificulta rastrear a origem desses algoritmos. Este cenário em evolução da IA ​​no crime cibernético suscita preocupações entre os especialistas em TI, requer estratégias de defesa avançadas e pode levar a mudanças significativas na forma como os governos e as empresas abordam a segurança cibernética.

    Ciberataques automatizados usando contexto de IA

    A inteligência artificial e o ML mantêm a capacidade de automatizar quase todas as tarefas, incluindo o aprendizado de comportamentos e padrões repetitivos, tornando-se uma ferramenta poderosa para identificar vulnerabilidades em um sistema. Mais importante ainda, a IA e o ML tornam difícil identificar uma pessoa ou entidade por trás de um algoritmo.

    Em 2022, durante o Subcomitê de Segurança Cibernética dos Serviços Armados do Senado dos EUA, Eric Horvitz, diretor científico da Microsoft, referiu-se ao uso de inteligência artificial (IA) para automatizar ataques cibernéticos como “IA ofensiva”. Ele destacou que é difícil determinar se um ataque cibernético é conduzido por IA. Da mesma forma, o aprendizado de máquina (ML) está sendo usado para auxiliar ataques cibernéticos; O ML é usado para aprender palavras e estratégias comumente usadas na criação de senhas para melhor hackeá-las. 

    Uma pesquisa realizada pela empresa de segurança cibernética Darktrace descobriu que as equipes de gerenciamento de TI estão cada vez mais preocupadas com o uso potencial da IA ​​em crimes cibernéticos, com 96% dos entrevistados indicando que já estão pesquisando possíveis soluções. Os especialistas em segurança de TI sentem uma mudança nos métodos de ataque cibernético, de ransomware e phishing para malware mais complexo, difícil de detectar e desviar. O possível risco do crime cibernético possibilitado pela IA é a introdução de dados corrompidos ou manipulados em modelos de ML.

    Um ataque de ML pode impactar software e outras tecnologias atualmente em desenvolvimento para dar suporte à computação em nuvem e à IA de ponta. Dados de formação insuficientes também podem reforçar distorções de algoritmos, tais como a marcação incorreta de grupos minoritários ou a influência do policiamento preditivo para atingir comunidades marginalizadas. A Inteligência Artificial pode introduzir informações subtis mas desastrosas nos sistemas, o que pode ter consequências duradouras.

    Impacto disruptivo

    Um estudo realizado por pesquisadores da Universidade de Georgetown sobre a cadeia de morte cibernética (uma lista de verificação de tarefas executadas para lançar um ataque cibernético bem-sucedido) mostrou que estratégias ofensivas específicas podem se beneficiar do ML. Esses métodos incluem spearphishing (golpes de e-mail direcionados a pessoas e organizações específicas), identificar pontos fracos nas infraestruturas de TI, entregar código malicioso em redes e evitar a detecção por sistemas de segurança cibernética. O aprendizado de máquina também pode aumentar as chances de sucesso dos ataques de engenharia social, onde as pessoas são enganadas para revelar informações confidenciais ou realizar ações específicas, como transações financeiras. 

    Além disso, a cyber kill chain pode automatizar alguns processos, incluindo: 

    • Vigilância extensiva - scanners autônomos que coletam informações de redes de destino, incluindo seus sistemas conectados, defesas e configurações de software. 
    • Vasto armamento - ferramentas de IA que identificam fraquezas na infraestrutura e criam código para se infiltrar nessas brechas. Essa detecção automatizada também pode atingir ecossistemas ou organizações digitais específicos. 
    • Entrega ou hacking - ferramentas de IA usando automação para executar spearphishing e engenharia social para atingir milhares de pessoas. 

    Em 2023, escrever códigos complexos ainda está na esfera dos programadores humanos, mas os especialistas acreditam que não demorará muito para que as máquinas também adquiram essa habilidade. O AlphaCode da DeepMind é um exemplo proeminente desses sistemas avançados de IA. Ele auxilia os programadores analisando grandes quantidades de código para aprender padrões e gerar soluções de código otimizadas.

    Implicações de ataques cibernéticos automatizados usando IA

    Implicações mais amplas de ataques cibernéticos automatizados usando IA podem incluir: 

    • Empresas que aprofundam seus orçamentos de defesa cibernética para desenvolver soluções cibernéticas avançadas para detectar e interromper ataques cibernéticos automatizados.
    • Cibercriminosos estudando métodos de ML para criar algoritmos que podem invadir secretamente sistemas corporativos e do setor público.
    • Aumento de incidentes de ataques cibernéticos bem orquestrados e direcionados a várias organizações ao mesmo tempo.
    • Software ofensivo de IA utilizado para assumir o controle de armas militares, máquinas e centros de comando de infraestrutura.
    • Software ofensivo de IA utilizado para se infiltrar, modificar ou explorar os sistemas de uma empresa para derrubar infraestruturas públicas e privadas. 
    • Alguns governos potencialmente reorganizam as defesas digitais de seu setor privado doméstico sob o controle e proteção de suas respectivas agências nacionais de segurança cibernética.

    Questões a considerar

    • Quais são as outras consequências potenciais de ataques cibernéticos habilitados para IA?
    • De que outra forma as empresas podem se preparar para esses ataques?

    Referências de insights

    Os seguintes links populares e institucionais foram referenciados para esta percepção:

    Centro de Segurança e Tecnologia Emergente Automatizando ataques cibernéticos