Ciberatacs automatitzats amb IA: quan les màquines es converteixen en ciberdelinqüents

CRÈDIT DE LA IMATGE:
Crèdit d'imatge
iStock

Ciberatacs automatitzats amb IA: quan les màquines es converteixen en ciberdelinqüents

Ciberatacs automatitzats amb IA: quan les màquines es converteixen en ciberdelinqüents

Text del subtítol
Els pirates informàtics estan aprofitant el poder de la intel·ligència artificial (IA) i l'aprenentatge automàtic (ML) per fer que els ciberatacs siguin més efectius i letals.
    • autor:
    • nom de l'autor
      Previsió de Quantumrun
    • Setembre 30, 2022

    Resum d'informació

    La intel·ligència artificial (IA) i l'aprenentatge automàtic (ML) s'utilitzen cada cop més en ciberseguretat, tant per protegir sistemes com per executar ciberatacs. La seva capacitat per aprendre de dades i comportaments els permet identificar les vulnerabilitats del sistema, però també dificulta el seguiment de la font darrere d'aquests algorismes. Aquest panorama en evolució de la IA en la ciberdelinqüència genera preocupacions entre els experts en TI, requereix estratègies de defensa avançades i pot provocar canvis significatius en la manera com els governs i les empreses aborden la ciberseguretat.

    Ciberatacs automatitzats mitjançant el context d'IA

    La intel·ligència artificial i el ML mantenen la capacitat d'automatitzar gairebé totes les tasques, inclòs l'aprenentatge de patrons i comportaments repetitius, fent una eina poderosa per identificar vulnerabilitats en un sistema. Més important encara, la IA i el ML fan que sigui difícil identificar una persona o una entitat darrere d'un algorisme.

    El 2022, durant el Subcomitè de Ciberseguretat dels Serveis Armats del Senat dels EUA, Eric Horvitz, director científic de Microsoft, es va referir a l'ús de la intel·ligència artificial (IA) per automatitzar els ciberatacs com a "IA ofensiva". Va destacar que és difícil determinar si un ciberatac està impulsat per IA. De la mateixa manera, aquest aprenentatge automàtic (ML) s'està utilitzant per ajudar els ciberatacs; ML s'utilitza per aprendre paraules i estratègies d'ús habitual per crear contrasenyes per piratejar-les millor. 

    Una enquesta de l'empresa de ciberseguretat Darktrace va descobrir que els equips de gestió de TI estan cada cop més preocupats per l'ús potencial de la IA en els delictes cibernètics, amb el 96 per cent dels enquestats indicant que ja estan investigant possibles solucions. Els experts en seguretat informàtica senten un canvi en els mètodes d'atac cibernètic des del ransomware i el phishing a programari maliciós més complex que és difícil de detectar i desviar. El possible risc de ciberdelinqüència habilitat per IA és la introducció de dades corruptes o manipulades als models de ML.

    Un atac de ML pot afectar el programari i altres tecnologies que s'estan desenvolupant actualment per donar suport a la computació en núvol i la IA de punta. Les dades d'entrenament insuficients també poden reforçar els biaixos de l'algorisme, com ara etiquetar incorrectament els grups minoritaris o influir en la policia predictiva per orientar-se a comunitats marginades. La intel·ligència artificial pot introduir informació subtil però desastrosa als sistemes, que pot tenir conseqüències a llarg termini.

    Impacte disruptiu

    Un estudi d'investigadors de la Universitat de Georgetown sobre la cadena cibernètica (una llista de verificació de les tasques realitzades per llançar un ciberatac amb èxit) va demostrar que estratègies ofensives específiques podrien beneficiar-se del ML. Aquests mètodes inclouen spearphishing (estafes de correu electrònic dirigides a persones i organitzacions específiques), identificar les debilitats en les infraestructures de TI, lliurar codi maliciós a les xarxes i evitar la detecció per part dels sistemes de ciberseguretat. L'aprenentatge automàtic també pot augmentar les possibilitats que els atacs d'enginyeria social tinguin èxit, on les persones s'enganyen perquè revelin informació sensible o realitzin accions específiques com ara transaccions financeres. 

    A més, la cadena cibernètica pot automatitzar alguns processos, com ara: 

    • Vigilància àmplia: escàners autònoms que recullen informació de les xarxes objectiu, inclosos els sistemes connectats, les defenses i la configuració del programari. 
    • Armamentització àmplia: eines d'IA que identifiquen les debilitats de la infraestructura i creen codi per infiltrar-se en aquestes llacunes. Aquesta detecció automatitzada també pot orientar-se a ecosistemes o organitzacions digitals concrets. 
    • Lliurament o pirateria: eines d'IA que utilitzen l'automatització per executar pesca i enginyeria social per orientar-se a milers de persones. 

    A partir del 2023, l'escriptura de codi complex encara està en l'àmbit dels programadors humans, però els experts creuen que no passarà gaire abans que les màquines també adquireixin aquesta habilitat. AlphaCode de DeepMind és un exemple destacat d'aquests sistemes d'IA avançats. Ajuda als programadors analitzant grans quantitats de codi per aprendre patrons i generar solucions de codi optimitzades

    Implicacions dels ciberatacs automatitzats amb IA

    Les implicacions més àmplies dels ciberatacs automatitzats amb IA poden incloure: 

    • Empreses que aprofundeixen en els seus pressupostos de ciberdefensa per desenvolupar solucions cibernètiques avançades per detectar i aturar els ciberatacs automatitzats.
    • Els ciberdelinqüents estudien mètodes de ML per crear algorismes que puguin envair secretament els sistemes corporatius i del sector públic.
    • Augment dels incidents de ciberatacs ben orquestats i dirigits a diverses organitzacions alhora.
    • Programari d'IA ofensiu utilitzat per prendre el control d'armes, màquines i centres de comandament d'infraestructura militars.
    • Programari d'IA ofensiu utilitzat per infiltrar-se, modificar o explotar els sistemes d'una empresa per eliminar infraestructures públiques i privades. 
    • Alguns governs poden reorganitzar les defenses digitals del seu sector privat nacional sota el control i la protecció de les seves respectives agències nacionals de ciberseguretat.

    Preguntes a tenir en compte

    • Quines són les altres conseqüències potencials dels ciberatacs amb intel·ligència artificial?
    • Com es poden preparar les empreses per a aquests atacs?

    Referències insight

    Es va fer referència als següents enllaços populars i institucionals per a aquesta visió:

    Centre de Seguretat i Tecnologia Emergent Automatització d'atacs cibernètics