Atacurile cibernetice automatizate folosind AI: Când mașinile devin criminali cibernetici

CREDIT DE IMAGINE:
Imagine de credit
iStock

Atacurile cibernetice automatizate folosind AI: Când mașinile devin criminali cibernetici

Atacurile cibernetice automatizate folosind AI: Când mașinile devin criminali cibernetici

Textul subtitlului
Puterea inteligenței artificiale (AI) și a învățării automate (ML) este exploatată de hackeri pentru a face atacurile cibernetice mai eficiente și mai letale.
    • Autor:
    • Numele autorului
      Previziune Quantumrun
    • 30 Septembrie, 2022

    Rezumat perspectivă

    Inteligența artificială (AI) și învățarea automată (ML) sunt folosite din ce în ce mai mult în securitatea cibernetică, atât pentru protejarea sistemelor, cât și pentru executarea atacurilor cibernetice. Capacitatea lor de a învăța din date și comportamente le permite să identifice vulnerabilitățile sistemului, dar, de asemenea, face dificilă urmărirea sursei din spatele acestor algoritmi. Acest peisaj în evoluție al AI în criminalitatea cibernetică ridică îngrijorări în rândul experților IT, necesită strategii avansate de apărare și poate duce la schimbări semnificative în modul în care guvernele și companiile abordează securitatea cibernetică.

    Atacurile cibernetice automatizate folosind contextul AI

    Inteligența artificială și ML mențin capacitatea de a automatiza aproape toate sarcinile, inclusiv învățarea din comportamente și modele repetitive, constituind un instrument puternic pentru identificarea vulnerabilităților dintr-un sistem. Mai important, AI și ML fac dificilă identificarea unei persoane sau a unei entități în spatele unui algoritm.

    În 2022, în timpul Subcomitetului pentru securitate cibernetică a Senatului SUA pentru Serviciile Armate, Eric Horvitz, directorul științific al Microsoft, s-a referit la utilizarea inteligenței artificiale (AI) pentru a automatiza atacurile cibernetice drept „IA ofensivă”. El a subliniat că este greu de determinat dacă un atac cibernetic este determinat de AI. În mod similar, învățarea automată (ML) este folosită pentru a ajuta atacurile cibernetice; ML este folosit pentru a învăța cuvinte și strategii utilizate în mod obișnuit în crearea parolelor pentru a le pirata mai bine. 

    Un sondaj realizat de firma de securitate cibernetică Darktrace a descoperit că echipele de management IT sunt din ce în ce mai preocupate de potențiala utilizare a inteligenței artificiale în infracțiunile cibernetice, 96% dintre respondenți indicând că caută deja soluții posibile. Experții în securitate IT simt o schimbare în metodele de atac cibernetic de la ransomware și phishing la programe malware mai complexe, care sunt greu de detectat și deturnat. Posibilul risc de criminalitate cibernetică activată de IA este introducerea de date corupte sau manipulate în modelele ML.

    Un atac ML poate afecta software-ul și alte tehnologii care sunt dezvoltate în prezent pentru a susține cloud computing și AI de vârf. Datele insuficiente de instruire pot, de asemenea, să întărească prejudecățile algoritmilor, cum ar fi etichetarea incorectă a grupurilor minoritare sau influențarea politicii predictive pentru a viza comunitățile marginalizate. Inteligența artificială poate introduce informații subtile, dar dezastruoase în sisteme, care pot avea consecințe de lungă durată.

    Impact perturbator

    Un studiu al cercetătorilor de la Universitatea Georgetown privind lanțul de ucidere cibernetică (o listă de verificare a sarcinilor efectuate pentru a lansa un atac cibernetic de succes) a arătat că strategiile ofensive specifice ar putea beneficia de ML. Aceste metode includ spearphishing (escrocherii prin e-mail îndreptate către anumite persoane și organizații), identificarea punctelor slabe ale infrastructurilor IT, livrarea codului rău intenționat în rețele și evitarea detectării de către sistemele de securitate cibernetică. Învățarea automată poate crește, de asemenea, șansele ca atacurile de inginerie socială să reușească, în cazul în care oamenii sunt înșelați să dezvăluie informații sensibile sau să efectueze acțiuni specifice, cum ar fi tranzacții financiare. 

    În plus, lanțul de ucidere cibernetică poate automatiza unele procese, inclusiv: 

    • Supraveghere extinsă - scanere autonome care culeg informații din rețelele țintă, inclusiv sistemele lor conectate, apărarea și setările software. 
    • Armare vastă - instrumente AI care identifică punctele slabe ale infrastructurii și creează cod pentru a infiltra aceste lacune. Această detectare automată poate viza, de asemenea, ecosisteme digitale sau organizații specifice. 
    • Livrare sau hacking - instrumente AI care folosesc automatizarea pentru a executa spearphishing și inginerie socială pentru a viza mii de oameni. 

    Începând cu 2023, scrierea de coduri complexe se află încă în domeniul programatorilor umani, dar experții cred că nu va dura mult până când mașinile dobândesc și această abilitate. AlphaCode de la DeepMind este un exemplu proeminent de astfel de sisteme AI avansate. Acesta ajută programatorii analizând cantități mari de cod pentru a învăța modele și pentru a genera soluții de cod optimizate

    Implicațiile atacurilor cibernetice automatizate folosind AI

    Implicațiile mai largi ale atacurilor cibernetice automatizate care utilizează AI pot include: 

    • Companiile își adâncesc bugetele de apărare cibernetică pentru a dezvolta soluții cibernetice avansate pentru a detecta și opri atacurile cibernetice automatizate.
    • Infractorii cibernetici studiază metode ML pentru a crea algoritmi care pot invada în secret sistemele corporative și din sectorul public.
    • Incidente crescute de atacuri cibernetice care sunt bine orchestrate și vizează mai multe organizații simultan.
    • Software ofensiv AI utilizat pentru a prelua controlul armelor militare, mașinilor și centrelor de comandă a infrastructurii.
    • Software AI ofensiv utilizat pentru a se infiltra, modifica sau exploata sistemele unei companii pentru a distruge infrastructurile publice și private. 
    • Unele guverne ar putea reorganiza apărarea digitală a sectorului lor privat intern sub controlul și protecția agențiilor naționale de securitate cibernetică.

    Întrebări de luat în considerare

    • Care sunt celelalte consecințe potențiale ale atacurilor cibernetice activate de AI?
    • Cum altfel se pot pregăti companiile pentru astfel de atacuri?

    Referințe de perspectivă

    Următoarele linkuri populare și instituționale au fost menționate pentru această perspectivă:

    Centrul pentru securitate și tehnologie emergentă Automatizarea atacurilor cibernetice