Automatizuotos kibernetinės atakos naudojant AI: kai mašinos tampa kibernetiniais nusikaltėliais

• Autorius:
• autoriaus vardas

  Quantumrun Foresight
• Rugsėjis 30, 2022

Įžvalgos santrauka

Dirbtinis intelektas (AI) ir mašinų mokymasis (ML) vis dažniau naudojami kibernetinio saugumo srityje tiek sistemoms apsaugoti, tiek kibernetinėms atakoms vykdyti. Jų gebėjimas mokytis iš duomenų ir elgesio leidžia nustatyti sistemos pažeidžiamumą, tačiau taip pat sunku atsekti šių algoritmų šaltinį. Šis besivystantis dirbtinio intelekto kibernetinių nusikaltimų srityje reiškinys kelia susirūpinimą IT ekspertams, reikalauja pažangių gynybos strategijų ir gali lemti reikšmingus pokyčius vyriausybių ir įmonių požiūriu į kibernetinį saugumą.

Automatizuotos kibernetinės atakos naudojant AI kontekstą

Dirbtinis intelektas ir ML išlaiko galimybę automatizuoti beveik visas užduotis, įskaitant mokymąsi iš pasikartojančio elgesio ir modelių, todėl yra galingas įrankis sistemos pažeidžiamumui nustatyti. Dar svarbiau, kad dirbtinis intelektas ir ML apsunkina asmenį ar subjektą, kuris veikia pagal algoritmą.

2022 m. JAV Senato ginkluotųjų tarnybų kibernetinio saugumo pakomitečio metu Ericas Horvitzas, „Microsoft“ vyriausiasis mokslo pareigūnas, dirbtinio intelekto (AI) naudojimą kibernetinėms atakoms automatizuoti pavadino „įžeidžiančiu AI“. Jis pabrėžė, kad sunku nustatyti, ar kibernetinę ataką skatina dirbtinis intelektas. Be to, mašininis mokymasis (ML) naudojamas kibernetinėms atakoms padėti; ML naudojama norint išmokti dažniausiai naudojamus žodžius ir strategijas kuriant slaptažodžius, kad būtų galima geriau juos nulaužti. 

Kibernetinio saugumo įmonės „Darktrace“ atlikta apklausa atskleidė, kad IT valdymo komandos vis labiau nerimauja dėl galimo dirbtinio intelekto panaudojimo kibernetiniams nusikaltimams, o 96 procentai respondentų nurodė, kad jau tiria galimus sprendimus. IT saugumo ekspertai mano, kad kibernetinių atakų metodai keičiasi nuo išpirkos reikalaujančių programų ir sukčiavimo prie sudėtingesnių kenkėjiškų programų, kurias sunku aptikti ir nukreipti. Galima kibernetinių nusikaltimų, susijusių su dirbtiniu intelektu, rizika yra sugadintų arba manipuliuojamų duomenų įvedimas į ML modelius.

ML ataka gali paveikti programinę įrangą ir kitas šiuo metu kuriamas technologijas, skirtas palaikyti debesų kompiuteriją ir pažangųjį AI. Nepakankami mokymo duomenys taip pat gali sustiprinti algoritmų šališkumą, pvz., neteisingą mažumų grupių žymėjimą arba įtakoti nuspėjamą policijos veiklą, nukreiptą į marginalines bendruomenes. Dirbtinis intelektas gali įvesti į sistemas subtilią, bet pražūtingą informaciją, kuri gali turėti ilgalaikių pasekmių.

Trikdantis poveikis

Džordžtauno universiteto mokslininkų atliktas tyrimas dėl kibernetinės žudymo grandinės (užduočių, atliekamų norint pradėti sėkmingą kibernetinę ataką, kontrolinis sąrašas) parodė, kad ML gali būti naudinga konkrečioms puolimo strategijoms. Šie metodai apima slaptą sukčiavimą (el. pašto sukčiavimą, nukreiptą į konkrečius žmones ir organizacijas), IT infrastruktūros trūkumų nustatymą, kenkėjiško kodo pristatymą į tinklus ir vengimą aptikti kibernetinio saugumo sistemos. Mašininis mokymasis taip pat gali padidinti socialinės inžinerijos atakų sėkmės tikimybę, kai žmonės apgaudinėjami atskleisti neskelbtiną informaciją arba atlikti konkrečius veiksmus, pvz., finansines operacijas. 

Be to, kibernetinė žudymo grandinė gali automatizuoti kai kuriuos procesus, įskaitant: 

• Išsamus stebėjimas – autonominiai skaitytuvai, renkantys informaciją iš tikslinių tinklų, įskaitant jų prijungtas sistemas, apsaugą ir programinės įrangos nustatymus. 
• Didžiulis ginklų panaudojimas – dirbtinio intelekto įrankiai, nustatantys infrastruktūros trūkumus ir sukuriantys kodą, kad prasiskverbtų į šias spragas. Šis automatinis aptikimas taip pat gali būti nukreiptas į konkrečias skaitmenines ekosistemas ar organizacijas. 
• Pristatymas arba įsilaužimas – dirbtinio intelekto įrankiai, naudojantys automatizuotą sukčiavimą ir socialinę inžineriją, skirtą tūkstančiams žmonių. 

Nuo 2023 m. sudėtingo kodo rašymas vis dar priklauso žmonių programuotojų sričiai, tačiau ekspertai mano, kad neilgai trukus mašinos taip pat įgis šį įgūdį. DeepMind AlphaCode yra ryškus tokių pažangių AI sistemų pavyzdys. Ji padeda programuotojams analizuoti didelius kodo kiekius, kad išmoktų šablonus ir generuotų optimizuotus kodo sprendimus

Automatizuotų kibernetinių atakų, naudojant AI, pasekmės

Platesnės automatizuotų kibernetinių atakų, naudojant AI, pasekmės gali apimti: 

• Įmonės, didinančios savo kibernetinės gynybos biudžetus, siekdamos kurti pažangius kibernetinius sprendimus, leidžiančius aptikti ir sustabdyti automatizuotas kibernetines atakas.
• Kibernetiniai nusikaltėliai, tyrinėjantys ML metodus, kurdami algoritmus, galinčius slapta įsiveržti į įmonių ir viešojo sektoriaus sistemas.
• Padaugėjo kibernetinių atakų, kurios yra gerai organizuotos ir nukreiptos į kelias organizacijas vienu metu.
• Įžeidžianti AI programinė įranga, naudojama kariniams ginklams, mašinoms ir infrastruktūros valdymo centrams perimti.
• Įžeidžianti AI programinė įranga, naudojama siekiant įsiskverbti, modifikuoti ar išnaudoti įmonės sistemas, kad būtų panaikinta viešoji ir privačioji infrastruktūra. 
• Kai kurios vyriausybės gali pertvarkyti savo vietinio privataus sektoriaus skaitmenines gynybos priemones, kurias kontroliuoja ir saugo atitinkamos nacionalinės kibernetinio saugumo agentūros.

Klausimai, kuriuos reikia apsvarstyti

• Kokios kitos galimos kibernetinių atakų, pagrįstų dirbtiniu intelektu, pasekmės?
• Kaip dar įmonės gali pasiruošti tokioms atakoms?