Automatizált kibertámadások mesterséges intelligencia segítségével: Amikor a gépek kiberbűnözőkké válnak

• Szerző:
• Szerző neve

  Quantumrun Foresight
• 30. szeptember 2022.

Insight összefoglaló

A mesterséges intelligenciát (AI) és a gépi tanulást (ML) egyre gyakrabban használják a kiberbiztonság területén, mind a rendszerek védelmére, mind a kibertámadások végrehajtására. Az adatokból és viselkedésekből való tanulás képessége lehetővé teszi számukra a rendszer sebezhetőségeinek azonosítását, de megnehezíti az algoritmusok mögött meghúzódó források nyomon követését is. A kiberbűnözés terén a mesterséges intelligencia e fejlődő környezete aggodalmakat vet fel az IT-szakértők körében, fejlett védelmi stratégiákat igényel, és jelentős változásokhoz vezethet a kormányok és a vállalatok kiberbiztonsági megközelítésében.

Automatizált kibertámadások mesterséges intelligencia kontextus használatával

A mesterséges intelligencia és az ML fenntartja a szinte minden feladat automatizálásának képességét, beleértve az ismétlődő viselkedésből és mintákból való tanulást is, így hatékony eszköz a rendszer sebezhetőségeinek azonosítására. Ennél is fontosabb, hogy az AI és az ML megnehezíti az algoritmus mögött álló személy vagy entitás meghatározását.

2022-ben, az Egyesült Államok Szenátusa Fegyveres Szolgálatainak Kiberbiztonsági Albizottságának ülésén Eric Horvitz, a Microsoft tudományos főigazgatója „támadó mesterségesintelligenciaként” emlegette a mesterséges intelligencia (AI) használatát a kibertámadások automatizálására. Kiemelte, hogy nehéz megállapítani, hogy egy kibertámadást mesterséges intelligencia vezérel-e. Hasonlóképpen, a gépi tanulást (ML) használják a kibertámadások segítésére; Az ML-t arra használják, hogy megtanulják a gyakran használt szavakat és stratégiákat jelszavak létrehozásához, hogy jobban feltörjék őket. 

A Darktrace kiberbiztonsági cég felmérése kimutatta, hogy az informatikai vezetők egyre inkább aggódnak a mesterséges intelligencia kiberbűnözésben való lehetséges felhasználása miatt, és a válaszadók 96 százaléka jelezte, hogy már kutatnak a lehetséges megoldások után. Az IT-biztonsági szakértők úgy érzik, hogy a kibertámadási módszerek a zsarolóvírusoktól és az adathalászattól a bonyolultabb rosszindulatú programok felé fordulnak, amelyeket nehéz észlelni és elhárítani. A mesterséges intelligencia által támogatott kiberbűnözés lehetséges kockázata a sérült vagy manipulált adatok ML modellekbe való bevezetése.

Az ML támadás hatással lehet a jelenleg fejlesztés alatt álló szoftverekre és más technológiákra a számítási felhő és az éles mesterséges intelligencia támogatására. Az elégtelen képzési adatok megerősíthetik az algoritmusok torzításait is, például a kisebbségi csoportok helytelen címkézését vagy a prediktív rendfenntartás befolyásolását a marginalizált közösségek megcélzása érdekében. A mesterséges intelligencia finom, de katasztrofális információkat juttathat be a rendszerekbe, aminek hosszan tartó következményei lehetnek.

Bomlasztó hatás

A Georgetown Egyetem kutatóinak a kiberölési láncról (a sikeres kibertámadás indításához elvégzett feladatok ellenőrző listája) végzett tanulmány kimutatta, hogy bizonyos támadó stratégiák számára előnyös lehet az ML. Ezek a módszerek közé tartozik az adathalászat (adott személyek és szervezetek felé irányuló e-mail csalások), az IT-infrastruktúrák gyenge pontjainak feltárása, a rosszindulatú kódok hálózatokba juttatása, valamint a kiberbiztonsági rendszerek általi észlelés elkerülése. A gépi tanulás növelheti a social engineering támadások sikerének esélyét is, amikor az embereket megtévesztik érzékeny információk felfedésével vagy konkrét műveletek, például pénzügyi tranzakciók végrehajtásával. 

Ezenkívül a kiberirtó lánc bizonyos folyamatokat automatizálhat, például: 

• Kiterjedt felügyelet – autonóm szkennerek információkat gyűjtenek a célhálózatokról, beleértve a csatlakoztatott rendszereiket, védelmi rendszereiket és szoftverbeállításaikat. 
• Hatalmas fegyverkezés – AI-eszközök azonosítják az infrastruktúra gyengeségeit, és kódot hoznak létre ezekbe a kiskapuk behatolására. Ez az automatizált észlelés meghatározott digitális ökoszisztémákat vagy szervezeteket is megcélozhat. 
• Kézbesítés vagy feltörés – AI-eszközök automatizálást használva adathalászat és közösségi manipuláció végrehajtására, amellyel több ezer embert céloznak meg. 

2023-ban az összetett kód írása még mindig az emberi programozók hatáskörébe tartozik, de a szakértők úgy vélik, hogy nem sok idő telik el, míg a gépek is elsajátítják ezt a képességet. A DeepMind AlphaCode az ilyen fejlett AI-rendszerek kiemelkedő példája. Segíti a programozókat nagy mennyiségű kód elemzésével, hogy megtanulják a mintákat és optimalizált kódmegoldásokat hozzanak létre

Az AI segítségével végrehajtott automatizált kibertámadások következményei

Az AI-t használó automatizált kibertámadások szélesebb körű következményei lehetnek: 

• A vállalatok növelik kibervédelmi költségvetésüket, hogy fejlett kibermegoldásokat fejlesszenek ki az automatizált kibertámadások észlelésére és megállítására.
• Kiberbűnözők, akik ML módszereket tanulmányoznak, hogy olyan algoritmusokat alkossanak, amelyek titokban behatolhatnak a vállalati és a közszféra rendszereibe.
• Megnövekedett a jól megszervezett kibertámadások száma, amelyek egyszerre több szervezetet céloznak meg.
• Támadó mesterséges intelligencia-szoftver, amelyet katonai fegyverek, gépek és infrastrukturális irányító központok feletti irányítás megszerzésére használnak.
• Támadó mesterséges intelligencia-szoftver, amelyet arra használnak, hogy beszivárogjanak, módosítsák vagy kihasználják a vállalat rendszereit a nyilvános és magáninfrastruktúrák lerombolására. 
• Egyes kormányok potenciálisan átszervezik hazai magánszektoruk digitális védelmét saját nemzeti kiberbiztonsági ügynökségeik ellenőrzése és védelme alatt.

Megfontolandó kérdések

• Milyen egyéb lehetséges következményei lehetnek az AI-kompatibilis kibertámadásoknak?
• Hogyan készülhetnek fel a cégek az ilyen támadásokra?