Квантумрун

Кредит суреті:

iStock

AI көмегімен автоматтандырылған кибершабуылдар: машиналар киберқылмыскерлерге айналғанда

Жасанды интеллект (AI) және машиналық оқытудың (ML) күшін хакерлер кибершабуылдарды тиімдірек және өлімге әкелетін ету үшін пайдаланады.

автор:
Автордың аты-жөні
Кванттық болжау
Қыркүйек 30, 2022

Түсінікті қорытынды

Жасанды интеллект (AI) және машиналық оқыту (ML) киберқауіпсіздікте жүйелерді қорғау үшін де, кибершабуылдарды орындау үшін де жиі қолданылуда. Олардың деректер мен мінез-құлықтан үйрену мүмкіндігі оларға жүйенің осал тұстарын анықтауға мүмкіндік береді, сонымен қатар осы алгоритмдердің артындағы дереккөзді іздеуді қиындатады. Киберқылмыстағы жасанды интеллекттің бұл дамып келе жатқан ландшафты АТ мамандарының алаңдаушылығын тудырады, қорғаныстың жетілдірілген стратегияларын талап етеді және үкіметтер мен компаниялардың киберқауіпсіздікке көзқарасында елеулі өзгерістерге әкелуі мүмкін.

AI контекстін пайдаланатын автоматтандырылған кибершабуылдар

Жасанды интеллект және ML барлық дерлік тапсырмаларды, соның ішінде қайталанатын мінез-құлық пен үлгілерден үйренуді автоматтандыру мүмкіндігін қолдайды, бұл жүйедегі осалдықтарды анықтаудың қуатты құралы болып табылады. Ең бастысы, AI және ML алгоритмнің артында тұрған адамды немесе нысанды анықтауды қиындатады.

2022 жылы АҚШ Сенатының Қарулы Күштердің киберқауіпсіздік жөніндегі кіші комитетінде Microsoft корпорациясының бас ғылыми қызметкері Эрик Хорвиц кибершабуылдарды автоматтандыру үшін жасанды интеллектті (AI) пайдалануды «шабуылдаушы AI» деп атады. Ол кибершабуылдың AI басқаратынын анықтау қиын екенін атап өтті. Сол сияқты, машиналық оқыту (ML) кибершабуылдарға көмектесу үшін пайдаланылады; ML парольдерді жасауда жиі қолданылатын сөздер мен стратегияларды жақсырақ бұзу үшін үйрену үшін қолданылады.

Darktrace киберқауіпсіздік фирмасының сауалнамасы АТ-менеджмент топтары киберқылмыстарда AI-ны қолдану мүмкіндігіне көбірек алаңдайтынын анықтады, респонденттердің 96 пайызы ықтимал шешімдерді қазірдің өзінде зерттеп жатқанын көрсетеді. АТ қауіпсіздігі бойынша сарапшылар кибершабуыл әдістерінің төлемдік бағдарламалық құрал мен фишингтен анықтау және бұрмалау қиынырақ күрделі зиянды бағдарламаға ауысуын сезінеді. Жасанды интеллектпен жұмыс істейтін киберқылмыстың ықтимал қаупі ML үлгілеріне бүлінген немесе басқарылатын деректерді енгізу болып табылады.

ML шабуылы қазіргі уақытта бұлтты есептеулерді және жасанды AI-ны қолдау үшін әзірленіп жатқан бағдарламалық жасақтамаға және басқа технологияларға әсер етуі мүмкін. Жаттығу деректерінің жеткіліксіздігі азшылық топтарын дұрыс белгілемеу немесе маргиналданған қауымдастықтарға бағытталған болжамды полицияға әсер ету сияқты алгоритмнің бұрмалануын қайта күшейтуі мүмкін. Жасанды интеллект жүйелерге ұзаққа созылатын салдары болуы мүмкін нәзік, бірақ апатты ақпаратты енгізе алады.

Деструктивті әсер

Джорджтаун университетінің зерттеушілерінің кибер өлтіру тізбегі бойынша жүргізген зерттеуі (сәтті кибершабуыл жасау үшін орындалатын тапсырмалардың бақылау тізімі) арнайы шабуылдау стратегиялары ML-ден пайда көретінін көрсетті. Бұл әдістерге спирфишинг (нақты адамдар мен ұйымдарға бағытталған электрондық пошта алаяқтықтары), АТ-инфрақұрылымдарындағы әлсіз жақтарды анықтау, зиянды кодтарды желілерге жеткізу және киберқауіпсіздік жүйелері арқылы анықтауды болдырмау кіреді. Машиналық оқыту сонымен қатар адамдар құпия ақпаратты ашуға немесе қаржылық транзакциялар сияқты нақты әрекеттерді орындауға алданып қалған әлеуметтік инженерлік шабуылдардың сәтті болу мүмкіндігін арттырады.

Сонымен қатар, кибер өлтіру тізбегі кейбір процестерді автоматтандыруы мүмкін, соның ішінде:

Кең ауқымды бақылау – мақсатты желілерден ақпарат жинайтын автономды сканерлер, соның ішінде олардың қосылған жүйелері, қорғаныс құралдары және бағдарламалық құрал параметрлері.
Кең көлемдегі қаруландыру – инфрақұрылымның әлсіз жақтарын анықтайтын AI құралдары және осы олқылықтарға ену үшін код жасайды. Бұл автоматтандырылған анықтау нақты сандық экожүйелерді немесе ұйымдарды да нысанаға алады.
Жеткізу немесе бұзу - мыңдаған адамдарға бағытталған спирфишинг пен әлеуметтік инженерияны орындау үшін автоматтандыруды пайдаланатын AI құралдары.

2023 жылдан бастап күрделі кодты жазу әлі де адам бағдарламашыларының қолында, бірақ сарапшылардың пайымдауынша, машиналар да бұл дағдыға ие болғанша көп уақыт өтпейді. DeepMind альфа коды осындай жетілдірілген AI жүйелерінің көрнекті мысалы болып табылады. Ол бағдарламашыларға үлгілерді үйрену және оңтайландырылған код шешімдерін жасау үшін үлкен көлемдегі кодты талдау арқылы көмектеседі

AI көмегімен автоматтандырылған кибершабуылдардың салдары

AI көмегімен автоматтандырылған кибершабуылдардың кеңірек салдары мыналарды қамтуы мүмкін:

Автоматтандырылған кибершабуылдарды анықтау және тоқтату үшін озық кибер шешімдерді әзірлеу үшін киберқорғаныс бюджеттерін тереңдетуде компаниялар.
Киберқылмыскерлер корпоративтік және мемлекеттік сектор жүйелеріне жасырын түрде шабуыл жасай алатын алгоритмдер жасау үшін ML әдістерін зерттейді.
Жақсы ұйымдастырылған және бірден бірнеше ұйымға бағытталған кибершабуыл оқиғаларының артуы.
Әскери қаруларды, машиналарды және инфрақұрылымдық басқару орталықтарын бақылауды басып алу үшін қолданылатын шабуылдаушы AI бағдарламалық жасақтамасы.
Қоғамдық және жеке инфрақұрылымдарды жою үшін компанияның жүйелеріне ену, өзгерту немесе пайдалану үшін пайдаланылатын шабуылдаушы AI бағдарламалық құралы.
Кейбір үкіметтер өздерінің ұлттық киберқауіпсіздік агенттіктерінің бақылауымен және қорғауымен өздерінің отандық жеке секторының цифрлық қорғанысын қайта ұйымдастыруы мүмкін.