Куантумрун

КРЕДИТ ЗА СЛИКУ:

иСтоцк

Аутоматизовани сајбер напади помоћу вештачке интелигенције: Када машине постану сајбер криминалци

Хакери искориштавају моћ вештачке интелигенције (АИ) и машинског учења (МЛ) како би сајбер нападе учинили ефикаснијим и смртоноснијим.

Аутор:
ime аутора
Куантумрун Форесигхт
Септембар 30, 2022

Сажетак увида

Вештачка интелигенција (АИ) и машинско учење (МЛ) се све више користе у сајбер безбедности, како за заштиту система, тако и за извођење сајбер напада. Њихова способност да уче из података и понашања омогућава им да идентификују системске рањивости, али и отежава проналажење извора иза ових алгоритама. Овај развојни пејзаж АИ у сајбер криминалу изазива забринутост међу ИТ стручњацима, захтева напредне стратегије одбране и може довести до значајних промена у начину на који владе и компаније приступају сајбер безбедности.

Аутоматски сајбер напади користећи контекст вештачке интелигенције

Вештачка интелигенција и МЛ одржавају способност аутоматизације скоро свих задатака, укључујући учење из понашања и образаца који се понављају, чинећи моћан алат за идентификацију рањивости у систему. Што је још важније, АИ и МЛ чине изазовним да се тачно одреди особа или ентитет иза алгоритма.

Током 2022. године, током подкомитета Сената за оружане службе САД за сајбер безбедност, Ериц Хорвитз, Мицрософтов главни научни службеник, назвао је употребу вештачке интелигенције (АИ) за аутоматизацију сајбер напада као „офанзивну вештачку интелигенцију“. Он је истакао да је тешко утврдити да ли је сајбер напад вођен АИ. Слично, то машинско учење (МЛ) се користи за помоћ сајбер нападима; МЛ се користи за учење најчешће коришћених речи и стратегија у креирању лозинки за њихово боље хаковање.

Истраживање компаније за сајбер безбедност Дарктраце открило је да су ИТ менаџерски тимови све више забринути због потенцијалне употребе вештачке интелигенције у сајбер злочинима, при чему је 96 одсто испитаника навело да већ истражује могућа решења. Стручњаци за ИТ безбедност осећају промену у методама сајбер напада са рансомваре-а и пхисхинг-а на сложенији малвер који је тешко открити и одбити. Могући ризик од сајбер криминала са АИ је увођење оштећених или манипулисаних података у моделе МЛ.

МЛ напад може да утиче на софтвер и друге технологије које се тренутно развијају да подрже рачунарство у облаку и ивичну вештачку интелигенцију. Недовољни подаци о обуци такође могу да појачају пристрасности алгоритама као што је погрешно означавање мањинских група или утицање на предиктивну полицију у циљу циљања маргинализованих заједница. Вештачка интелигенција може да унесе суптилне, али катастрофалне информације у системе, што може имати дуготрајне последице.

Ометајући утицај

Студија истраживача са Универзитета Џорџтаун о ланцу сајбер убијања (контролна листа задатака који се обављају за покретање успешног сајбер напада) показала је да специфичне офанзивне стратегије могу имати користи од МЛ. Ове методе укључују спеарпхисхинг (преваре е-поште усмерене ка одређеним људима и организацијама), уочавање слабости у ИТ инфраструктурама, испоруку злонамерног кода у мреже и избегавање откривања од стране система сајбер безбедности. Машинско учење такође може повећати шансе да напади социјалног инжењеринга успеју, где су људи преварени да открију осетљиве информације или изврше одређене радње као што су финансијске трансакције.

Поред тога, ланац сајбер убијања може да аутоматизује неке процесе, укључујући:

Опсежан надзор – аутономни скенери који прикупљају информације са циљних мрежа, укључујући њихове повезане системе, одбрану и подешавања софтвера.
Огромна употреба оружја – АИ алати који идентификују слабости у инфраструктури и креирају код за инфилтрирање у ове рупе. Ова аутоматизована детекција такође може да циља одређене дигиталне екосистеме или организације.
Испорука или хаковање – АИ алати који користе аутоматизацију за извођење спеарпхисхинг-а и друштвеног инжењеринга за циљање хиљада људи.

Од 2023. године писање сложеног кода је и даље у домену људских програмера, али стручњаци верују да неће проћи много времена пре него што и машине стекну ову вештину. ДеепМиндов АлпхаЦоде је истакнут пример тако напредних АИ система. Помаже програмерима анализирајући велике количине кода да науче обрасце и генеришу оптимизована решења кода

Импликације аутоматизованих сајбер напада коришћењем вештачке интелигенције

Шире импликације аутоматизованих сајбер напада помоћу вештачке интелигенције могу укључивати:

Компаније продубљују своје буџете за сајбер одбрану како би развиле напредна сајбер решења за откривање и заустављање аутоматизованих сајбер напада.
Сајбер криминалци проучавају методе МЛ како би створили алгоритме који могу тајно да нападну системе корпоративног и јавног сектора.
Повећани број инцидената сајбер напада који су добро оркестрирани и циљају више организација одједном.
Офанзивни софтвер вештачке интелигенције који се користи за преузимање контроле над војним оружјем, машинама и инфраструктурним командним центрима.
Офанзивни софтвер вештачке интелигенције који се користи за инфилтрирање, модификовање или искоришћавање система компаније за уклањање јавне и приватне инфраструктуре.
Неке владе потенцијално реорганизују дигиталну одбрану свог домаћег приватног сектора под контролом и заштитом својих одговарајућих националних агенција за сајбер безбедност.