기계가 사이버 범죄자가 될 때 AI를 사용하는 자동화된 사이버 공격

이미지 크레딧 :

iStock

AI를 사용한 자동화된 사이버 공격: 기계가 사이버 범죄자가 될 때

인공 지능(AI)과 머신 러닝(ML)의 힘은 사이버 공격을 보다 효과적이고 치명적으로 만들기 위해 해커가 악용하고 있습니다.

저자:
저자 이름
퀀텀런 예측
30년 2022월 XNUMX일

인공 지능(AI)과 머신 러닝(ML)은 반복적인 행동과 패턴으로부터의 학습을 포함하여 거의 모든 작업을 자동화하는 기능을 유지하여 시스템의 취약성을 식별하는 강력한 도구를 만듭니다. 더 중요한 것은 AI와 ML을 사용하면 알고리즘 뒤에 있는 사람이나 엔터티를 정확히 찾아내기가 어렵습니다.

AI 컨텍스트를 사용한 자동화된 사이버 공격

2022년 사이버 보안에 관한 미국 상원 군사 서비스 소위원회에서 Microsoft의 최고 과학 책임자인 Eric Horvitz는 인공 지능(AI)을 사용하여 사이버 공격을 자동화하는 것을 "공격적인 AI"라고 언급했습니다. 사이버 공격이 AI 기반인지 판단하기 어렵다는 점을 강조합니다. 마찬가지로 그 기계 학습(ML)은 사이버 공격을 지원하는 데 사용되고 있습니다. ML은 암호를 더 잘 해킹하기 위해 일반적으로 사용되는 단어와 전략을 배우는 데 사용됩니다.

사이버 보안 회사인 Darktrace의 설문 조사에 따르면 IT 관리 팀은 사이버 범죄에서 AI의 잠재적 사용에 대해 점점 더 우려하고 있으며 응답자의 96%는 이미 가능한 솔루션을 연구하고 있다고 밝혔습니다.

IT 보안 전문가들은 사이버 공격 방법이 랜섬웨어 및 피싱에서 감지 및 차단하기 어려운 더 복잡한 맬웨어로 이동하고 있다고 생각합니다. AI 지원 사이버 범죄의 가능한 위험은 ML 모델에서 손상되거나 조작된 데이터의 도입입니다. ML 공격은 클라우드 컴퓨팅 및 에지 AI를 지원하기 위해 현재 개발 중인 소프트웨어 및 기타 기술에 영향을 미칠 수 있습니다. 불충분한 교육 데이터는 또한 소수 그룹에 잘못 태그를 지정하거나 소외된 커뮤니티를 대상으로 하는 예측 경찰에 영향을 미치는 것과 같은 알고리즘 편향을 강화할 수 있습니다. 인공 지능은 미묘하지만 치명적인 정보를 시스템에 도입할 수 있으며, 이는 장기적인 결과를 초래할 수 있습니다.

파괴적 영향

사이버 킬 체인(성공적인 사이버 공격을 시작하기 위해 수행되는 작업의 체크리스트)에 대한 Georgetown University 연구원의 연구에 따르면 특정 공격 전략이 ML의 이점을 얻을 수 있습니다. 이러한 방법에는 스피어피싱(특정 사람과 조직을 대상으로 하는 이메일 사기), IT 인프라의 약점 파악, 네트워크에 악성 코드 전달, 사이버 보안 시스템의 탐지 회피가 포함됩니다. 기계 학습은 또한 사람들이 민감한 정보를 공개하거나 금융 거래와 같은 특정 작업을 수행하도록 속이는 사회 공학 공격의 성공 가능성을 높일 수 있습니다.

또한 사이버 킬 체인은 다음과 같은 일부 프로세스를 자동화할 수 있습니다.

광범위한 감시 - 연결된 시스템, 방어 및 소프트웨어 설정을 포함하여 대상 네트워크에서 정보를 수집하는 자율 스캐너.
방대한 무기화 - AI 도구는 인프라의 약점을 식별하고 이러한 허점에 침투하기 위한 코드를 생성합니다. 이 자동 탐지는 특정 디지털 생태계 또는 조직을 대상으로 할 수도 있습니다.
전달 또는 해킹 - 자동화를 사용하여 스피어피싱 및 사회 공학을 실행하여 수천 명의 사람들을 대상으로 하는 AI 도구입니다.

2022년 현재 복잡한 코드 작성은 여전히 인간 프로그래머의 영역에 속하지만 전문가들은 머지않아 기계도 이 기술을 습득할 것이라고 믿습니다.