퀀텀런

이미지 크레딧:

iStock

AI를 사용한 자동화된 사이버 공격: 기계가 사이버 범죄자가 될 때

인공 지능(AI)과 머신 러닝(ML)의 힘은 사이버 공격을 보다 효과적이고 치명적으로 만들기 위해 해커가 악용하고 있습니다.

저자:
저자 이름
퀀텀런 예측
2022 년 9 월 30 일

인사이트 요약

인공 지능(AI)과 머신 러닝(ML)은 시스템 보호와 사이버 공격 실행 모두를 위해 사이버 보안에 점점 더 많이 사용되고 있습니다. 데이터와 행동을 통해 학습하는 능력을 통해 시스템 취약점을 식별할 수 있지만, 이러한 알고리즘 뒤에 있는 소스를 추적하기도 어렵습니다. 사이버 범죄에서 AI가 진화하는 환경은 IT 전문가들 사이에 우려를 불러일으키고, 고급 방어 전략이 필요하며, 정부와 기업이 사이버 보안에 접근하는 방식에 상당한 변화를 가져올 수 있습니다.

AI 컨텍스트를 사용한 자동화된 사이버 공격

인공 지능과 ML은 반복적인 행동과 패턴을 통한 학습을 포함하여 거의 모든 작업을 자동화하는 기능을 유지하여 시스템의 취약점을 식별하는 강력한 도구를 만듭니다. 더 중요한 것은 AI와 ML이 알고리즘 뒤에 있는 사람이나 실체를 정확히 찾아내는 것을 어렵게 만든다는 것입니다.

2022년 미국 상원 사이버 보안 소위원회에서 마이크로소프트의 최고 과학 책임자인 에릭 호비츠(Eric Horvitz)는 인공 지능(AI)을 사용하여 사이버 공격을 자동화하는 것을 "공격적인 AI"라고 언급했습니다. 그는 사이버 공격이 AI에 의한 것인지 판단하기 어렵다고 강조했습니다. 마찬가지로, 머신러닝(ML)은 사이버 공격을 지원하는 데 사용되고 있습니다. ML은 비밀번호를 더 효과적으로 해킹하기 위해 일반적으로 사용되는 단어와 전략을 학습하는 데 사용됩니다.

사이버 보안 회사 Darktrace의 조사에 따르면 IT 관리 팀은 사이버 범죄에서 AI의 잠재적 사용에 대해 점점 더 우려하고 있으며 응답자의 96%는 이미 가능한 솔루션을 연구하고 있다고 밝혔습니다. IT 보안 전문가들은 사이버 공격 방법이 랜섬웨어와 피싱에서 탐지 및 회피가 어려운 보다 복잡한 악성 코드로 전환되고 있음을 느낍니다. AI 기반 사이버 범죄의 가능한 위험은 ML 모델에 손상되거나 조작된 데이터가 유입되는 것입니다.

ML 공격은 현재 클라우드 컴퓨팅 및 엣지 AI를 지원하기 위해 개발 중인 소프트웨어 및 기타 기술에 영향을 미칠 수 있습니다. 훈련 데이터가 충분하지 않으면 소수 집단에 태그를 잘못 지정하거나 소외된 커뮤니티를 대상으로 하는 예측 치안에 영향을 미치는 등 알고리즘 편향이 다시 강화될 수 있습니다. 인공 지능은 미묘하지만 비참한 정보를 시스템에 도입할 수 있으며, 이는 장기적인 결과를 초래할 수 있습니다.

파괴적 영향

사이버 킬 체인(성공적인 사이버 공격을 시작하기 위해 수행되는 작업의 체크리스트)에 대한 Georgetown University 연구원의 연구에 따르면 특정 공격 전략이 ML의 이점을 얻을 수 있습니다. 이러한 방법에는 스피어피싱(특정 사람과 조직을 대상으로 하는 이메일 사기), IT 인프라의 약점 파악, 네트워크에 악성 코드 전달, 사이버 보안 시스템의 탐지 회피가 포함됩니다. 기계 학습은 또한 사람들이 민감한 정보를 공개하거나 금융 거래와 같은 특정 작업을 수행하도록 속이는 사회 공학 공격의 성공 가능성을 높일 수 있습니다.

또한 사이버 킬 체인은 다음과 같은 일부 프로세스를 자동화할 수 있습니다.

광범위한 감시 - 연결된 시스템, 방어 및 소프트웨어 설정을 포함하여 대상 네트워크에서 정보를 수집하는 자율 스캐너.
방대한 무기화 - AI 도구는 인프라의 약점을 식별하고 이러한 허점에 침투하기 위한 코드를 생성합니다. 이 자동 탐지는 특정 디지털 생태계 또는 조직을 대상으로 할 수도 있습니다.
전달 또는 해킹 - 자동화를 사용하여 스피어피싱 및 사회 공학을 실행하여 수천 명의 사람들을 대상으로 하는 AI 도구입니다.

2023년 현재 복잡한 코드를 작성하는 것은 여전히 인간 프로그래머의 영역에 속하지만 전문가들은 머지않아 기계도 이 기술을 습득할 것이라고 믿습니다. DeepMind의 AlphaCode는 이러한 고급 AI 시스템의 대표적인 예입니다. 대량의 코드를 분석하여 패턴을 학습하고 최적화된 코드 솔루션을 생성함으로써 프로그래머를 지원합니다.