lượng tử

TÍN DỤNG HÌNH ẢNH:

iStock

Tấn công mạng tự động sử dụng AI: Khi máy móc trở thành tội phạm mạng

Sức mạnh của trí tuệ nhân tạo (AI) và máy học (ML) đang bị tin tặc khai thác để làm cho các cuộc tấn công mạng hiệu quả hơn và gây chết người.

tác giả:
tên tác giả
Tầm nhìn lượng tử
Ngày 30 tháng 2022 năm XNUMX

Tóm tắt thông tin chi tiết

Trí tuệ nhân tạo (AI) và máy học (ML) đang ngày càng được sử dụng nhiều hơn trong an ninh mạng, để bảo vệ hệ thống và thực hiện các cuộc tấn công mạng. Khả năng học hỏi từ dữ liệu và hành vi cho phép họ xác định các lỗ hổng hệ thống nhưng cũng khiến việc truy tìm nguồn gốc đằng sau các thuật toán này trở nên khó khăn. Bối cảnh ngày càng phát triển của AI trong tội phạm mạng làm dấy lên mối lo ngại của các chuyên gia CNTT, đòi hỏi các chiến lược phòng thủ tiên tiến và có thể dẫn đến những thay đổi đáng kể trong cách các chính phủ và công ty tiếp cận an ninh mạng.

Các cuộc tấn công mạng tự động sử dụng ngữ cảnh AI

Trí tuệ nhân tạo và ML duy trì khả năng tự động hóa gần như tất cả các nhiệm vụ, bao gồm học hỏi từ các hành vi và mô hình lặp đi lặp lại, tạo ra một công cụ mạnh mẽ để xác định các lỗ hổng trong hệ thống. Quan trọng hơn, AI và ML khiến việc xác định chính xác một người hoặc một thực thể đằng sau một thuật toán trở nên khó khăn.

Vào năm 2022, tại Tiểu ban Dịch vụ Vũ trang Thượng viện Hoa Kỳ về An ninh mạng, Eric Horvitz, giám đốc khoa học của Microsoft, đã gọi việc sử dụng trí tuệ nhân tạo (AI) để tự động hóa các cuộc tấn công mạng là “AI tấn công”. Ông nhấn mạnh rằng rất khó để xác định liệu một cuộc tấn công mạng có phải do AI điều khiển hay không. Tương tự, máy học (ML) đó đang được sử dụng để hỗ trợ các cuộc tấn công mạng; ML được sử dụng để học các từ và chiến lược thường dùng trong việc tạo mật khẩu để hack chúng tốt hơn.

Một cuộc khảo sát của công ty an ninh mạng Darktrace đã phát hiện ra rằng các nhóm quản lý CNTT ngày càng lo ngại về khả năng sử dụng AI trong tội phạm mạng, với 96% số người được hỏi cho biết họ đã nghiên cứu các giải pháp khả thi. Các chuyên gia bảo mật CNTT nhận thấy sự thay đổi trong các phương thức tấn công mạng từ ransomware và lừa đảo sang phần mềm độc hại phức tạp hơn, khó phát hiện và làm chệch hướng. Rủi ro có thể xảy ra của tội phạm mạng do AI kích hoạt là việc đưa dữ liệu bị hỏng hoặc bị thao túng vào các mô hình ML.

Một cuộc tấn công ML có thể tác động đến phần mềm và các công nghệ khác hiện đang được phát triển để hỗ trợ điện toán đám mây và AI biên. Dữ liệu đào tạo không đầy đủ cũng có thể thực thi lại các thành kiến thuật toán như gắn thẻ không chính xác cho các nhóm thiểu số hoặc ảnh hưởng đến việc lập chính sách dự đoán nhằm nhắm mục tiêu vào các cộng đồng bị thiệt thòi. Trí tuệ nhân tạo có thể đưa thông tin tinh vi nhưng tai hại vào hệ thống, có thể gây ra hậu quả lâu dài.

Tác động gián đoạn

Một nghiên cứu của các nhà nghiên cứu Đại học Georgetown về chuỗi tiêu diệt mạng (danh sách kiểm tra các nhiệm vụ được thực hiện để khởi động một cuộc tấn công mạng thành công) cho thấy rằng các chiến lược tấn công cụ thể có thể được hưởng lợi từ ML. Các phương pháp này bao gồm điều khiển (lừa đảo qua thư điện tử hướng đến những người và tổ chức cụ thể), xác định điểm yếu trong cơ sở hạ tầng CNTT, đưa mã độc vào mạng và tránh bị hệ thống an ninh mạng phát hiện. Máy học cũng có thể làm tăng cơ hội thành công của các cuộc tấn công kỹ thuật xã hội, nơi mọi người bị lừa để tiết lộ thông tin nhạy cảm hoặc thực hiện các hành động cụ thể như giao dịch tài chính.

Ngoài ra, chuỗi tiêu diệt mạng có thể tự động hóa một số quy trình, bao gồm:

Giám sát mở rộng - máy quét tự động thu thập thông tin từ các mạng mục tiêu, bao gồm các hệ thống được kết nối, hệ thống phòng thủ và cài đặt phần mềm của chúng.
Vũ khí hóa rộng rãi - Các công cụ AI xác định điểm yếu trong cơ sở hạ tầng và tạo mã để xâm nhập vào những kẽ hở này. Tính năng phát hiện tự động này cũng có thể nhắm mục tiêu đến các tổ chức hoặc hệ sinh thái kỹ thuật số cụ thể.
Giao hàng hoặc tấn công - các công cụ AI sử dụng tự động hóa để thực hiện kỹ thuật bán lẻ và kỹ thuật xã hội nhằm nhắm mục tiêu hàng nghìn người.

Tính đến năm 2023, việc viết mã phức tạp vẫn nằm trong phạm vi khả năng của các lập trình viên con người, nhưng các chuyên gia tin rằng sẽ không lâu nữa máy móc cũng có được kỹ năng này. AlphaCode của DeepMind là một ví dụ nổi bật về các hệ thống AI tiên tiến như vậy. Nó hỗ trợ các lập trình viên bằng cách phân tích số lượng lớn mã để tìm hiểu các mẫu và tạo ra các giải pháp mã được tối ưu hóa

Ý nghĩa của các cuộc tấn công mạng tự động sử dụng AI

Các tác động lớn hơn của các cuộc tấn công mạng tự động sử dụng AI có thể bao gồm:

Các công ty tăng ngân sách phòng thủ mạng để phát triển các giải pháp mạng tiên tiến nhằm phát hiện và ngăn chặn các cuộc tấn công mạng tự động.
Tội phạm mạng nghiên cứu các phương pháp ML để tạo ra các thuật toán có thể bí mật xâm nhập các hệ thống công ty và khu vực công.
Ngày càng có nhiều sự cố về các cuộc tấn công mạng được dàn dựng tốt và nhắm mục tiêu vào nhiều tổ chức cùng một lúc.
Phần mềm AI tấn công được sử dụng để giành quyền kiểm soát vũ khí quân sự, máy móc và trung tâm chỉ huy cơ sở hạ tầng.
Phần mềm AI tấn công được sử dụng để xâm nhập, sửa đổi hoặc khai thác hệ thống của một công ty nhằm phá hủy các cơ sở hạ tầng công cộng và tư nhân.
Một số chính phủ có khả năng tổ chức lại hệ thống phòng thủ kỹ thuật số của khu vực tư nhân trong nước dưới sự kiểm soát và bảo vệ của các cơ quan an ninh mạng quốc gia tương ứng.