การโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI: เมื่อเครื่องจักรกลายเป็นอาชญากรไซเบอร์
การโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI: เมื่อเครื่องจักรกลายเป็นอาชญากรไซเบอร์
การโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI: เมื่อเครื่องจักรกลายเป็นอาชญากรไซเบอร์
- เขียนโดย:
- September 30, 2022
สรุปข้อมูลเชิงลึก
ปัญญาประดิษฐ์ (AI) และการเรียนรู้ของเครื่อง (ML) ถูกนำมาใช้มากขึ้นในการรักษาความปลอดภัยทางไซเบอร์ ทั้งเพื่อปกป้องระบบและในการโจมตีทางไซเบอร์ ความสามารถในการเรียนรู้จากข้อมูลและพฤติกรรมช่วยให้ระบุช่องโหว่ของระบบได้ แต่ยังทำให้ยากต่อการติดตามแหล่งที่มาเบื้องหลังอัลกอริธึมเหล่านี้ ภูมิทัศน์ที่เปลี่ยนแปลงไปของ AI ในอาชญากรรมในโลกไซเบอร์ทำให้เกิดความกังวลในหมู่ผู้เชี่ยวชาญด้านไอที จำเป็นต้องมีกลยุทธ์การป้องกันขั้นสูง และอาจนำไปสู่การเปลี่ยนแปลงที่สำคัญในวิธีที่รัฐบาลและบริษัทต่างๆ จัดการกับความปลอดภัยทางไซเบอร์
การโจมตีทางไซเบอร์อัตโนมัติโดยใช้บริบท AI
ปัญญาประดิษฐ์และ ML รักษาความสามารถในการทำงานเกือบทั้งหมดโดยอัตโนมัติ รวมถึงการเรียนรู้จากพฤติกรรมและรูปแบบที่ซ้ำซาก ทำให้เป็นเครื่องมือที่มีประสิทธิภาพในการระบุช่องโหว่ในระบบ ที่สำคัญกว่านั้น AI และ ML ทำให้การระบุบุคคลหรือเอนทิตีที่อยู่เบื้องหลังอัลกอริธึมเป็นเรื่องท้าทาย
ในปี 2022 ในระหว่างคณะอนุกรรมการบริการติดอาวุธของวุฒิสภาสหรัฐอเมริกาด้านความมั่นคงปลอดภัยทางไซเบอร์ Eric Horvitz หัวหน้าเจ้าหน้าที่วิทยาศาสตร์ของ Microsoft กล่าวถึงการใช้ปัญญาประดิษฐ์ (AI) เพื่อโจมตีทางไซเบอร์โดยอัตโนมัติว่าเป็น “AI ที่น่ารังเกียจ” เขาเน้นย้ำว่าเป็นการยากที่จะตัดสินว่าการโจมตีทางไซเบอร์นั้นขับเคลื่อนด้วย AI หรือไม่ ในทำนองเดียวกัน การเรียนรู้ของเครื่อง (ML) นั้นกำลังถูกใช้เพื่อช่วยเหลือการโจมตีทางไซเบอร์ ML ใช้เพื่อเรียนรู้คำศัพท์และกลยุทธ์ที่ใช้กันทั่วไปในการสร้างรหัสผ่านเพื่อแฮ็กได้ดีขึ้น
การสำรวจโดยบริษัทรักษาความปลอดภัยทางไซเบอร์ Darktrace พบว่าทีมผู้บริหารด้านไอทีมีความกังวลเกี่ยวกับการใช้ AI ในอาชญากรรมทางไซเบอร์มากขึ้น โดย 96 เปอร์เซ็นต์ของผู้ตอบแบบสอบถามระบุว่าพวกเขากำลังค้นคว้าวิธีแก้ปัญหาที่เป็นไปได้อยู่แล้ว ผู้เชี่ยวชาญด้านความปลอดภัยด้านไอทีรู้สึกว่าวิธีการโจมตีทางไซเบอร์เปลี่ยนจากแรนซัมแวร์และฟิชชิ่งไปเป็นมัลแวร์ที่ซับซ้อนมากขึ้นซึ่งยากต่อการตรวจจับและเบี่ยงเบน ความเสี่ยงที่เป็นไปได้ของอาชญากรรมทางไซเบอร์ที่ใช้ AI คือการนำข้อมูลที่เสียหายหรือถูกจัดการมาในโมเดล ML
การโจมตี ML สามารถส่งผลกระทบต่อซอฟต์แวร์และเทคโนโลยีอื่นๆ ที่กำลังพัฒนาเพื่อรองรับการประมวลผลบนคลาวด์และ Edge AI ข้อมูลการฝึกอบรมที่ไม่เพียงพอยังสามารถบังคับใช้อคติของอัลกอริทึมได้อีกครั้ง เช่น การแท็กกลุ่มชนกลุ่มน้อยอย่างไม่ถูกต้อง หรือมีอิทธิพลต่อการรักษาการณ์เชิงคาดการณ์เพื่อกำหนดเป้าหมายชุมชนชายขอบ ปัญญาประดิษฐ์สามารถนำข้อมูลที่ละเอียดอ่อนแต่เป็นหายนะเข้าสู่ระบบ ซึ่งอาจส่งผลที่ตามมาในระยะยาว
ผลกระทบก่อกวน
การศึกษาโดยนักวิจัยของมหาวิทยาลัยจอร์จทาวน์เกี่ยวกับห่วงโซ่การฆ่าทางไซเบอร์ (รายการตรวจสอบงานที่ทำเพื่อเปิดตัวการโจมตีทางอินเทอร์เน็ตที่ประสบความสำเร็จ) แสดงให้เห็นว่ากลยุทธ์เชิงรุกที่เฉพาะเจาะจงอาจได้รับประโยชน์จาก ML วิธีการเหล่านี้รวมถึง spearphishing (อีเมลหลอกลวงที่ส่งตรงไปยังบุคคลและองค์กร) การระบุจุดอ่อนในโครงสร้างพื้นฐานด้านไอที การส่งโค้ดที่เป็นอันตรายไปยังเครือข่าย และการหลีกเลี่ยงการตรวจจับโดยระบบความปลอดภัยทางไซเบอร์ แมชชีนเลิร์นนิงยังช่วยเพิ่มโอกาสที่การโจมตีแบบวิศวกรรมสังคมจะสำเร็จ โดยที่ผู้คนถูกหลอกให้เปิดเผยข้อมูลที่ละเอียดอ่อนหรือดำเนินการบางอย่าง เช่น ธุรกรรมทางการเงิน
นอกจากนี้ ห่วงโซ่การฆ่าทางไซเบอร์สามารถทำให้กระบวนการบางอย่างเป็นไปโดยอัตโนมัติ ซึ่งรวมถึง:
- การเฝ้าระวังอย่างกว้างขวาง - สแกนเนอร์อัตโนมัติรวบรวมข้อมูลจากเครือข่ายเป้าหมาย รวมถึงระบบที่เชื่อมต่อ การป้องกัน และการตั้งค่าซอฟต์แวร์
- อาวุธจำนวนมาก - เครื่องมือ AI ระบุจุดอ่อนในโครงสร้างพื้นฐานและสร้างโค้ดเพื่อแทรกซึมช่องโหว่เหล่านี้ การตรวจจับอัตโนมัตินี้สามารถกำหนดเป้าหมายระบบนิเวศดิจิทัลหรือองค์กรที่เฉพาะเจาะจงได้
- การจัดส่งหรือการแฮ็ก - เครื่องมือ AI ที่ใช้ระบบอัตโนมัติเพื่อดำเนินการสเปียร์ฟิชชิ่งและวิศวกรรมโซเชียลเพื่อกำหนดเป้าหมายผู้คนหลายพันคน
ในปี 2023 การเขียนโค้ดที่ซับซ้อนยังอยู่ในขอบเขตของโปรแกรมเมอร์ที่เป็นมนุษย์ แต่ผู้เชี่ยวชาญเชื่อว่าจะใช้เวลาไม่นานก่อนที่เครื่องจักรจะได้รับทักษะนี้เช่นกัน AlphaCode ของ DeepMind เป็นตัวอย่างที่โดดเด่นของระบบ AI ขั้นสูงดังกล่าว ช่วยโปรแกรมเมอร์โดยการวิเคราะห์โค้ดจำนวนมากเพื่อเรียนรู้รูปแบบและสร้างโซลูชันโค้ดที่ปรับให้เหมาะสม
ผลกระทบของการโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI
นัยที่กว้างขึ้นของการโจมตีทางไซเบอร์แบบอัตโนมัติโดยใช้ AI อาจรวมถึง:
- บริษัทต่างๆ ได้เพิ่มงบประมาณการป้องกันทางไซเบอร์เพื่อพัฒนาโซลูชันทางไซเบอร์ขั้นสูงเพื่อตรวจจับและหยุดการโจมตีทางไซเบอร์แบบอัตโนมัติ
- อาชญากรไซเบอร์กำลังศึกษาวิธีการ ML เพื่อสร้างอัลกอริธึมที่สามารถบุกรุกระบบองค์กรและภาครัฐอย่างลับๆ
- เหตุการณ์การโจมตีทางไซเบอร์ที่เพิ่มขึ้นซึ่งได้รับการจัดการอย่างดีและกำหนดเป้าหมายหลายองค์กรพร้อมกัน
- ซอฟต์แวร์ AI เชิงรุกที่ใช้ในการควบคุมอาวุธ เครื่องจักร และศูนย์บัญชาการโครงสร้างพื้นฐาน
- ซอฟต์แวร์ AI เชิงรุกที่ใช้ในการแทรกซึม แก้ไข หรือใช้ประโยชน์จากระบบของบริษัทเพื่อทำลายโครงสร้างพื้นฐานทั้งภาครัฐและเอกชน
- รัฐบาลบางแห่งอาจจัดระบบการป้องกันดิจิทัลของภาคเอกชนในประเทศของตนใหม่ภายใต้การควบคุมและการปกป้องของหน่วยงานความปลอดภัยทางไซเบอร์ระดับประเทศของตน
คำถามที่ต้องพิจารณา
- อะไรคือผลที่อาจเกิดขึ้นจากการโจมตีทางไซเบอร์ที่เปิดใช้งาน AI?
- บริษัทสามารถเตรียมการสำหรับการโจมตีดังกล่าวได้อย่างไร?
ข้อมูลอ้างอิงเชิงลึก
ลิงก์ที่เป็นที่นิยมและลิงก์สถาบันต่อไปนี้ถูกอ้างอิงสำหรับข้อมูลเชิงลึกนี้: