Αυτοματοποιημένες επιθέσεις στον κυβερνοχώρο με χρήση AI: Όταν οι μηχανές γίνονται κυβερνοεγκληματίες

• Συγγραφέας:
• όνομα συγγραφέα

  Quantumrun Foresight
• Σεπτέμβριος 30, 2022

Περίληψη Insight

Η τεχνητή νοημοσύνη (AI) και η μηχανική μάθηση (ML) χρησιμοποιούνται όλο και περισσότερο στην ασφάλεια στον κυβερνοχώρο, τόσο για την προστασία συστημάτων όσο και για την εκτέλεση κυβερνοεπιθέσεων. Η ικανότητά τους να μαθαίνουν από δεδομένα και συμπεριφορές τους επιτρέπει να εντοπίζουν τρωτά σημεία του συστήματος, αλλά επίσης καθιστά δύσκολο τον εντοπισμό της πηγής πίσω από αυτούς τους αλγόριθμους. Αυτό το εξελισσόμενο τοπίο της τεχνητής νοημοσύνης στο έγκλημα στον κυβερνοχώρο εγείρει ανησυχίες μεταξύ των ειδικών πληροφορικής, απαιτεί προηγμένες αμυντικές στρατηγικές και μπορεί να οδηγήσει σε σημαντικές αλλαγές στον τρόπο με τον οποίο οι κυβερνήσεις και οι εταιρείες προσεγγίζουν την ασφάλεια στον κυβερνοχώρο.

Αυτοματοποιημένες επιθέσεις στον κυβερνοχώρο χρησιμοποιώντας πλαίσιο AI

Η τεχνητή νοημοσύνη και η ML διατηρούν την ικανότητα να αυτοματοποιούν σχεδόν όλες τις εργασίες, συμπεριλαμβανομένης της μάθησης από επαναλαμβανόμενες συμπεριφορές και μοτίβα, καθιστώντας ένα ισχυρό εργαλείο για τον εντοπισμό τρωτών σημείων σε ένα σύστημα. Το πιο σημαντικό, η τεχνητή νοημοσύνη και η ML καθιστούν δύσκολο τον εντοπισμό ενός ατόμου ή μιας οντότητας πίσω από έναν αλγόριθμο.

Το 2022, κατά τη διάρκεια της Υποεπιτροπής Ενόπλων Υπηρεσιών της Γερουσίας των ΗΠΑ για την Κυβερνοασφάλεια, ο Έρικ Χόρβιτς, επικεφαλής επιστημονικός υπεύθυνος της Microsoft, αναφέρθηκε στη χρήση τεχνητής νοημοσύνης (AI) για την αυτοματοποίηση των κυβερνοεπιθέσεων ως «προσβλητικό AI». Τόνισε ότι είναι δύσκολο να προσδιοριστεί εάν μια κυβερνοεπίθεση βασίζεται στην τεχνητή νοημοσύνη. Ομοίως, ότι η μηχανική μάθηση (ML) χρησιμοποιείται για να βοηθήσει τις επιθέσεις στον κυβερνοχώρο. Η ML χρησιμοποιείται για την εκμάθηση λέξεων και στρατηγικών που χρησιμοποιούνται συνήθως για τη δημιουργία κωδικών πρόσβασης για να τις χακάρετε καλύτερα. 

Μια έρευνα από την εταιρεία κυβερνοασφάλειας Darktrace ανακάλυψε ότι οι ομάδες διαχείρισης IT ανησυχούν όλο και περισσότερο για την πιθανή χρήση της τεχνητής νοημοσύνης σε εγκλήματα στον κυβερνοχώρο, με το 96 τοις εκατό των ερωτηθέντων να δηλώνουν ότι ήδη ερευνούν πιθανές λύσεις. Οι ειδικοί σε θέματα ασφάλειας πληροφορικής αισθάνονται μια μετατόπιση στις μεθόδους κυβερνοεπιθέσεων από ransomware και phishing σε πιο σύνθετο κακόβουλο λογισμικό που είναι δύσκολο να εντοπιστεί και να εκτραπεί. Πιθανός κίνδυνος εγκλήματος στον κυβερνοχώρο με δυνατότητα τεχνητής νοημοσύνης είναι η εισαγωγή κατεστραμμένων ή παραποιημένων δεδομένων σε μοντέλα ML.

Μια επίθεση ML μπορεί να επηρεάσει το λογισμικό και άλλες τεχνολογίες που αναπτύσσονται επί του παρόντος για την υποστήριξη του υπολογιστικού νέφους και της τεχνητής νοημοσύνης αιχμής. Τα ανεπαρκή δεδομένα εκπαίδευσης μπορούν επίσης να ενισχύσουν εκ νέου προκαταλήψεις αλγορίθμων, όπως η εσφαλμένη επισήμανση μειονοτικών ομάδων ή ο επηρεασμός της προγνωστικής αστυνόμευσης για τη στόχευση περιθωριοποιημένων κοινοτήτων. Η τεχνητή νοημοσύνη μπορεί να εισάγει λεπτές αλλά καταστροφικές πληροφορίες στα συστήματα, οι οποίες μπορεί να έχουν μακροχρόνιες συνέπειες.

Αποδιοργανωτικός αντίκτυπος

Μια μελέτη από ερευνητές του Πανεπιστημίου Georgetown σχετικά με την αλυσίδα θανάτωσης στον κυβερνοχώρο (μια λίστα ελέγχου εργασιών που εκτελούνται για την έναρξη μιας επιτυχημένης κυβερνοεπίθεσης) έδειξε ότι συγκεκριμένες επιθετικές στρατηγικές θα μπορούσαν να ωφεληθούν από την ML. Αυτές οι μέθοδοι περιλαμβάνουν το spearphishing (απάτες ηλεκτρονικού ταχυδρομείου που απευθύνονται σε συγκεκριμένα άτομα και οργανισμούς), τον εντοπισμό αδυναμιών στις υποδομές πληροφορικής, την παράδοση κακόβουλου κώδικα σε δίκτυα και την αποφυγή εντοπισμού από συστήματα κυβερνοασφάλειας. Η μηχανική μάθηση μπορεί επίσης να αυξήσει τις πιθανότητες επιτυχίας των επιθέσεων κοινωνικής μηχανικής, όπου οι άνθρωποι εξαπατούνται να αποκαλύπτουν ευαίσθητες πληροφορίες ή να εκτελούν συγκεκριμένες ενέργειες όπως οικονομικές συναλλαγές. 

Επιπλέον, η αλυσίδα θανάτωσης στον κυβερνοχώρο μπορεί να αυτοματοποιήσει ορισμένες διαδικασίες, όπως: 

• Εκτεταμένη επιτήρηση - αυτόνομοι σαρωτές που συλλέγουν πληροφορίες από δίκτυα-στόχους, συμπεριλαμβανομένων των συνδεδεμένων συστημάτων τους, άμυνες και ρυθμίσεις λογισμικού. 
• Τεράστια όπλα - Εργαλεία AI που εντοπίζουν τις αδυναμίες στην υποδομή και δημιουργούν κώδικα για να διεισδύσουν σε αυτά τα κενά. Αυτή η αυτοματοποιημένη ανίχνευση μπορεί επίσης να στοχεύσει συγκεκριμένα ψηφιακά οικοσυστήματα ή οργανισμούς. 
• Παράδοση ή παραβίαση - Εργαλεία τεχνητής νοημοσύνης που χρησιμοποιούν αυτοματοποίηση για την εκτέλεση ψαρέματος και κοινωνικής μηχανικής για να στοχεύσουν χιλιάδες ανθρώπους. 

Από το 2023, η σύνταξη σύνθετου κώδικα εξακολουθεί να είναι στη σφαίρα των ανθρώπινων προγραμματιστών, αλλά οι ειδικοί πιστεύουν ότι δεν θα αργήσει πολύ να αποκτήσουν και οι μηχανές αυτή τη δεξιότητα. Το AlphaCode της DeepMind είναι ένα εξέχον παράδειγμα τέτοιων προηγμένων συστημάτων AI. Βοηθά τους προγραμματιστές αναλύοντας μεγάλες ποσότητες κώδικα για να μάθουν μοτίβα και να δημιουργήσουν βελτιστοποιημένες λύσεις κώδικα

Συνέπειες των αυτοματοποιημένων κυβερνοεπιθέσεων με χρήση AI

Οι ευρύτερες συνέπειες των αυτοματοποιημένων επιθέσεων στον κυβερνοχώρο με χρήση AI μπορεί να περιλαμβάνουν: 

• Οι εταιρείες εμβαθύνουν τους προϋπολογισμούς τους στον κυβερνοχώρο για την ανάπτυξη προηγμένων λύσεων στον κυβερνοχώρο για τον εντοπισμό και τον τερματισμό αυτοματοποιημένων επιθέσεων στον κυβερνοχώρο.
• Κυβερνοεγκληματίες που μελετούν μεθόδους ML για να δημιουργήσουν αλγόριθμους που μπορούν να εισβάλουν κρυφά σε εταιρικά και δημόσια συστήματα.
• Αυξημένα περιστατικά κυβερνοεπιθέσεων που είναι καλά ενορχηστρωμένα και στοχεύουν πολλαπλούς οργανισμούς ταυτόχρονα.
• Προσβλητικό λογισμικό τεχνητής νοημοσύνης που χρησιμοποιείται για την κατάληψη του ελέγχου στρατιωτικών όπλων, μηχανών και κέντρων διοίκησης υποδομών.
• Προσβλητικό λογισμικό τεχνητής νοημοσύνης που χρησιμοποιείται για να διεισδύσει, να τροποποιήσει ή να εκμεταλλευτεί τα συστήματα μιας εταιρείας για να καταστρέψει δημόσιες και ιδιωτικές υποδομές. 
• Ορισμένες κυβερνήσεις δυνητικά αναδιοργανώνουν την ψηφιακή άμυνα του εγχώριου ιδιωτικού τους τομέα υπό τον έλεγχο και την προστασία των αντίστοιχων εθνικών τους υπηρεσιών κυβερνοασφάλειας.

Ερωτήσεις προς εξέταση

• Ποιες είναι οι άλλες πιθανές συνέπειες των κυβερνοεπιθέσεων με δυνατότητα AI;
• Πώς αλλιώς μπορούν οι εταιρείες να προετοιμαστούν για τέτοιες επιθέσεις;