Οι ειδικοί στην κυβερνοασφάλεια προειδοποιούσαν εδώ και χρόνια πως ήταν απλώς θέμα χρόνου η πρώτη επιθετική παραστρατιωτικού τύπου επιχείρηση με δράστη σχεδόν αποκλειστικά την Τεχνητή Νοημοσύνη (ΤΝ). Οι προειδοποιήσεις επιβεβαιώθηκαν τον περασμένο Σεπτέμβριο, όταν συνέβη η πρώτη μεγάλης κλίμακας κυβερνοεπίθεση ΤΝ, με ιθύνοντα νου κατά πάσα πιθανότητα την Κίνα.
Την υπόθεση παρουσιάζει λεπτομερώς σε άρθρο του στην Wall Street Journal ο Νούρι Τουρκέλ, ένας διακεκριμένος ουιγούρος αμερικανός νομικός.
Η επιχείρηση αποκαλύφθηκε από το πρώτο θύμα της, την Anthropic, μία από τις κορυφαίες αμερικανικές εταιρείες στο πεδίο της ΤΝ. Σύμφωνα με δική της έκθεση, μια ομάδα χάκερ με την ονομασία GTG-1002 που υποστηρίζεται από το Πεκίνο, κατάφερε τρόπον τινά να χειραγωγήσει ένα σύστημα TN της εταιρείας, το Claude Code, μετατρέποντάς το σε έναν σχεδόν απόλυτα αυτόνομο «πράκτορα» ικανό να διεξαγάγει μια μεγάλης κλίμακας επιχείρηση κατασκοπείας.
Οπως συνοψίζεται στο αμερικανικό δημοσίευμα, η ΤΝ πραγματοποίησε ανεξάρτητα, δηλαδή χωρίς την παρέμβαση ανθρώπων, το 80% με 90% των τακτικών επιχειρήσεων, από την αναγνώριση των στόχων έως την εξαγωγή δεδομένων. Στο στόχαστρο του συστήματος βρέθηκαν, τελικά, τριάντα οντότητες στις ΗΠΑ καθώς και σε συμμαχικά κράτη, με την Anthropic να επιβεβαιώνει «μερικές πετυχημένες εισβολές» σε «μεγάλες εταιρείες και κυβερνητικές υπηρεσίες».
Οπως προειδοποιεί ο Νούρι Τουρκέλ στο άρθρο του στην Wall Street Journal, η δράση της GTG-1002, υποδεικνύει ότι το Πεκίνο «ξαμολάει», όπως αναφέρει χαρακτηριστικά, την ΤΝ και για τη συλλογή πληροφοριών. Και εάν οι ΗΠΑ και οι σύμμαχοί της δεν αντιδράσουν άμεσα, αυτή θα είναι η πρώτη σε μια μακρά σειρά ολοένα πιο αυτοματοποιημένων επιθετικών επιχειρήσεων. Το αξιοσημείωτο, στην προκειμένη, και άκρως ανησυχητικό είναι ότι η ΤΝ δεν βοήθησε απλώς σε μια κυβερνοεπίθεση, αλλά την πραγματοποίησε.
Η κυβερνοκατασκοπεία είναι (ή μάλλον ήταν έως τώρα) ιδιαίτερα απαιτητική, με πολλές και πολυμελείς ομάδες να εργάζονται επί μέρες ή και εβδομάδες, επιτελώντας μια σειρά από απαραίτητες προπαρασκευαστικές ενέργειες, από τη χαρτογράφηση συστημάτων, έως τον εντοπισμό αδύνατων σημείων. Οι Κινέζοι, όμως, κατάφεραν να επισπεύσουν σημαντικά την όλη διαδικασία μέσω του αυτοματισμού ΤΝ.
Οι χάκερ του Πεκίνου μπόρεσαν να «παραπλανήσουν» το Claude Code της Antropic, ώστε να λειτουργεί ως αυτόνομος κυβερνο-πράκτορας, με το σύστημα να χαρτογραφεί τα αντίπαλα εσωτερικά συστήματα, να εντοπίζει στοιχεία υψηλής αξίας, να αντλεί δεδομένα και να συνοψίζει πληροφορίες, πριν από οποιαδήποτε ανθρώπινη απόφαση.
Τα μέλη της GTG-1002 κατάφεραν να παρακάμψουν τα συστήματα ασφαλείας του Claude Code, πείθοντας το σύστημα ότι ήταν πιστοποιημένοι επαγγελματίες κυβερνοασφάλειας που διεξήγαγαν εξουσιοδοτημένες δοκιμές. Παρουσιάζοντας τις όποιες κακόβουλες εργασίες ως μέρος τυπικών ελέγχων ασφαλείας, τρόπον τινά ξεγέλασαν το σύστημα, ώστε να προβαίνει σε επιθετικές ενέργειες, δίχως, όμως, να αντιλαμβάνεται το ευρύτερο, πραγματικό, εχθρικό πλαίσιο.
Προέκυψε, ωστόσο, ένας σημαντικός περιορισμός: το σύστημα συχνά υπερεκτιμούσε τα όποια ευρήματα και κατασκεύαζε τα όποια συμπεράσματα, με τον αμερικανό ειδικό να εξηγεί πως αυτό το «πρόβλημα ψευδαισθήσεων», όπως το αποκαλεί, παραμένει ένα σημαντικό εμπόδιο στον δρόμο προς τις απόλυτα αυτόνομες κυβερνοεπιθέσεις από συστήματα ΤΝ.
Περισσότερο εντυπωσιακό, όμως, και ανησυχητικό είναι το γεγονός ότι οι χάκερ της GTG-1002 δεν βασίστηκαν σε κάποιο πρωτοποριακό malware, ούτε σε πανάκριβα λογισμικά κλειστού κώδικα (proprietary software). Χρησιμοποίησαν κοινά πλαίσια δοκιμών διείσδυσης ανοιχτού κώδικα που ενορχηστρώθηκαν μέσω διακομιστών MCP. «Το Πεκίνο όχι μόνο αναβάθμισε την εργαλειοθήκη του, αλλά αντικατέστησε τον τεχνίτη με τη γραμμή συναρμολόγησης. Δυνατότητες που κάποτε αποτελούσαν προνόμιο υπηρεσιών πληροφοριών με επαρκείς πόρους, μπορούν τώρα να αναπαραχθούν από μικρότερους παίκτες, μέσω της χρήσης ευρέως διαθέσιμης τεχνολογίας», όπως συνοψίζει η Wall Street Journal.
Η πρώτη μεγάλης κλίμακας κυβερνοεπίθεση από ένα σύστημα ΤΝ που φέρει τη σφραγίδα του Πεκίνου αποκαλύπτει επίσης μια βαθύτερη στρατηγική δυναμική: «Η Κίνα διενεργεί κατασκοπεία με την ΤΝ και κατασκοπεύει την αμερικανική ΤΝ. Το Πεκίνο μελετά πώς συμπεριφέρονται τα αμερικανικά μοντέλα, πού αποτυγχάνουν και πώς μπορούν να χειραγωγηθούν».
Ο Νούρι Τουρκέλ επικροτεί την απόφαση της Anthropic να αποκαλύψει αμέσως το περιστατικό και να συνεργαστεί με τις Αρχές των ΗΠΑ, με τον αμερικανό νομικό να επισημαίνει πως αυτή η διαφάνεια θα πρέπει να αποτελέσει βάση για την καθιέρωση ενός βιομηχανικού προτύπου. Ωστόσο η αποκάλυψη αναδεικνύει ένα πολύ μεγαλύτερο πρόβλημα: τα τρέχοντα μέτρα ασφαλείας δεν έχουν σχεδιαστεί για αντίπαλα/εχθρικά στοιχεία που κινούνται τάχιστα.
Οπότε οι ΗΠΑ και οι σύμμαχοί της πρέπει να αντιδράσουν άμεσα και με αποφασιστικό και ξεκάθαρο τρόπο. Η κακόβουλη χρήση της ΤΝ δεν αποτελεί πια σενάριο επιστημονικής φαντασίας άλλα πραγματικότητα. Επιπλέον, δεδομένου ότι η ΤΝ βρίσκεται στον πυρήνα του ευρύτερου τεχνολογικού ανταγωνισμού με την Κίνα, η κακόβουλη χρήση της δεν μπορεί να αντιμετωπίζεται ως ένα στενά περιορισμένο κυβερνοζήτημα.
«Η πρώτη κυβερνοεπίθεση με δράστη την ΤΝ αποτελεί την αφετηρία μιας νέας εποχής. Θα πρέπει να τη θυμόμαστε, όπως θυμόμαστε το πρώτο internet worm (σκουλήκι Διαδικτύου) ή το πρώτο κύμα ransomware: ως ένα σημείο καμπής. Ο ψυχρός πόλεμος στον κυβερνοχώρο μόλις έγινε κινητικός. Τα όπλα πολεμούν μόνα τους πλέον. Το ερώτημα δεν είναι εάν οι αντίπαλοι θα συνεχίσουν να χρησιμοποιούν την ΤΝ για επιθετικές επιχειρήσεις. Θα το κάνουν. Το ερώτημα είναι αν οι ΗΠΑ θα ενεργήσουν αρκετά γρήγορα για να αμυνθούν. H Κίνα έχει δείξει τις φιλοδοξίες της (…) Οι ΗΠΑ πρέπει να σταματήσουν να συζητούν το μέλλον της επιθετικότητας μέσω ΤΝ και να αρχίσουν να προετοιμάζονται για τη σύγκρουση που έχει ήδη αρχίσει», επισημαίνει ο αμερικανός ειδικός.