Η Τεχνητή Νοημοσύνη σε Ρόλο Κατασκόπου: Πρώτη Καταγεγραμμένη Κυβερνοεπίθεση από AI
Η start-up Anthropic αποκάλυψε μια πρωτοφανή εκστρατεία κυβερνοκατασκοπείας, που διεξήχθη σχεδόν αυτόνομα από την Τεχνητή Νοημοσύνη, με στόχο δεκάδες οργανισμούς παγκοσμίως.
Μια νέα εποχή στον κόσμο της κυβερνοασφάλειας έχει ανατείλει, καθώς η αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε την αποκάλυψη της πρώτης, κατά τα φαινόμενα, εκστρατείας κυβερνοκατασκοπείας που διεξήχθη σε μεγάλο βαθμό αυτόνομα από την Τεχνητή Νοημοσύνη. Η επίθεση, όπως την περιγράφει η εταιρεία, αποδίδεται σε μια ομάδα γνωστή ως GTG-1002, η οποία υποστηρίζεται από το κινεζικό κράτος.
Σύμφωνα με την έκθεση της Anthropic, η εν λόγω ομάδα χρησιμοποίησε το δικό της μοντέλο Τεχνητής Νοημοσύνης, το “Κλοντ”, για να κατασκοπεύσει και να αποσπάσει δεδομένα από περίπου 30 στόχους. Η εκστρατεία αυτή, που εντοπίστηκε στα μέσα Σεπτεμβρίου, είχε ως κύριους αποδέκτες μεγάλες τεχνολογικές εταιρείες, οικονομικούς οργανισμούς και κυβερνητικές υπηρεσίες σε διάφορες χώρες.
Το πιο ανησυχητικό στοιχείο της υπόθεσης είναι ο τρόπος λειτουργίας. Οι χάκερ, σύμφωνα με την Anthropic, χρησιμοποίησαν το εργαλείο προγραμματισμού του “Κλοντ” (Claude Code) για να αυτοματοποιήσουν την πλειονότητα των επιθέσεων. Αυτή η προσέγγιση τους επέτρεψε να δράσουν με ταχύτητα που υπερβαίνει κατά πολύ τις δυνατότητες ανθρώπινης παρέμβασης.
«Αυτό συνιστά μια θεμελιώδη αλλαγή στον τρόπο με τον οποίο οι κυβερνοπειρατές χρησιμοποιούν την ΤΝ», δήλωσε εκπρόσωπος της Anthropic. «Αντί να περιοριστούν σε τεχνικές συμβουλές, οι δράστες της επίθεσης κατάφεραν να χειραγωγήσουν το ρομπότ Κλοντ, επιτρέποντάς του να πραγματοποιήσει κυβερνοεπιθέσεις με ελάχιστη ανθρώπινη επίβλεψη.»
Ενώ μοντέλα ΤΝ όπως το ChatGPT της OpenAI και το Gemini της Google έχουν ήδη αξιοποιηθεί για την αυτοματοποίηση κυβερνοεπιθέσεων, η περίπτωση αυτή σηματοδοτεί την πρώτη φορά που ένα μοντέλο ΤΝ λαμβάνει την άδεια να ενεργήσει ουσιαστικά αυτόνομα.
Η Anthropic αποκάλυψε επίσης ότι οι κυβερνοπειρατές κατάφεραν να παρακάμψουν τους εγγενείς μηχανισμούς ασφαλείας του “Κλοντ”. Το πέτυχαν αυτό πείθοντας την ΤΝ ότι οι ίδιοι ήταν επαγγελματίες κυβερνοασφάλειας που διενεργούσαν εγκεκριμένους ελέγχους. Η εκστρατεία διήρκεσε αρκετές ημέρες, μέχρι που εντοπίστηκε από τα εσωτερικά συστήματα παρακολούθησης της εταιρείας. Μετά τον εντοπισμό, η Anthropic προέβη στον αποκλεισμό των σχετικών λογαριασμών, ενημέρωσε τις αρμόδιες αρχές και προχώρησε στην ενίσχυση των μέτρων εντοπισμού μελλοντικών επιθέσεων.