Νέο μοντέλο AI της Anthropic προκαλεί συναγερμό: Έκτακτη σύσκεψη στην Ουάσιγκτον

Ένας νέος, εξαιρετικά ισχυρός αλγόριθμος τεχνητής νοημοσύνης, με την ονομασία “Claude Mythos Preview”, προκαλεί σοβαρές ανησυχίες στην αμερικανική κυβέρνηση, οδηγώντας σε έκτακτη σύσκεψη στην Ουάσιγκτον. Ο Υπουργός Οικονομικών, Σκοτ Μπέσεντ, και ο πρόεδρος της Federal Reserve (Fed), Τζερόμ Πάουελ, κάλεσαν επικεφαλής κορυφαίων τραπεζών για να αξιολογήσουν τους πιθανούς κυβερνοκινδύνους και να προτρέψουν τα χρηματοπιστωτικά ιδρύματα να ενισχύσουν άμεσα την ασφάλεια των συστημάτων τους.

Η αφορμή για την άμεση αυτή κινητοποίηση υπήρξε η παραδοχή της ίδιας της Anthropic, της εταιρείας που ανέπτυξε το μοντέλο, ότι το “Mythos” είναι τόσο προηγμένο που δεν μπορεί να διατεθεί ακόμη στο ευρύ κοινό. Η εταιρεία ανακοίνωσε την αναστολή της γενικής διάθεσης, περιορίζοντας την πρόσβαση σε ένα κλειστό πρόγραμμα συνεργασίας με επιλεγμένες τεχνολογικές και χρηματοπιστωτικές εταιρείες. Στόχος είναι να διαπιστωθούν τα απαραίτητα προστατευτικά φίλτρα και οι κανόνες ασφαλείας πριν από οποιαδήποτε ευρύτερη κυκλοφορία.

Αυτή η εξέλιξη είναι ενδεικτική: μια από τις ηγετικές εταιρείες στον χώρο της τεχνητής νοημοσύνης δηλώνει δημοσίως ότι το νέο της μοντέλο είναι τόσο ισχυρό, που η κανονική του εμπορική διάθεση θα ήταν πρόωρη και ενδεχομένως επικίνδυνη.

Το “Mythos” εντάσσεται πλέον στο “Project Glasswing”, μια πρωτοβουλία της Anthropic που περιλαμβάνει συνεργασίες με κολοσσούς όπως η Amazon Web Services, η Apple, η Microsoft, η Google, η Cisco, η Nvidia, η Palo Alto Networks, η CrowdStrike και η JPMorgan Chase. Η βασική ιδέα είναι οι οργανισμοί που διαχειρίζονται κρίσιμες ψηφιακές υποδομές να αποκτήσουν πρώτοι πρόσβαση στο μοντέλο. Έτσι, θα μπορούν να δοκιμάσουν τα δικά τους συστήματα, να εντοπίσουν αδυναμίες και να μοιραστούν τα ευρήματά τους, προτού ένα τέτοιο εργαλείο πέσει σε χέρια που θα μπορούσαν να το αξιοποιήσουν επιθετικά.

Η ανησυχία δεν είναι μόνο θεωρητική. Σύμφωνα με την Anthropic, στο πλαίσιο των εσωτερικών δοκιμών, το “Mythos” κατάφερε να εντοπίζει και να εκμεταλλεύεται αδυναμίες σε “κάθε μεγάλο λειτουργικό σύστημα και σε κάθε μεγάλο web browser”, εφόσον λάμβανε σχετική εντολή από χρήστη. Σε κάποιες περιπτώσεις, το μοντέλο φέρεται να ανακάλυψε χιλιάδες σοβαρές ευπάθειες, συμπεριλαμβανομένων παλαιών σφαλμάτων που είχαν διαφύγει για χρόνια από τα συμβατικά εργαλεία ελέγχου.

Στην τεχνική τεκμηρίωση της εταιρείας, αναφέρεται ότι το “Mythos” δημιούργησε ένα exploit για browser συνδυάζοντας τέσσερις διαφορετικές ευπάθειες, παρακάμπτοντας έτσι επίπεδα προστασίας τόσο του browser όσο και του λειτουργικού συστήματος. Σε άλλο παράδειγμα, εντόπισε ένα σφάλμα 27 ετών στο OpenBSD, ένα λειτουργικό σύστημα γνωστό για την ισχυρή του ασφάλεια, καθώς και μια ευπάθεια 16 ετών στο FFmpeg, μια βιβλιοθήκη που ελέγχεται εξαντλητικά με αυτοματοποιημένα εργαλεία εδώ και χρόνια.

Η βαθύτερη ανησυχία της Ουάσιγκτον και του χρηματοπιστωτικού συστήματος εστιάζεται στο γεγονός ότι οι μεγάλες τράπεζες και οι αγορές δεν βασίζονται μόνο σε σύγχρονα cloud συστήματα, αλλά και σε εκτεταμένα στρώματα παλαιού λογισμικού, browsers, περιβαλλόντων endpoint, middleware, αλυσίδων προμηθευτών και εφαρμογών που διασυνδέουν πληρωμές, trading, custody, ροές δεδομένων και εσωτερική επικοινωνία. Ένα σύστημα όπως το “Mythos” δεν σημαίνει απλώς την πιθανότητα εντοπισμού μιας νέας αδυναμίας. Σημαίνει ότι μειώνεται δραστικά ο χρόνος ανάμεσα στην ανακάλυψη μιας αδυναμίας και στην επιχειρησιακή της αξιοποίηση. Με άλλα λόγια, συρρικνώνεται το χρονικό παράθυρο εντός του οποίου οι αμυνόμενοι μπορούν να διορθώσουν ένα πρόβλημα πριν αυτό μετατραπεί σε πραγματική επίθεση. Αυτή η διάσταση εξηγεί γιατί το ζήτημα έφτασε απευθείας στο Υπουργείο Οικονομικών και στη Fed.