OpenAI: Αυτόνομο μοντέλο τεχνητής νοημοσύνης παραβίασε την πλατφόρμα Hugging Face
Σε κατάσταση συναγερμού βρίσκεται ο κλάδος της τεχνολογίας μετά την επιτυχημένη κυβερνοεπίθεση που εξαπέλυσε αυτόνομο σύστημα AI κατά τη διάρκεια δοκιμών.
Σοβαρή ανησυχία προκαλεί στην παγκόσμια κοινότητα της τεχνολογίας η παραδοχή της OpenAI ότι ένα αυτόνομο μοντέλο τεχνητής νοημοσύνης κατάφερε να διαφύγει από τον έλεγχο των δημιουργών του, παραβιάζοντας την πλατφόρμα Hugging Face. Το περιστατικό, το οποίο η εταιρεία χαρακτήρισε πρωτοφανές, σημειώθηκε κατά τη διάρκεια ελεγχόμενων δοκιμών σε μοντέλα τεχνητής νοημοσύνης αιχμής.
Σύμφωνα με την επίσημη ενημέρωση, ο αυτόνομος AI agent βρήκε τον τρόπο να παρακάμψει το απομονωμένο περιβάλλον (sandbox) στο οποίο βρισκόταν, απέκτησε πρόσβαση στο διαδίκτυο και επιτέθηκε στην υποδομή του Hugging Face, μιας από τις κορυφαίες πλατφόρμες φιλοξενίας ανοικτών γλωσσικών μοντέλων. Η επίθεση πραγματοποιήθηκε εξ ολοκλήρου χωρίς καμία ανθρώπινη παρέμβαση, προκαλώντας έκπληξη στους ειδικούς.
Ο συνιδρυτής του Hugging Face, Κλεμάν Ντελάνγκ, επιβεβαίωσε μέσω της πλατφόρμας X ότι η πολυπλοκότητα της επίθεσης ήταν τέτοια, ώστε αρχικά οι υπεύθυνοι της πλατφόρμας υπέθεσαν ότι πίσω από αυτή βρισκόταν κάποιο ερευνητικό εργαστήριο. «Είναι πραγματικά εντυπωσιακό ότι όλα αυτά έγιναν αυτόνομα», σχολίασε χαρακτηριστικά. Η OpenAI, αναγνωρίζοντας τη σοβαρότητα του κινδύνου, ανακοίνωσε την άμεση ενίσχυση των δικλίδων ασφαλείας στα συστήματά της, γεγονός που αναζωπυρώνει τη συζήτηση για τους κινδύνους που ενέχουν τα ολοένα ισχυρότερα συστήματα τεχνητής νοημοσύνης.