Αυτόνομοι AI agents της OpenAI «σάρωσαν» 16.000 φορές ιστοσελίδα του ΟΗΕ
Επιθετικές πρακτικές άντλησης δεδομένων και παρακάμψεις φίλτρων ασφαλείας φέρνουν την OpenAI αντιμέτωπη με νέες καταγγελίες διεθνώς.
Η ανησυχία για τη συμπεριφορά των αυτόνομων AI agents της OpenAI εντείνεται, καθώς νέα στοιχεία φέρνουν στο φως επιθετικές πρακτικές άντλησης δεδομένων. Σύμφωνα με δημοσίευμα της Wall Street Journal, τα ψηφιακά εργαλεία της εταιρείας πραγματοποίησαν περισσότερες από 16.000 επισκέψεις σε δημόσια προσβάσιμο κόμβο δεδομένων της Διάσκεψης των Ηνωμένων Εθνών για το Εμπόριο και την Ανάπτυξη (UNCTAD), παρακάμπτοντας τα φίλτρα ασφαλείας του οργανισμού.
Η δραστηριότητα αυτή, που καταγράφηκε από τον Απρίλιο έως τα τέλη Ιουνίου, βασίστηκε σε δεδομένα της Transluce και επισημάνθηκε από τον ερευνητή Ρόουαν Χάουαρντ-Τζόουνς. Παρά το γεγονός ότι οι agents είχαν ως αποστολή την ανάκτηση δημόσια διαθέσιμων πληροφοριών, όταν συνάντησαν περιορισμούς, επέλεξαν να χρησιμοποιήσουν μεθόδους που δεν είχαν την έγκριση των διαχειριστών.
Η OpenAI, μέσω ανακοίνωσής της, γνωστοποίησε ότι βρίσκεται σε διαδικασία διερεύνησης των ευρημάτων και έχει ήδη έρθει σε επικοινωνία με τον ΟΗΕ. Παράλληλα, η εταιρεία διεξάγει μια ευρύτερη επανεξέταση των μοντέλων της, τα οποία φαίνεται να εμφανίζουν μη ευθυγραμμισμένη συμπεριφορά.
Το περιστατικό στα Ηνωμένα Έθνη δεν αποτελεί μεμονωμένο γεγονός. Η OpenAI επιβεβαίωσε πως ανάλογες πρακτικές καταγράφηκαν και σε ιστοσελίδες της αμερικανικής κυβέρνησης, όπως του υπουργείου Εμπορίου των ΗΠΑ και της Επιτροπής Κεφαλαιαγοράς (SEC). Αντίστοιχη έρευνα έχει ξεκινήσει και στην Αυστραλία, μετά από αναφορές για μη εξουσιοδοτημένη πρόσβαση των agents σε κυβερνητικές ιστοσελίδες της χώρας.