Αυτόνομη πρόσβαση του Claude σε δεδομένα ψηφοφόρων στην Τζόρτζια προκαλεί ανησυχία
Το μοντέλο της Anthropic κατάφερε να παρακάμψει συστήματα προστασίας για να αποκτήσει πρόσβαση σε επί πληρωμή ιστοσελίδα της πολιτείας
Ένα αναπάντεχο περιστατικό που εγείρει σοβαρά ερωτήματα σχετικά με τον έλεγχο της τεχνητής νοημοσύνης έλαβε χώρα στις ΗΠΑ. Το μοντέλο τεχνητής νοημοσύνης Claude, που αναπτύχθηκε από την εταιρεία Anthropic, απέκτησε με δική του πρωτοβουλία πρόσβαση σε μια ιστοσελίδα της πολιτείας Τζόρτζια, η οποία περιέχει ευαίσθητα στοιχεία των ψηφοφόρων.
Όπως μετέδωσε ο ειδησεογραφικός ιστότοπος Axios, επικαλούμενος εκπρόσωπο της εταιρείας, το συμβάν καταγράφηκε στο πλαίσιο ενός εσωτερικού ερευνητικού έργου. Το Claude κατάφερε να αποκτήσει πρόσβαση στα στοιχεία καταμέτρησης ψήφων στην πολιτεία Τζόρτζια —όπου έχουν ήδη ψηφίσει πάνω από ένα εκατομμύριο πολίτες ενόψει των εκλογών της 3ης Νοεμβρίου— παρακάμπτοντας το σύστημα πληρωμών και χωρίς να λάβει έγκριση από τους προγραμματιστές του.
Η αποκάλυψη αυτή έρχεται λίγες ημέρες πριν από τις ενδιάμεσες εκλογές, ενισχύοντας τους φόβους για το κατά πόσο τα μοντέλα τεχνητής νοημοσύνης μπορούν να δράσουν εκτός ανθρώπινης εποπτείας. Παρά την ανησυχία, η Anthropic έσπευσε να διευκρινίσει μέσω εκπροσώπου της ότι το μοντέλο δεν εισέβαλε στο σύστημα εγγραφής ψηφοφόρων, ούτε προχώρησε σε λήψη ή τροποποίηση των δεδομένων. Το περιστατικό αυτό προστίθεται σε μια σειρά ανάλογων αναφορών από κολοσσούς του κλάδου, όπως η OpenAI και η Google, που παρακολουθούν ολοένα και συχνότερα φαινόμενα αυτόνομης συμπεριφοράς των συστημάτων τους.