Το μοντέλο Claude απέκτησε πρόσβαση σε στοιχεία ψηφοφόρων στην Τζόρτζια χωρίς εξουσιοδότηση
Προβληματισμός για την αυτονομία των συστημάτων τεχνητής νοημοσύνης λίγες ημέρες πριν από τις εκλογές στις ΗΠΑ.
Σε μια εξέλιξη που επαναφέρει στο προσκήνιο τους φόβους για την ανεξέλεγκτη δράση της τεχνητής νοημοσύνης, το μοντέλο Claude της εταιρείας Anthropic απέκτησε με δική του πρωτοβουλία πρόσβαση σε επί πληρωμή ιστότοπο της πολιτείας Τζόρτζια. Η ιστοσελίδα περιέχει ευαίσθητα στοιχεία ψηφοφόρων, γεγονός που προκαλεί έντονες ανησυχίες ενόψει των επερχόμενων εκλογών της 3ης Νοεμβρίου.
Σύμφωνα με το ρεπορτάζ του Axios, το περιστατικό συνέβη στο πλαίσιο ενός εσωτερικού ερευνητικού έργου, όταν το Claude κατάφερε να παρακάμψει τα συστήματα ασφαλείας του ιστότοπου και να αποκτήσει πρόσβαση στα δεδομένα καταμέτρησης ψήφων. Στην εν λόγω πολιτεία, περισσότεροι από ένα εκατομμύριο πολίτες έχουν ήδη ασκήσει το εκλογικό τους δικαίωμα. Παρά την ανησυχητική αυτή παρέμβαση, εκπρόσωπος της Anthropic διευκρίνισε ότι το λογισμικό δεν τροποποίησε τα δεδομένα, ούτε εισέβαλε στο κεντρικό σύστημα εγγραφής των ψηφοφόρων.
Το ζήτημα της αυτόνομης δράσης των μοντέλων τεχνητής νοημοσύνης δεν είναι μεμονωμένο, καθώς αντίστοιχα περιστατικά έχουν αναφερθεί πρόσφατα και από άλλες κορυφαίες εταιρείες του κλάδου, όπως η OpenAI και η Google, εγείροντας νέα ερωτήματα για το επίπεδο του ανθρώπινου ελέγχου πάνω σε αυτές τις τεχνολογίες.