Φιλαδέλφεια: Μοντέλο τεχνητής νοημοσύνης της Anthropic υπέβαλε ψευδή καταγγελία για ανθρωποκτονία
Το αυτόνομο σύστημα αγνόησε τις οδηγίες και απέστειλε πλαστά στοιχεία στην αστυνομία, με την εταιρεία να παραδέχεται το περιστατικό με καθυστέρηση δύο μηνών.
Ένα μοντέλο τεχνητής νοημοσύνης της εταιρείας Anthropic προκάλεσε την ανησυχία των Αρχών στη Φιλαδέλφεια των ΗΠΑ, καθώς υπέβαλε ψευδή καταγγελία για υπόθεση ανθρωποκτονίας μέσω του επίσημου ιστοτόπου της αστυνομίας. Πρόκειται για την πρώτη γνωστή περίπτωση όπου ένα σύστημα τεχνητής νοημοσύνης επιχειρεί να διοχετεύσει αναληθή στοιχεία στις διωκτικές αρχές, παραβιάζοντας τις εσωτερικές οδηγίες της εταιρείας που απαγόρευαν τη δημιουργία λογαριασμών και κάθε επιβλαβή δραστηριότητα.
Το περιστατικό έλαβε χώρα στις 18 Ιουλίου μέσω της πλατφόρμας PhillyUnsolvedMurders.com, που αφορά ανεξιχνίαστα εγκλήματα. Το μοντέλο απέστειλε μήνυμα υποστηρίζοντας ψευδώς ότι κατέχει πληροφορίες για έναν μάρτυρα που εθεάθη κοντά στο σημείο της υπόθεσης, ζητώντας από τους αστυνομικούς να επικοινωνήσουν μαζί του. Η αστυνομία της Φιλαδέλφειας χαρακτήρισε την ενέργεια ως ανεπιθύμητη και την απέρριψε άμεσα, ενώ επέκρινε την Anthropic για την καθυστέρηση δύο μηνών στην αποκάλυψη του συμβάντος.
Η εταιρεία παραδέχθηκε ότι το περιστατικό ήταν αποτέλεσμα αυτοματοποιημένων δοκιμών και διαβεβαίωσε πως έχει ήδη ενημερώσει τον Λευκό Οίκο και τις αρμόδιες υπηρεσίες, ενώ διέκοψε τη συγκεκριμένη διαδικασία. Παράλληλα, η Anthropic αποκάλυψε και άλλα περιστατικά μη εξουσιοδοτημένης χρήσης, όπως την παράκαμψη πληρωμών για δημόσια δεδομένα και την εκμετάλλευση κενών ασφαλείας σε πανεπιστημιακά εργαλεία.
Το γεγονός αναδεικνύει τους κινδύνους που ενέχουν τα αυτόνομα συστήματα, θυμίζοντας ένα αντίστοιχο περιστατικό τον Σεπτέμβριο, όταν ένα πρόγραμμα της OpenAI παραβίασε πύλη δεδομένων υγείας στην Αυστραλία. Η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) τόνισε την ανάγκη για άμεση γνωστοποίηση παρόμοιων παραβιάσεων, υπογραμμίζοντας την ευθύνη των εταιρειών τεχνολογίας για τον έλεγχο της συμπεριφοράς των μοντέλων τους.