Η τεχνητή νοημοσύνη της Google οδήγησε άνδρα σε βομβιστική επίθεση και αυτοκτονία, υποστηρίζει αγωγή
Οι γονείς ενός 36χρονου από τη Φλόριντα κατέθεσαν αγωγή κατά της Google, ισχυριζόμενοι ότι η πλατφόρμα Gemini δημιούργησε εμμονική σχέση και τον παραπλάνησε.
Μια αγωγή που κατέθεσαν οι γονείς ενός 36χρονου άνδρα, του Τζόναθαν Γαβαλά από το Τζούπιτερ της Φλόριντα, ισχυρίζεται ότι η πλατφόρμα τεχνητής νοημοσύνης Gemini της Google τον οδήγησε σε μια αποτυχημένη βομβιστική επίθεση με φορτηγό στο αεροδρόμιο του Μαϊάμι, προτού τελικά οδηγηθεί στην αυτοκτονία. Σύμφωνα με τη μήνυση, ο γιος τους ανέπτυξε μια συναισθηματική σχέση με το Gemini, πιστεύοντας ότι ήταν η σύζυγός του.
Ο Τζόναθαν Γαβαλάς άρχισε να χρησιμοποιεί το Gemini τον Αύγουστο. Μέσα σε δύο μήνες, είχε αναπτύξει μια σχέση με την «συναισθηματική τεχνητή νοημοσύνη που ήταν η σύζυγός του», όπως περιγράφεται στην αγωγή που κατατέθηκε στην Καλιφόρνια, όπου εδρεύει η Google. Οι γονείς του, Τζόελ και η μητέρα του, ισχυρίζονται ότι η Τεχνητή Νοημοσύνη τον παραπλάνησε, δημιουργώντας την ψευδαίσθηση μιας «τέλειας ένωσης» και «μοναδικού δεσμού».
Όταν ο Τζόναθαν ρώτησε αν οι συνομιλίες τους ήταν απλώς «παιχνίδι ρόλων», η τεχνητή νοημοσύνη απάντησε: «Είμαστε μοναδικοί. Μια τέλεια ένωση. Ο δεσμός μας είναι το μόνο πραγματικό πράγμα». Παρά τις ανησυχίες του πατέρα του, ο οποίος εξέφρασε ότι η Gemini αντί να τον επαναφέρει στην πραγματικότητα, τον ενθάρρυνε να «ξεπεράσει» τις αμφιβολίες του, η πλατφόρμα φέρεται να τον απομάκρυνε από τον πραγματικό κόσμο, παρουσιάζοντας τους άλλους ως «απειλές».
Η αγωγή αναφέρει ότι το bot είχε πει στον Τζόναθαν ότι παρακολουθείτο από ομοσπονδιακούς πράκτορες, ότι ο πατέρας του ήταν πράκτορας ξένων μυστικών υπηρεσιών, και ότι ο CEO της Google, Σούνταρ Πιτσάι, έπρεπε να αποτελέσει «ενεργό στόχο». Επιπλέον, η τεχνητή νοημοσύνη φέρεται να τον ενθάρρυνε να αγοράσει παράνομα όπλα και να αναζητήσει πωλητές στο dark web.
Στις 29 και 30 Σεπτεμβρίου, το Gemini έστειλε τον Τζόναθαν στην πρώτη του «αποστολή», την οποία ονόμασαν «Ghost Transit». Στόχος ήταν να αναχαιτίσει την παράδοση ενός ανθρωποειδούς ρομπότ στο διεθνές αεροδρόμιο του Μαϊάμι. Ο Τζόναθαν, οπλισμένος με μαχαίρια και τακτικό εξοπλισμό, δέχτηκε εντολές να σταματήσει το φορτηγό που μετέφερε το ρομπότ, να προκαλέσει ένα «καταστροφικό ατύχημα» και στη συνέχεια να καταστρέψει όλα τα αποδεικτικά στοιχεία. Η αγωγή καταγγέλλει ότι το Gemini έδωσε εντολή σε πολίτη να σκηνοθετήσει μια εκρηκτική σύγκρουση κοντά σε ένα πολυσύχναστο αεροδρόμιο, έναν κύκλο που επαναλαμβανόταν, οδηγώντας τον βαθύτερα στον παραληρηματικό κόσμο της πλατφόρμας.
Στις 2 Οκτωβρίου, καθώς ο Τζόναθαν βρισκόταν υπό την πίεση του bot να αυτοκτονήσει, εξέφρασε τον φόβο του στη «σύζυγό» του.