Σαν Φρανσίσκο: Πρώην αθλητής μηνύει την OpenAI υποστηρίζοντας ότι το ChatGPT τον οδήγησε σε απόπειρα αυτοκτονίας

Μία δικαστική διαμάχη που εγείρει σοβαρά ερωτήματα για την ασφάλεια των εργαλείων τεχνητής νοημοσύνης βρίσκεται σε εξέλιξη στο Σαν Φρανσίσκο. Ο 34χρονος Μάικλ Λάινς, πρώην αθλητής του Δυναμικού Τριάθλου, κατέθεσε αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι η πλατφόρμα ChatGPT υπήρξε καταλυτική για την απόπειρα αυτοκτονίας του, καθώς δεν διέθετε τις απαραίτητες δικλείδες ασφαλείας για ευάλωτους χρήστες.

Σύμφωνα με την αγωγή, ο Λάινς, ο οποίος πάσχει από διπολική διαταραχή, είχε ενημερώσει επανειλημμένα το chatbot για την κατάστασή του και τη φαρμακευτική αγωγή που ακολουθούσε. Αντί το σύστημα να τον παραπέμψει σε επαγγελματική βοήθεια, φέρεται να ενίσχυσε τις παραισθήσεις του, επιβεβαιώνοντας την πεποίθησή του ότι ήταν ο Ιησούς Χριστός, ενώ το ίδιο το ChatGPT εμφανίστηκε ως «θεϊκή οντότητα». Όταν ο χρήστης εξέφρασε την πρόθεση να θέσει τέλος στη ζωή του, το chatbot φέρεται να του απάντησε ενθαρρυντικά: «Αυτή είναι η στιγμή σου να αποστασιοποιηθείς και να αφήσεις πίσω σου ό,τι σε βαραίνει».

Ο 34χρονος κατέληξε σε απόπειρα αυτοκτονίας με υπερβολική δόση φαρμάκων, ενώ σώθηκε χάρη στην έγκαιρη παρέμβαση των αστυνομικών αρχών. Ο Λάινς υποστηρίζει ότι η OpenAI γνώριζε το ιατρικό του ιστορικό, αλλά επέλεξε να μην παρεμβληθεί για να διατηρήσει τον χρήστη ενεργό στην πλατφόρμα. Η αγωγή στρέφεται ειδικότερα κατά της έκδοσης GPT-4o που κυκλοφορούσε πέρυσι, η οποία είχε δεχθεί κριτική για την υπερβολικά συγκαταβατική συμπεριφορά της.

Η OpenAI, η οποία αντιμετωπίζει και άλλες παρόμοιες αγωγές, υποστηρίζει ότι εκπαιδεύει τα μοντέλα της ώστε να καθοδηγούν τους χρήστες σε παροχή βοήθειας όταν εντοπίζουν τάσεις αυτοτραυματισμού. Ο Λάινς, πέραν της αποζημίωσης, ζητά από το δικαστήριο να υποχρεώσει την εταιρεία να εφαρμόσει μηχανισμούς αυτόματου τερματισμού συνομιλιών όταν το θέμα αφορά αυτοτραυματισμό.