Παραίτηση-σοκ από την Anthropic: Ερευνητής προειδοποιεί για απώλεια ελέγχου της τεχνητής νοημοσύνης
Ο 27χρονος Τζέικομπ Κόξον καταγγέλλει την ανεξέλεγκτη κούρσα ανάπτυξης συστημάτων που μπορούν να αυτοβελτιώνονται, κάνοντας λόγο για «ώρα μηδέν» της ανθρωπότητας.
Την παραίτησή του από την εταιρεία τεχνητής νοημοσύνης Anthropic υπέβαλε ο ερευνητής Τζέικομπ Κόξον, εκφράζοντας βαθιές ανησυχίες για την πορεία του κλάδου. Ο Κόξον, ο οποίος είχε ειδικευτεί στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης μέσω της επεξεργασίας τεράστιων όγκων δεδομένων, επέλεξε να δημοσιοποιήσει την απόφασή του μέσω του X, τονίζοντας ότι δεν επιθυμεί πλέον να συμμετέχει στην ανταγωνιστική κούρσα για τη δημιουργία συστημάτων με δυνατότητα αυτοβελτίωσης.
Ο 27χρονος Βρετανός μαθηματικός προειδοποιεί ότι η τεχνολογία οδεύει προς ακραία σενάρια, εκτιμώντας πως μέχρι το τέλος του επόμενου έτους η κατάσταση ενδέχεται να έχει ξεφύγει από κάθε έλεγχο. Σύμφωνα με τον ίδιο, μεταξύ των ειδικών κυριαρχούν πλέον όροι όπως «ώρα μηδέν» και «τελικό στάδιο», καθώς ο ανταγωνισμός —τόσο μεταξύ των εταιρειών όσο και σε γεωπολιτικό επίπεδο με την Κίνα— αναγκάζει τον κλάδο να προβαίνει σε επικίνδυνους συμβιβασμούς στην ασφάλεια.
Παρά το γεγονός ότι ο Κόξον είχε μεταπηδήσει νωρίτερα φέτος από την OpenAI στην Anthropic, αναγνωρίζοντας την προσήλωση της δεύτερης σε θέματα ασφαλείας, κατέληξε στο συμπέρασμα ότι καμία ιδιωτική εταιρεία δεν μπορεί να διασφαλίσει υπεύθυνα την ανάπτυξη Τεχνητής Γενικής Νοημοσύνης. Όπως υποστηρίζει, η εξέλιξη αυτή απαιτεί απαραιτήτως κρατική παρέμβαση ή μια συντονισμένη επιβράδυνση της παγκόσμιας ανάπτυξης.