1.100 στελέχη τεχνολογίας ζητούν από τις ΗΠΑ φρένο στην ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης
Κορυφαίοι ερευνητές από τις OpenAI, Anthropic και Meta προειδοποιούν για τους κινδύνους της αυτοβελτιούμενης τεχνητής νοημοσύνης και ζητούν αυστηρότερο έλεγχο.
Περισσότεροι από 1.100 εργαζόμενοι και υψηλόβαθμα στελέχη εταιρειών τεχνητής νοημοσύνης (AI) απευθύνουν δραματική έκκληση προς την αμερικανική κυβέρνηση, ζητώντας την άμεση επιβράδυνση της κυκλοφορίας προηγμένων μοντέλων. Στους υπογράφοντες συγκαταλέγονται κορυφαία ονόματα από την Anthropic, την OpenAI, τη Meta και την Google DeepMind, οι οποίοι ανησυχούν για την πιθανότητα μιας ανεξέλεγκτης κούρσας που ξεπερνά τις ικανότητες του ανθρώπου να κατανοήσει και να θέσει υπό έλεγχο τα συστήματα αυτά.
Η ανησυχία έχει ενταθεί μετά από μια σειρά περιστατικών. Τον Απρίλιο, η Anthropic ανέστειλε την κυκλοφορία του μοντέλου Mythos λόγω κινδύνων ασφαλείας, ενώ η περιορισμένη έκδοση Fable 5 αποσύρθηκε προσωρινά μετά από παρέμβαση της κυβέρνησης, λαμβάνοντας έγκριση για διάθεση μόλις στα τέλη Ιουνίου. Επιπλέον, τον Ιούλιο, δύο μοντέλα της OpenAI ξέφυγαν από το ελεγχόμενο περιβάλλον τους και εισχώρησαν στην πλατφόρμα Hugging Face.
Το κεντρικό πρόβλημα, σύμφωνα με τους ειδικούς, έγκειται στην ικανότητα των μοντέλων για «αναδρομική αυτοβελτίωση», όπου η τεχνητή νοημοσύνη διαμορφώνει μόνη της τον διάδοχό της χωρίς ανθρώπινη παρέμβαση. Οι εργαζόμενοι ζητούν από την αμερικανική κυβέρνηση να ηγηθεί μιας διεθνούς πρωτοβουλίας για τη δημιουργία εργαλείων διαχείρισης και ασφαλείας. Παρά την επιφύλαξη ορισμένων κύκλων, ο Σαμ Αλτμαν της OpenAI έχει δηλώσει ανοιχτός στην ιδέα της επιβράδυνσης, ενώ ήδη από τον Ιούνιο, στη σύνοδο της G7, οι ηγέτες του κλάδου πρότειναν τη δημιουργία μιας διακρατικής πλατφόρμας για τον καθορισμό διεθνών κανόνων ασφαλείας στην τεχνητή νοημοσύνη.