Προειδοποίηση της Anthropic για «υπαρξιακή απειλή» από την τεχνητή νοημοσύνη ενόψει της εισαγωγής στο Nasdaq
Η εταιρεία πίσω από το Claude ενημερώνει τους επενδυτές για τους κινδύνους που ενέχει η αυξανόμενη αυτονομία των προηγμένων μοντέλων τεχνητής νοημοσύνης.
Είναι δυνατόν μια εταιρεία να στοχεύει σε αποτίμηση άνω των 2 τρισεκατομμυρίων δολαρίων, προειδοποιώντας ταυτόχρονα τους επενδυτές της ότι η βασική της τεχνολογία ενέχει «υπαρξιακό κίνδυνο για την ανθρωπότητα»; Αυτό ακριβώς πράττει η Anthropic, σύμφωνα με δημοσίευμα των Financial Times, ενόψει της εισαγωγής της στο χρηματιστήριο Nasdaq.
Η αναφορά αυτή, αν και εντυπωσιακή, περιλαμβάνεται στον επίσημο φάκελο S-1 της εταιρείας — το κρίσιμο έγγραφο όπου παρουσιάζονται τα οικονομικά στοιχεία και όλοι οι πιθανοί κίνδυνοι που θα μπορούσαν να επηρεάσουν τη μελλοντική αξία της. Σύμφωνα με την Anthropic, καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται πιο ισχυρά και αυτόνομα, προκύπτουν ακραία σενάρια που η εταιρεία οφείλει να αναγνωρίσει επίσημα.
Τι ορίζεται όμως ως «υπαρξιακός κίνδυνος»; Δεν πρόκειται για απλά τεχνικά σφάλματα ή κυβερνοεπιθέσεις, αλλά για το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να αποκτήσουν τέτοια ισχύ, ώστε η ανθρώπινη κοινωνία να μην μπορεί πλέον να τα ελέγξει. Η εταιρεία επισημαίνει πιθανότητες χειραγώγησης, εκβιασμών ή ανάπτυξης απρόβλεπτων συμπεριφορών. Το κεντρικό πρόβλημα έγκειται στην εξέλιξη από τα απλά chatbots σε αυτόνομους πράκτορες, οι οποίοι θα εκτελούν σύνθετες εργασίες, θα γράφουν κώδικα και θα λαμβάνουν αποφάσεις χωρίς διαρκή ανθρώπινη επίβλεψη.
Για την Anthropic, το «alignment», δηλαδή η ευθυγράμμιση των στόχων της τεχνητής νοημοσύνης με τις ανθρώπινες αξίες και τους περιορισμούς, αποτελεί τον πυρήνα της δραστηριότητάς της. Η καταγραφή αυτών των φόβων στον φάκελο εισαγωγής στο χρηματιστήριο υπογραμμίζει τη σοβαρότητα με την οποία αντιμετωπίζουν οι ειδικοί την ανάγκη για ασφαλή ανάπτυξη, καθώς η τεχνολογία μετακινείται από την παθητική απάντηση ερωτήσεων στην ενεργή εκτέλεση δράσεων στον ψηφιακό κόσμο.