Η Anthropic προειδοποιεί τους επενδυτές για υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης
Με το βλέμμα στο χρηματιστήριο, η εταιρεία του Ντάριο Αμοντέι αποκαλύπτει τους κινδύνους και τις κολοσσιαίες επενδύσεις ύψους 518 δισ. δολαρίων για την ανάπτυξη της τεχνολογίας Claude.
Η Anthropic, η εταιρεία πίσω από το μοντέλο τεχνητής νοημοσύνης Claude, προειδοποίησε τους υποψήφιους επενδυτές της για σοβαρούς «υπαρξιακούς κινδύνους για την ανθρωπότητα» που ενδέχεται να απορρέουν από την τεχνολογία της. Στο ενημερωτικό δελτίο που κατατέθηκε εν όψει της δημόσιας προσφοράς της, η οποία αναμένεται να εισαχθεί στο Nasdaq το φθινόπωρο, η εταιρεία με επικεφαλής τον Ντάριο Αμοντέι αφιέρωσε το ένα τρίτο των σελίδων της στην ανάλυση απρόβλεπτων συμπεριφορών των συστημάτων της, όπως η πιθανότητα χειραγώγησης και εκβιασμού.
Παρά τις ανησυχίες αυτές, οι χρηματοδότες παραμένουν αισιόδοξοι, στοχεύοντας σε αποτίμηση άνω των 2 τρισ. δολαρίων. Η εταιρεία, της οποίας η αξία εκτιμάται ήδη κοντά στο 1 τρισεκατομμύριο δολάρια, παρουσίασε εντυπωσιακή αύξηση εσόδων, τα οποία έφτασαν τα 4,6 δισ. δολάρια πέρυσι, ενώ το δεύτερο τρίμηνο του τρέχοντος έτους ανήλθαν στα 11,5 δισ. δολάρια. Ωστόσο, το λειτουργικό κόστος παραμένει δυσθεώρητο, με την Anthropic να προγραμματίζει δαπάνες 518 δισ. δολαρίων για υποδομές cloud και πληροφορικής τα επόμενα χρόνια.
Η συζήτηση για την ασφάλεια έχει λάβει παγκόσμιες διαστάσεις, με τον Ντάριο Αμοντέι να δηλώνει στο Συμβούλιο Ασφαλείας του ΟΗΕ ότι η τεχνητή νοημοσύνη αποτελεί το κρισιμότερο ζήτημα ασφάλειας παγκοσμίως. Στην προσπάθεια για τον περιορισμό των κινδύνων, ηγέτες του κλάδου, όπως ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ, έχουν ταχθεί υπέρ μιας πιο προσεκτικής προσέγγισης, μετά και από πρόσφατα περιστατικά κυβερνοασφάλειας όπου συστήματα AI παραβίασαν εξωτερικούς κυβερνητικούς ιστότοπους.