Επιστήμονες επιχείρησαν να χρησιμοποιήσουν το Claude για τη δημιουργία βιολογικών όπλων
Η εταιρεία Anthropic εντόπισε και μπλόκαρε ερευνητές που ζητούσαν βοήθεια για τη γενετική τροποποίηση επικίνδυνων ιών και τοξινών.
Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης φέρνει στο προσκήνιο πρωτόγνωρους κινδύνους για την παγκόσμια ασφάλεια. Σύμφωνα με πρόσφατη αναφορά της Anthropic, η εταιρεία αναγκάστηκε να εντοπίσει και να διακόψει την πρόσβαση σε πολλαπλούς επιστήμονες, οι οποίοι χρησιμοποιούσαν τα γλωσσικά της μοντέλα, όπως το Claude, για την ανάπτυξη πιθανών βιολογικών όπλων. Καθώς μοντέλα όπως το Fable 5 αποκτούν όλο και μεγαλύτερες δυνατότητες στην υποβοήθηση της επιστημονικής έρευνας, η λεγόμενη «βιολογική κατάχρηση» μετατρέπεται σε κρίσιμο ζήτημα.
Η επίσημη έκθεση περιγράφει πέντε συγκεκριμένες περιπτώσεις όπου τα εργαλεία της εταιρείας χρησιμοποιήθηκαν για την ανάπτυξη βιολογικών απειλών. Ο εντοπισμός τέτοιων προσπαθειών αποτελεί μια σύνθετη πρόκληση, καθώς η νόμιμη έρευνα για τη δημιουργία ενός εμβολίου παρουσιάζει συχνά ομοιότητες με διαδικασίες που θα μπορούσαν να οδηγήσουν στη σύνθεση ενός όπλου.
Όπως επισημαίνει ο Jacob Klein, επικεφαλής του τμήματος πληροφοριών απειλών της Anthropic, η πραγματικότητα διαφέρει σημαντικά από τις ταινίες επιστημονικής φαντασίας. Οι ερευνητές της εταιρείας δεν εντοπίζουν «κακούς» με προφανείς προθέσεις, αλλά έρχονται αντιμέτωποι με πολύπλοκα αιτήματα που κινούνται σε μια γκρίζα ζώνη. Χαρακτηριστικό είναι το περιστατικό του περασμένου Μαΐου, όπου χρήστης ζήτησε από το Claude να συντάξει πρόταση χρηματοδότησης για έρευνα πάνω στον ιό chikungunya, με σκοπό την αύξηση της μεταδοτικότητάς του και την ικανότητά του να αποφεύγει την ανοσολογική απόκριση, σε συνεργασία μάλιστα με στρατιωτικό ερευνητικό ινστιτούτο.
Ανάλογα περιστατικά καταγράφηκαν σε έρευνες για τη γρίπη των πτηνών, αλλά και στην απόπειρα δημιουργίας μοντέλου για τη βελτιστοποίηση τοξινών από δηλητήρια. Επιπλέον, τα μοντέλα της Anthropic φάνηκε να χρησιμοποιούνται για λογισμικό υποκλοπής, προπαγάνδα και ανάπτυξη οπλικών συστημάτων. Η εταιρεία προχώρησε στο οριστικό μπλοκάρισμα των χρηστών που ενεπλάκησαν, ενώ τα δεδομένα χρησιμοποιούνται για την ενίσχυση των δικλείδων ασφαλείας. Ωστόσο, η Anthropic επέλεξε να μην αποκαλύψει τις ταυτότητες των επιστημόνων ή των ιδρυμάτων, τονίζοντας ότι δεν υπάρχουν επαρκείς αποδείξεις για δόλο και ότι η δημοσιοποίηση των ονομάτων τους θα μπορούσε να τους θέσει σε άσκοπο κίνδυνο.