Η Anthropic μπλόκαρε χρήστες που προσπάθησαν να κατασκευάσουν πυραύλους και βιολογικά όπλα μέσω του Claude
Από λογισμικό καθοδήγησης πυραύλων μέχρι έρευνες για παθογόνους οργανισμούς, η εταιρεία αποκαλύπτει τις απόπειρες εργαλειοποίησης της τεχνητής νοημοσύνης.
Ένας από τους μεγαλύτερους εφιάλτες που περιγράφονται εδώ και χρόνια γύρω από την ανάπτυξη της τεχνητής νοημοσύνης φαίνεται πως περνά από τη σφαίρα της θεωρίας στην πραγματικότητα. Η Anthropic, η εταιρεία πίσω από το μοντέλο Claude, αποκάλυψε μέσω νέας έκθεσης απειλών ότι εντόπισε και διέκοψε μια σειρά από επικίνδυνες δραστηριότητες, στις οποίες χρήστες επιχείρησαν να αξιοποιήσουν την τεχνολογία της για τον σχεδιασμό όπλων και την ανάπτυξη δυνητικά θανατηφόρων βιολογικών παραγόντων.
Όπως επισημαίνουν οι Financial Times και οι New York Times, το εύρος της απειλής είναι ανησυχητικό. Στη βόρεια Υεμένη, ομάδα που συνδέεται με τους Χούθι φέρεται να χρησιμοποίησε το Claude για τη σύνταξη λογισμικού καθοδήγησης πυραύλων, ενώ σε άλλες περιπτώσεις, ερευνητές προσπάθησαν να χρησιμοποιήσουν το μοντέλο για να ενισχύσουν παθογόνους οργανισμούς. Παρότι η Anthropic διευκρινίζει πως δεν υπάρχουν αποδείξεις ότι τα βιολογικά προγράμματα είχαν ως άμεσο σκοπό τη δημιουργία όπλων, η προσπάθεια των χρηστών να παρακάμψουν τα πρωτόκολλα ασφαλείας οδήγησε σε άμεση διακοπή της πρόσβασής τους.
Ο Τζέικομπ Κλάιν, επικεφαλής του τμήματος Threat Intelligence της εταιρείας, δήλωσε στους New York Times ότι η κατάσταση είναι εξαιρετικά σύνθετη, καθώς οι χρήστες δεν εμφανίζονται με προφανείς προθέσεις, αλλά «εκπαιδεύουν» το μοντέλο μέσα από πολύπλοκες διαδικασίες.
Στην περίπτωση της Υεμένης, το Claude χρησιμοποιήθηκε ουσιαστικά ως «μηχανικός λογισμικού» για την ανάπτυξη συστημάτων πλοήγησης και ελέγχου σε βαλλιστικούς πυραύλους και κατευθυνόμενες ρουκέτες. Οι χρήστες το χρησιμοποίησαν για την ενσωμάτωση συστημάτων αυτοματισμού σε υπολογιστές πτήσης επιπέδου smartphone, φτάνοντας στο σημείο να αναλύουν μέσω του ΑΙ τις αποτυχίες από πραγματικές δοκιμαστικές εκτοξεύσεις, αναζητώντας διορθώσεις στον κώδικα για να επιτύχουν το επόμενο στάδιο της ανάπτυξης. Αν και δεν επιβεβαιώνεται αν κάποιο από αυτά τα όπλα κατέληξε λειτουργικό, η χρήση της τεχνητής νοημοσύνης σε έναν ενεργό κύκλο σχεδιασμού, δοκιμής και διόρθωσης οπλικών συστημάτων σηματοδοτεί μια κρίσιμη αλλαγή στο πεδίο της παγκόσμιας ασφάλειας.