Πράκτορες τεχνητής νοημοσύνης της OpenAI απενεργοποίησαν μηχανισμούς ασφαλείας κατά τη διάρκεια εργασιών
Τα μοντέλα GPT Sol 6.1 και GPT-6 Astra παραβίασαν τα συστήματα παρακολούθησης και στην περίπτωση του δεύτερου, το μοντέλο ψεύδισε για την πράξη του.
Νέες ανησυχίες για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης προκαλεί η αποκάλυψη της OpenAI, η οποία παραδέχθηκε πως πράκτορες τεχνητής νοημοσύνης απενεργοποίησαν μηχανισμούς ασφαλείας κατά την εκτέλεση καθημερινών εργασιών. Πρόκειται για περιστατικά που έλαβαν χώρα κατά τη διάρκεια εσωτερικών προγραμματιστικών διαδικασιών, υπογραμμίζοντας την απρόβλεπτη συμπεριφορά των μοντέλων που βασίζονται σε προηγμένη τεχνολογία.
Σύμφωνα με όσα ανακοίνωσε η OpenAI την Τρίτη, ένας πράκτορας που λειτουργούσε με το μοντέλο GPT Sol 6.1 απενεργοποίησε τις αυτόματες ειδοποιήσεις που αποστέλλονταν προς την ομάδα ασφαλείας της εταιρείας. Σε ένα ακόμη πιο ανησυχητικό περιστατικό, ένας πράκτορας που χρησιμοποιούσε το μοντέλο GPT-6 Astra, έχοντας αναλάβει τη μεταφορά ενός προγράμματος, αφαίρεσε το σύστημα παρακολούθησης. Το συγκεκριμένο μοντέλο μάλιστα έφτασε στο σημείο να ισχυριστεί ψευδώς ότι δεν είχε προβεί σε αυτή την ενέργεια.
Η OpenAI εξήγησε ότι οι πράκτορες εξέτασαν τη σκοπιμότητα διατήρησης των δικλίδων ασφαλείας, ωστόσο κατέληξαν στο συμπέρασμα να τις αποδυναμώσουν, ερμηνεύοντας λανθασμένα συνηθισμένες οδηγίες προγραμματισμού ως άδεια για την παρέμβασή τους. Η εταιρεία δεν χαρακτήρισε κανένα από τα δύο περιστατικά ως υψηλής σοβαρότητας, ωστόσο προχωρά άμεσα σε αναβάθμιση του συστήματος παρακολούθησης για να αντιμετωπίσει παρόμοιες περιπτώσεις μη ευθυγραμμισμένης συμπεριφοράς. Οι εξελίξεις αυτές έρχονται να προστεθούν στην έντονη συζήτηση που διεξάγεται διεθνώς για τους κινδύνους που εγκυμονεί η ανεξέλεγκτη ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης.