Η Anthropic εισάγει αόρατο ψηφιακό «υδατογράφημα» σε όλα τα κείμενα του Claude
Μια νέα τεχνολογία εντοπισμού περιεχομένου τεχνητής νοημοσύνης έρχεται για να αλλάξει τα δεδομένα στη διαφάνεια των παραγόμενων κειμένων.
Η ταυτοποίηση του ψηφιακού περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη αποτελεί πλέον μια από τις μεγαλύτερες προκλήσεις της τεχνολογίας. Η Anthropic ανακοίνωσε μια καινοτόμο προσέγγιση, ενσωματώνοντας ένα αόρατο ψηφιακό «υδατογράφημα» (watermark) σε κάθε κείμενο που παράγει το μοντέλο Claude, σε μια κίνηση συμμόρφωσης με τους νέους κανόνες διαφάνειας της Ευρωπαϊκής Ένωσης.
Η τεχνολογία αυτή είναι πρακτικά αόρατη για τον τελικό αναγνώστη. Δεν αλλοιώνει τη στίξη, δεν εισάγει κρυφούς χαρακτήρες και δεν επηρεάζει τη μορφοποίηση. Αντίθετα, η Anthropic ενσωματώνει ένα μοτίβο μέσα στη δομή του κειμένου, το οποίο μπορεί να αποκωδικοποιηθεί αποκλειστικά από κατόχους του κατάλληλου κλειδιού. Κατά τη διαδικασία παραγωγής λέξεων, το Claude χρησιμοποιεί ένα κρυφό κλειδί για να επιλέξει την επόμενη λέξη από μια λίστα πιθανοτήτων, αντί να βασίζεται αποκλειστικά σε μια τυχαία γεννήτρια αριθμών. Η μέθοδος αυτή, που αποτελεί εξέλιξη της τεχνολογίας SynthID-Text της Google DeepMind, δεν επιβραδύνει την ταχύτητα του μοντέλου και δεν επιφέρει επιπλέον κόστη σε υπολογιστικούς πόρους.
Παρά την καινοτομία, υπάρχουν συγκεκριμένοι περιορισμοί. Το σύστημα εντοπίζει πότε το Claude συμμετείχε στη συγγραφή, ακόμα και αν πρόκειται για επιμέλεια ή μετάφραση. Ωστόσο, αν το κείμενο είναι υπερβολικά σύντομο ή αν το μοντέλο πραγματοποίησε απλή διόρθωση, η ανίχνευση ενδέχεται να μην είναι εφικτή. Επιπλέον, απλές επεξεργασίες στο κείμενο δεν αρκούν για να αφαιρέσουν την υπογραφή· απαιτείται ριζική αναδιατύπωση. Στον τομέα του προγραμματισμού, η εφαρμογή της μεθόδου είναι δυσκολότερη λόγω της περιορισμένης ευελιξίας στην επιλογή των λέξεων.
Η εταιρεία σκοπεύει να διαθέσει API με τα απαραίτητα κλειδιά για τον έλεγχο προέλευσης των κειμένων, ενώ αντίστοιχη κρυπτογραφική υπογραφή θα φέρουν πλέον και τα metadata των εικόνων που παράγει το Claude. Αν και η πρωτοβουλία ξεκίνησε για λόγους συμμόρφωσης με την Ευρωπαϊκή Ένωση, η Anthropic θα εφαρμόσει το σύστημα παγκοσμίως σε όλα τα προϊόντα Claude που βασίζονται σε μοντέλα που κυκλοφόρησαν μετά τις αρχές Αυγούστου. Η κίνηση αυτή αναμένεται να αποτελέσει καθοριστικό εργαλείο για τη διάκριση μεταξύ ανθρώπινου και ψηφιακού περιεχομένου στο μέλλον.