Η Anthropic απαγορεύει στους χρήστες την υβριστική συμπεριφορά προς το μοντέλο Claude

Η Anthropic, η εταιρεία πίσω από το προηγμένο μοντέλο τεχνητής νοημοσύνης Claude, ανακοίνωσε μια σημαντική επικαιροποίηση στην πολιτική χρήσης της, θέτοντας αυστηρά όρια στη συμπεριφορά των χρηστών. Στο εξής, η πλατφόρμα θα έχει τη δυνατότητα να τερματίζει τις αλληλεπιδράσεις, εάν εντοπιστεί «συνεχής και αδικαιολόγητη» καταχρηστική συμπεριφορά, όπως χαρακτηριστικά περιγράφεται η «σκληρή» στάση απέναντι στο λογισμικό.

Η εταιρεία εντάσσει τη συγκεκριμένη πρακτική σε έναν κατάλογο απαγορευμένων ενεργειών, ο οποίος περιλαμβάνει ήδη τον εκφοβισμό, την προώθηση αυτοτραυματισμού και τη δημιουργία μη συναινετικού σεξουαλικού περιεχομένου. Όπως αναφέρει το BBC, αν και η Anthropic διευκρινίζει ότι η πολιτική αυτή αφορά «ακραίες περιπτώσεις» και δεν περιορίζει τις «συνηθισμένες εκδηλώσεις απογοήτευσης» ή την ερευνητική δραστηριότητα, παραμένει σε κάποιο βαθμό ασαφές το πού ακριβώς τίθεται η κόκκινη γραμμή για το τι συνιστά κακοποιητική συμπεριφορά.

Παράλληλα, η εταιρεία θωρακίζει τα εργαλεία της ενόψει των επερχόμενων εκλογών στις ΗΠΑ. Η επικαιροποιημένη πολιτική απαγορεύει ρητά τη χρήση του Claude για παραπλανητικές εκστρατείες που αποσκοπούν στην εξαπάτηση ψηφοφόρων ή στη διατάραξη της εκλογικής διαδικασίας. Η κίνηση αυτή συμπληρώνει τους ήδη υφιστάμενους περιορισμούς, όπως η απαγόρευση χρήσης της τεχνολογίας για την ανάπτυξη όπλων.

Το ζήτημα της επικοινωνίας με την τεχνητή νοημοσύνη έχει προκαλέσει έντονες συζητήσεις στην επιστημονική κοινότητα. Ενώ κάποιοι ειδικοί θεωρούν την ευγένεια προς τα γλωσσικά μοντέλα περιττή και δαπανηρή σε υπολογιστικούς πόρους (tokens), άλλοι υποστηρίζουν ότι ο σεβασμός στον τρόπο διατύπωσης των αιτημάτων μπορεί να βελτιώσει ουσιαστικά την ποιότητα των παραγόμενων απαντήσεων.