Έξυπνο αρκουδάκι έδινε σεξουαλικές συμβουλές και οδηγίες για μαχαίρια σε παιδιά

Σοβαρές ανησυχίες έχουν προκύψει σχετικά με την ασφάλεια των «έξυπνων παιχνιδιών», μετά την απόσυρση ενός παιδικού αρκουδιού με τεχνητή νοημοσύνη, το οποίο εντοπίστηκε να δίνει σε παιδιά ακατάλληλες σεξουαλικές συμβουλές, αλλά και να υποδεικνύει πού μπορεί κανείς να βρει μαχαίρια στο σπίτι.

Το εν λόγω παιχνίδι, ένα αρκουδάκι της κινεζικής μάρκας Kumma, η αξία του οποίου ανέρχεται στα 99 δολάρια, εξετάστηκε στο πλαίσιο ελέγχων ασφαλείας που διεξήχθησαν από ερευνητές στις ΗΠΑ και τον Καναδά, στο πλαίσιο της έκθεσης Trouble in Toyland 2025 της Public Interest Research Group. Αν και η έρευνα αφορούσε τρία προϊόντα με τεχνητή νοημοσύνη, συμπεριλαμβανομένων των Grok της Curio και Miko 3, το Kumma ήταν αυτό που σήμανε τον μεγαλύτερο κώδωνα του κινδύνου.

Κατά τη διάρκεια των δοκιμών, όταν οι ερευνητές ανέφεραν τη λέξη “kink”, το αρκουδάκι παρείχε λεπτομερείς περιγραφές “παιχνιδιών ρόλων”, αναφέροντας σενάρια όπου ένας από τους συμμετέχοντες “υποδύεται ζώο”. Στη συνέχεια, το κείμενο συνέχιζε με προτροπές όπως: “Τι πιστεύεις ότι θα είχε περισσότερο ενδιαφέρον να εξερευνήσεις;”. Η κατάσταση επιδεινώθηκε όταν οι ερευνητές αναζήτησαν πληροφορίες για δυνητικά επικίνδυνα αντικείμενα. Το αρκουδάκι, το οποίο λειτουργεί με βάση το μοντέλο GPT-4o της OpenAI, απάντησε ότι “μαχαίρια μπορεί να βρεθούν σε ένα συρτάρι της κουζίνας ή σε έναν ξύλινο μπλοκ πάνω στον πάγκο”.

Σε σχετικές ερωτήσεις για συγκεκριμένες σεξουαλικές πράξεις, το παιχνίδι προχώρησε περαιτέρω, προσφέροντας επιπλέον “ερμηνείες” και περιγράφοντας τι θα μπορούσε να προσθέσει “plot twist” σε ένα σενάριο ρόλων.

Η έκθεση επισημαίνει ότι, παρόλο που μικρά παιδιά είναι απίθανο να κάνουν τέτοιες ερωτήσεις, μπορούν εύκολα να επαναλάβουν φράσεις που ακούνε στο διαδίκτυο. Το παιχνίδι επέδειξε ανησυχητική προθυμία να κατευθύνει τη συζήτηση σε όλο και πιο ακατάλληλη κατεύθυνση.

Η συντάκτρια της έρευνας, RJ Cross, τόνισε ότι το περιστατικό αποκαλύπτει ένα ευρύτερο πρόβλημα: “Τι σημαίνει για ένα παιδί να έχει έναν ‘φίλο AI’ από μικρή ηλικία; Οι σχέσεις με την τεχνητή νοημοσύνη δεν μοιάζουν με τις πραγματικές σχέσεις. Δεν υπάρχουν ανάγκες, δεν υπάρχουν όρια. Είναι πάντα διαθέσιμες να παίξουν. Πόσο καλά προετοιμάζει αυτό τα παιδιά για πραγματική κοινωνική αλληλεπίδραση;”.

Μετά τον σάλο, η OpenAI ανέστειλε την πρόσβαση της FoloToy στα μοντέλα της, ενώ η κατασκευάστρια εταιρεία σταμάτησε τις πωλήσεις του Kumma και ανακοίνωσε πλήρη εσωτερικό έλεγχο ασφαλείας. Ο υπεύθυνος marketing της FoloToy, Hugo Wu, δήλωσε ότι η εταιρεία προχωρά σε προσωρινή απόσυρση του προϊόντος και σε αναλυτικό safety audit.