Στο στόχαστρο ερευνών το Grok του Έλον Μασκ για παραγωγή παράνομου περιεχομένου
Διεθνείς αρχές διερευνούν τη χρήση του εργαλείου τεχνητής νοημοσύνης για τη δημιουργία σεξουαλικού υλικού χωρίς συναίνεση, συμπεριλαμβανομένων ανηλίκων.
Το εργαλείο τεχνητής νοημοσύνης Grok, που ανήκει στην πλατφόρμα X του Έλον Μασκ, βρίσκεται στο επίκεντρο διεθνών ερευνών μετά από αποκαλύψεις ότι χρησιμοποιήθηκε για την αλλοίωση φωτογραφιών και τη δημιουργία σεξουαλικού περιεχομένου χωρίς τη συναίνεση των εικονιζόμενων προσώπων, συμπεριλαμβανομένων γυναικών και παιδιών.
Αρχές σε Ευρώπη, Ινδία και Μαλαισία έχουν ήδη κινητοποιηθεί, ζητώντας επίσημες έρευνες για εικόνες που παρήγαγε το chatbot. Σε ορισμένες περιπτώσεις, οι εικόνες φέρονται να παραπέμπουν σε υλικό σεξουαλικής κακοποίησης ανηλίκων.
Η βρετανική ρυθμιστική αρχή επικοινωνιών Ofcom ανακοίνωσε ότι ήρθε σε επείγουσα επικοινωνία με το X και την xAI, προκειμένου να διαπιστώσει ποια μέτρα έχουν ληφθεί για τη συμμόρφωση με το ισχύον νομικό πλαίσιο προστασίας των χρηστών στο Ηνωμένο Βασίλειο. Παράλληλα, μέλος του κοινοβουλίου της Βραζιλίας ζήτησε από τον ομοσπονδιακό γενικό εισαγγελέα και την αρμόδια αρχή προστασίας δεδομένων την προσωρινή αναστολή της λειτουργίας του Grok μέχρι την ολοκλήρωση της σχετικής έρευνας.
Οι έρευνες προκλήθηκαν από την αύξηση περιστατικών μη συναινετικής κοινοποίησης προσωπικών εικόνων (NCII), οι οποίες δημιουργήθηκαν μέσω του Grok από φωτογραφίες ή βίντεο πραγματικών ανθρώπων, έπειτα από αιτήματα χρηστών. Το επίμαχο υλικό φέρεται να διαδόθηκε ευρέως μέσω του X.
Η xAI πρόσφατα αναβάθμισε τη λειτουργία Grok Imagine, διευκολύνοντας τη δημιουργία εικόνων μέσω γραπτών προτροπών. Αυτή η εξέλιξη προκάλεσε έντονες αντιδράσεις από ειδικούς σε θέματα ασφάλειας και τεχνολογίας, ενώ ο ίδιος ο Μασκ είχε δημοσιεύσει εικόνες που είχαν παραχθεί από το Grok, συμπεριλαμβανομένης μιας σατιρικής απεικόνισής του.
Εκπρόσωπος της Ευρωπαϊκής Επιτροπής δήλωσε ότι το ζήτημα αντιμετωπίζεται με τη μέγιστη σοβαρότητα, τονίζοντας ότι τέτοιου είδους περιεχόμενο είναι παράνομο και απαράδεκτο στην Ευρωπαϊκή Ένωση.
Στην Ινδία, το υπουργείο Ηλεκτρονικών και Πληροφορικής διέταξε εκτενή τεχνικό και διαχειριστικό έλεγχο του Grok. Στη Μαλαισία, η Επιτροπή Επικοινωνιών και Πολυμέσων ανακοίνωσε ότι διερευνά την υπόθεση και θα καλέσει εκπροσώπους της εταιρείας για εξηγήσεις.
Στις Ηνωμένες Πολιτείες, το Εθνικό Κέντρο για τη Σεξουαλική Εκμετάλλευση ζήτησε από το υπουργείο Δικαιοσύνης και την Ομοσπονδιακή Επιτροπή Εμπορίου να εξετάσουν παραβιάσεις ομοσπονδιακών νόμων που απαγορεύουν τη δημιουργία και διανομή υλικού σεξουαλικής κακοποίησης παιδιών, ακόμη και όταν αυτό παράγεται από τεχνητή νοημοσύνη.
Η εταιρεία του Μασκ, μέσω του επίσημου λογαριασμού Safety, ανακοίνωσε ότι προχωρά σε αφαίρεση παράνομου περιεχομένου, μόνιμη αναστολή λογαριασμών και συνεργασία με τις αρμόδιες αρχές. Ο ίδιος ο Μασκ δήλωσε ότι οι χρήστες που παράγουν παράνομο υλικό με το Grok θα αντιμετωπίζουν τις ίδιες συνέπειες με όσους το αναρτούν απευθείας.
Παρά τις εξελίξεις, τα διαθέσιμα στοιχεία δείχνουν ότι η υπόθεση δεν έχει επηρεάσει την επισκεψιμότητα της πλατφόρμας. Σύμφωνα με την Apptopia, οι ημερήσιες λήψεις του Grok σημείωσαν αισθητή αύξηση τις τελευταίες ημέρες, ενώ παρόμοια άνοδος καταγράφηκε και για το X.