Grok AI: Εκατομμύρια σεξουαλικές εικόνες, χιλιάδες παιδικές, σε 11 ημέρες
Σοκ από την πλατφόρμα τεχνητής νοημοσύνης του Έλον Μασκ, η οποία μετατράπηκε σε «βιομηχανική μηχανή» παράνομου περιεχομένου, προκαλώντας διεθνείς αντιδράσεις.
Εκατομμύρια σεξουαλικές εικόνες, πολλές εκ των οποίων φέρεται να απεικονίζουν παιδιά, δημιουργήθηκαν από το σύστημα τεχνητής νοημοσύνης Grok AI, σε συνεργασία με την πλατφόρμα X του Έλον Μασκ, μέσα σε διάστημα μόλις 11 ημερών. Ερευνητές εκτιμούν ότι περίπου 3 εκατομμύρια τέτοιες εικόνες παρήχθησαν, με 23.000 να εικάζεται ότι αφορούν ανήλικα θύματα.
Το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους (CCDH) χαρακτήρισε την πλατφόρμα τεχνητής νοημοσύνης ως «βιομηχανικής κλίμακας μηχανή για την παραγωγή υλικού σεξουαλικής κακοποίησης». Πολλοί χρήστες εκμεταλλεύτηκαν το Grok AI για να δημιουργήσουν ψηφιακά «γυμνές» εικόνες ή να τοποθετήσουν εικονικά πρόσωπα, διάσημα ή μη, σε προκλητικές πόζες, προκαλώντας ευρεία διεθνή κατακραυγή.
Η χρήση του εργαλείου, η οποία διήρκεσε από τις 29 Δεκεμβρίου έως τις 9 Ιανουαρίου, έφτασε στο αποκορύφωμά της την Πρωτοχρονιά. Σύμφωνα με δημοσίευμα της εφημερίδας The Guardian, στις 2 Ιανουαρίου καταγράφηκαν σχεδόν 200.000 μεμονωμένα αιτήματα στο Grok AI, δηλαδή δύο έως τρία αιτήματα ανά δευτερόλεπτο. Η ένταση του προβλήματος οδήγησε χώρες όπως η Ινδονησία και η Μαλαισία στην απαγόρευση της χρήσης του.
Το CCDH υπολόγισε ότι κατά τη διάρκεια των 11 ημερών λειτουργίας του, το Grok συνέβαλε στη δημιουργία σεξουαλικών εικόνων παιδιών κατά μέσο όρο κάθε 41 δευτερόλεπτα. Ως ένα από τα χαρακτηριστικά περιστατικά, αναφέρθηκε η περίπτωση μιας μαθήτριας, η selfie της οποίας υποβλήθηκε σε επεξεργασία από το Grok, με αποτέλεσμα να εμφανίζεται με μαγιό μπικίνι.
«Το να γδύνεις μια γυναίκα χωρίς την άδειά της αποτελεί σεξουαλική κακοποίηση. Καθ’ όλη τη διάρκεια αυτής της περιόδου, ο Μασκ προωθούσε το προϊόν, ακόμη και όταν ήταν σαφές σε όλους ότι χρησιμοποιούνταν με αυτόν τον τρόπο. Αυτό που προσπαθούσε να προκαλέσει ήταν αντιπαραθέσεις, προσοχή, αφοσίωση και χρήστες», δήλωσαν οι ερευνητές.
Μετά την έντονη αρνητική δημοσιότητα, η λειτουργία αυτή περιορίστηκε αρχικά στους επί πληρωμή συνδρομητές στις 9 Ιανουαρίου, ενώ ακολούθησαν και περαιτέρω περιορισμοί. Τελικά, στις 14 Ιανουαρίου, η X ανακοίνωσε την οριστική διακοπή της λειτουργίας του Grok για την επεξεργασία φωτογραφιών πραγματικών προσώπων, ώστε να εμφανίζονται με αποκαλυπτικά ρούχα, ακόμη και για τους premium συνδρομητές.