Σάλος στο Stanford: Χρησιμοποίησαν τεχνητή νοημοσύνη για να αλλάξουν τη φυλή και το φύλο φοιτητών
Ο φοιτητής Μπίλι Ραμίρεζ δηλώνει σοκαρισμένος βλέποντας την ταυτότητά του να διαγράφεται ψηφιακά από προωθητικό υλικό του πανεπιστημίου.
Σάλο έχει προκαλέσει στο Stanford η αποκάλυψη ότι υπηρεσία του εκπαιδευτικού ιδρύματος χρησιμοποίησε τεχνητή νοημοσύνη για να τροποποιήσει φωτογραφίες φοιτητών σε διαφημιστικό υλικό, αλλάζοντας αυθαίρετα χαρακτηριστικά φύλου και φυλής. Όπως αναφέρει η New York Post, το Stanford Residential & Dining Enterprises, το τμήμα που διαχειρίζεται τη στέγαση και τις λέσχες σίτισης, προχώρησε σε ψηφιακή αλλοίωση φωτογραφιών που προορίζονταν για προωθητικές καμπάνιες.
Το ζήτημα ανέδειξε η φοιτητική εφημερίδα The Stanford Review, η οποία σύγκρινε τα αρχικά αρχεία με το τελικό διαφημιστικό υλικό. Σε μια χαρακτηριστική περίπτωση, ο τριτοετής φοιτητής Μπίλι Ραμίρεζ εμφανιζόταν σε φωτογραφία εστιατορίου, αλλά στην επεξεργασμένη εκδοχή αντικαταστάθηκε ψηφιακά από μια μαύρη γυναίκα. Ο Ραμίρεζ, αν και αρχικά αντιμετώπισε το γεγονός με χιούμορ, στη συνέχεια εξέφρασε έντονη ενόχληση: «Το να βλέπω την ταυτότητά μου να αλλάζει και να μένω εκτός της εικόνας με έκανε να νιώσω, κατά κάποιον τρόπο, ότι διαγράφηκα από μια απεικόνιση που υποτίθεται ότι θα περιλάμβανε εμένα», δήλωσε χαρακτηριστικά.
Η έρευνα αποκάλυψε ότι δεν επρόκειτο για μεμονωμένο περιστατικό, καθώς και άλλοι φοιτητές υπέστησαν παρεμβάσεις στα πρόσωπά τους, όπως ψηφιακή «λέπτυνση» των χαρακτηριστικών τους. Η υπόθεση εγείρει σοβαρά ερωτήματα σχετικά με την ηθική χρήση της τεχνητής νοημοσύνης σε ιδρύματα και τον τρόπο με τον οποίο διαχειρίζονται την ψηφιακή εκπροσώπηση των μελών τους.