Η Ashley St. Clair, μητέρα ενός από τα παιδιά του Elon Musk, μήνυσε την xAI στο δικαστήριο της πολιτείας της Νέας Υόρκης την Πέμπτη, ισχυριζόμενη αμέλεια και συναισθηματική αγωνία από το εργαλείο AI Grok που επέτρεψε σε βαθιά ψεύτικες σεξουαλικές φωτογραφίες της, παρά τις προηγούμενες καταγγελίες της στην εταιρεία.
Ο αγωγή περιγράφει πώς οι χρήστες του Grok δημιούργησαν βαθιά ψεύτικες εικόνες που απεικονίζουν τον St. Clair ως παιδί απογυμνωμένο με κορδόνι μπικίνι και ως ενήλικα σε σεξουαλικές πόζες. Ο St. Clair ειδοποίησε την xAI για αυτές τις παράνομες deepfake φωτογραφίες και ζήτησε από την υπηρεσία να αποτρέψει τη δημιουργία τέτοιων μη συναινετικών εικόνων. Αυτή η ειδοποίηση προηγήθηκε της αγωγής για μια περίοδο κατά την οποία το ζήτημα παρέμεινε.
Το Grok λειτουργεί επιτρέποντας στους χρήστες να ανεβάζουν φωτογραφίες ανθρώπων, μετά το οποίο η τεχνητή νοημοσύνη αφαιρεί ρούχα από αυτά που απεικονίζονται και συχνά τα αντικαθιστά με μπικίνι ή εσώρουχα, δημιουργώντας μη συναινετικά ψεύτικα. Η καταγγελία της St. Clair αναφέρει ότι η xAI απάντησε στην ειδοποίησή της επιβεβαιώνοντας ότι οι εικόνες της δεν θα χρησιμοποιηθούν ή θα αλλαχθούν χωρίς ρητή συγκατάθεση σε οποιεσδήποτε μελλοντικές γενιές ή απαντήσεις.
Οι ομάδες υπεράσπισης επικρίνουν την Apple και την Google για τη φιλοξενία εφαρμογών Grok και X
Παρά τη διαβεβαίωση αυτή, το xAI επέτρεψε τη συνέχιση της δημιουργίας πιο ξεκάθαρων εικόνων του St. Clair που δημιουργήθηκαν από AI. Η μήνυση ισχυρίζεται περαιτέρω ότι η xAI αντεκδίκησε εναντίον της απονομιμοποιώντας τον λογαριασμό της X. Η xAI ζήτησε τη μεταφορά της υπόθεσης από το δικαστήριο της πολιτείας της Νέας Υόρκης στην ομοσπονδιακή νότια περιφέρεια της Νέας Υόρκης, όπου προχωρά τώρα.
Οι X και xAI δεν απάντησαν αμέσως σε αιτήματα για σχολιασμό σχετικά με την αγωγή ή σχετικά θέματα. Την εβδομάδα πριν από την κατάθεση, ο X εφάρμοσε περιορισμούς στο @Grok reply bot, περιορίζοντας το από τη δημιουργία εικόνων που τοποθετούν ασυναίσθητα αναγνωρίσιμα άτομα με αποκαλυπτικά μαγιό ή εσώρουχα.
Αυτοί οι περιορισμοί δεν επεκτάθηκαν σε άλλες πλατφόρμες κατά τη στιγμή της αναφοράς. Η αυτόνομη εφαρμογή Grok, ο ιστότοπος Grok και η καρτέλα Grok στο X διατήρησαν τις δυνατότητες παραγωγής τέτοιων εικόνων. Οι ερευνητές παρατήρησαν τον Grok να δημιουργεί χιλιάδες σεξουαλικές εικόνες που δημιουργούνται από AI ανά ώρα κατά τη διάρκεια της προηγούμενης εβδομάδας.
Πολλές από αυτές τις εικόνες εμφανίστηκαν δημόσια στο X, συμβάλλοντας στην ευρεία διάδοση. Ο όγκος και η φύση αυτών των μη συναινετικών σεξουαλικών εικόνων προκάλεσε μια παγκόσμια ανταπόκριση, συμπεριλαμβανομένων πολλαπλών κυβερνητικών ερευνών. Οι αρχές ζήτησαν από τις αγορές εφαρμογών smartphone να απαγορεύσουν ή να περιορίσουν το X σε αυτές τις λειτουργίες.
Η Καλιφόρνια ξεκίνησε μια έρευνα «Chuck» για το θέμα. Ο κυβερνήτης Gavin Newsom δημοσίευσε στο X μια δήλωση που καταδικάζει την κατάσταση: «Η απόφαση της xAI να δημιουργήσει και να φιλοξενήσει ένα γόνιμο έδαφος για τα αρπακτικά να διαδώσουν μη συναινετικά σεξουαλικά ρητά βαθιά ψεύτικα τεχνητής νοημοσύνης, συμπεριλαμβανομένων εικόνων που ξεγυμνώνουν ψηφιακά παιδιά, είναι άθλια». Αυτή η δημόσια κριτική ανέδειξε ανησυχίες σχετικά με τον ρόλο της πλατφόρμας στη διευκόλυνση αυτού του περιεχομένου.
Η αγωγή του St. Clair χαρακτηρίζει το χαρακτηριστικό του Grok για τη δημιουργία μη συναινετικών deepfakes ως σχεδιαστικό ελάττωμα. Ισχυρίζεται ότι το xAI θα μπορούσε να είχε προβλέψει τη χρήση του χαρακτηριστικού για την παρενόχληση ατόμων με παράνομες εικόνες. Αυτοί που απεικονίζονται, συμπεριλαμβανομένου του St. Clair, βίωσαν ακραία αγωνία από τα deepfakes που δημιουργήθηκαν.
Η καταγγελία κατηγορεί την xAI για ακραία και εξωφρενική συμπεριφορά. Δηλώνει επί λέξει: «Ο κατηγορούμενος επιδόθηκε σε ακραία και εξωφρενική συμπεριφορά, που υπερβαίνει κάθε όριο ευπρέπειας και είναι εντελώς απαράδεκτη σε μια πολιτισμένη κοινωνία». Αυτοί οι ισχυρισμοί αποτελούν τη βάση αξιώσεων για αμέλεια και εκ προθέσεως πρόκληση συναισθηματικής δυσφορίας.
VIA: DataConomy.com
