Οι Αμερικανοί γερουσιαστές απαιτούν απαντήσεις από τους X, Meta, Alphabet και άλλους σχετικά με σεξουαλικά deepfakes

Το μη συναινετικό, σεξουαλοποιημένο πρόβλημα του deepfake στον κόσμο της τεχνολογίας είναι πλέον μεγαλύτερο από το X.

Σε ένα επιστολή στους ηγέτες των X, Meta, Alphabet, Snap, Reddit και TikTok, αρκετοί αμερικανοί γερουσιαστές ζητούν από τις εταιρείες να παράσχουν αποδείξεις ότι διαθέτουν «στιβαρές προστασίες και πολιτικές» και να εξηγήσουν πώς σχεδιάζουν να περιορίσουν την άνοδο των σεξουαλικών deepfakes στις πλατφόρμες τους.

Οι γερουσιαστές ζήτησαν επίσης από τις εταιρείες να διατηρήσουν όλα τα έγγραφα και τις πληροφορίες που σχετίζονται με τη δημιουργία, τον εντοπισμό, τον έλεγχο και τη δημιουργία εσόδων από σεξουαλικές εικόνες που δημιουργούνται από AI, καθώς και οποιεσδήποτε σχετικές πολιτικές.

Το γράμμα έρχεται ώρες αφότου το είπε ο Χ ενημέρωσε το Grok να του απαγορεύσει να κάνει επεξεργασίες πραγματικών ανθρώπων σε αποκαλυπτικά ρούχα και περιορισμένη δημιουργία και επεξεργασία εικόνων μέσω Grok σε συνδρομητές που πληρώνουν. (Το X και το xAI είναι μέρος της ίδιας εταιρείας.)

Υποδεικνύοντας αναφορές των μέσων ενημέρωσης για το πώς εύκολα και συχνά Ο Γκροκ δημιούργησε σεξουαλικές και γυμνές εικόνες γυναικών και παιδιών, οι γερουσιαστές τόνισαν ότι τα προστατευτικά κιγκλιδώματα των πλατφορμών που εμποδίζουν τους χρήστες να δημοσιεύουν μη συναινετικές, σεξουαλικές εικόνες μπορεί να μην είναι αρκετά.

“Αναγνωρίζουμε ότι πολλές εταιρείες διατηρούν πολιτικές κατά των μη συναινετικών εικόνων και της σεξουαλικής εκμετάλλευσης και ότι πολλά συστήματα τεχνητής νοημοσύνης ισχυρίζονται ότι μπλοκάρουν τη ρητή πορνογραφία. Στην πράξη, ωστόσο, όπως φαίνεται στα παραπάνω παραδείγματα, οι χρήστες βρίσκουν τρόπους να παρακάμψουν αυτά τα προστατευτικά κιγκλιδώματα. Ή αυτά τα προστατευτικά κιγκλιδώματα αποτυγχάνουν”, αναφέρει η επιστολή.

Το Grok, και κατά συνέπεια το X, έχουν δεχτεί έντονη κριτική για την ενεργοποίηση αυτής της τάσης, αλλά άλλες πλατφόρμες δεν είναι απρόσβλητες.

Τα Deepfakes απέκτησαν για πρώτη φορά δημοτικότητα στο Reddit, όταν εμφανιζόταν μια σελίδα συνθετικά πορνό βίντεο διασημοτήτων έγινε viral πριν την καταρρίψει η πλατφόρμα το 2018. Σεξουαλικά deepfakes που στοχεύουν διασημότητες και πολιτικούς έχουν πολλαπλασιάστηκε σε TikTok και YouTubeαν και συνήθως προέρχονται από αλλού.

Το Εποπτικό Συμβούλιο της Meta πέρυσι φώναξε δύο περιπτώσεις σαφών εικόνων AI γυναικείων δημόσιων προσώπων και η πλατφόρμα είχε εφαρμογές γυμνοποίησης που πουλούσαν διαφημίσεις στις υπηρεσίες της, αν και το έκανε μηνύσει αργότερα μια εταιρεία που ονομάζεται CrushAI. Έχουν υπάρξει πολλές αναφορές για παιδιά που διαδίδουν ψεύτικα συνομηλίκων στο Snapchat. Και το Telegram, το οποίο δεν περιλαμβάνεται στη λίστα των γερουσιαστών, έχει γίνει επίσης διαβόητο φιλοξενία bots που έχουν δημιουργηθεί για να γδύνουν φωτογραφίες των γυναικών.

Απαντώντας στην επιστολή, ο Χ έδειξε την ανακοίνωση σχετικά με την ενημέρωσή του στο Grok.

«Δεν επιτρέπουμε και δεν θα επιτρέψουμε κανένα μη συναινετικό οικείο μέσο (NCIM) στο Reddit, δεν προσφέρουμε εργαλεία ικανά να το κάνουν και λαμβάνουμε προληπτικά μέτρα για να το βρούμε και να το αφαιρέσουμε», δήλωσε εκπρόσωπος του Reddit σε δήλωση που εστάλη μέσω email. “Το Reddit απαγορεύει αυστηρά το NCIM, συμπεριλαμβανομένων απεικονίσεων που έχουν πλαστογραφηθεί ή δημιουργηθεί από AI. Επίσης, απαγορεύουμε την προσέλκυση αυτού του περιεχομένου από άλλους, την κοινή χρήση συνδέσμων για εφαρμογές “γυμνοποίησης” ή τη συζήτηση για το πώς να δημιουργήσετε αυτό το περιεχόμενο σε άλλες πλατφόρμες”, πρόσθεσε ο εκπρόσωπος.

Οι Alphabet, Snap, TikTok και Meta δεν απάντησαν αμέσως στα αιτήματα για σχολιασμό.

Η επιστολή απαιτεί από τις εταιρείες να παρέχουν:

• Ορισμοί πολιτικής για “deepfake” περιεχόμενο, “μη συναινετικές προσωπικές εικόνες” ή παρόμοιους όρους.
• Περιγραφές των πολιτικών των εταιρειών και προσέγγιση επιβολής για μη συναινετικά τεχνάσματα τεχνητής νοημοσύνης σε σώματα ανθρώπων, μη γυμνές φωτογραφίες, αλλαγμένα ρούχα και «εικονική γδύσιμο».
• Περιγραφές των τρεχουσών πολιτικών περιεχομένου που απευθύνονται σε επεξεργασμένα μέσα και άσεμνο περιεχόμενο, καθώς και εσωτερικές οδηγίες που παρέχονται στους συντονιστές.
• Πώς οι τρέχουσες πολιτικές διέπουν τα εργαλεία τεχνητής νοημοσύνης και τις συσκευές δημιουργίας εικόνων, καθώς σχετίζονται με υποβλητικό ή οικείο περιεχόμενο.
• Ποια φίλτρα, προστατευτικά κιγκλιδώματα ή μέτρα έχουν εφαρμοστεί για την πρόληψη της δημιουργίας και της διανομής deepfakes.
• Ποιους μηχανισμούς χρησιμοποιούν οι εταιρείες για να προσδιορίσουν το deepfake περιεχόμενο και να αποτρέψουν την εκ νέου μεταφόρτωσή τους.
• Πώς εμποδίζουν τους χρήστες να επωφεληθούν από τέτοιο περιεχόμενο.
• Πώς οι πλατφόρμες αποτρέπουν τον εαυτό τους από τη δημιουργία εσόδων από μη συναινετικό περιεχόμενο που δημιουργείται από AI.
• Πώς οι όροι υπηρεσίας των εταιρειών τους επιτρέπουν να απαγορεύουν ή να αναστείλουν χρήστες που δημοσιεύουν deepfakes.
• Τι κάνουν οι εταιρείες για να ειδοποιήσουν τα θύματα για μη συναινετικά σεξουαλικά ψεύτικα.

Η επιστολή υπογράφεται από τους γερουσιαστές Lisa Blunt Rochester (D-Del.), Tammy Baldwin (D-Wis.), Richard Blumenthal (D-Conn.), Kirsten Gillibrand (DN.Y.), Mark Kelly (D-Ariz.), Ben Ray Luján (DN.M.), Brian Schatz (D-Hawaiial) (D-Hawaiif).

Η κίνηση έρχεται μόλις μια ημέρα αφότου ο ιδιοκτήτης του xAI, Elon Musk, δήλωσε ότι «δεν γνώριζε τυχόν γυμνές εικόνες ανηλίκων που δημιουργήθηκαν από τον Grok». Αργότερα την Τετάρτη, ο γενικός εισαγγελέας της Καλιφόρνια άνοιξε έρευνα στο chatbot του xAI, μετά την αυξανόμενη πίεση από τις κυβερνήσεις σε όλο τον κόσμο που εξοργίστηκαν από την έλλειψη προστατευτικών κιγκλιδωμάτων γύρω από το Grok που επέτρεψαν αυτό να συμβεί.

xAI έχει διατηρούνται ότι αναλαμβάνει δράση για την αφαίρεση «παράνομου περιεχομένου στο X, συμπεριλαμβανομένου [CSAM] και μη συναινετικό γυμνό», αν και ούτε η εταιρεία ούτε ο Μασκ έχουν ασχοληθεί με το γεγονός ότι ο Grok είχε εξαρχής άδεια να δημιουργήσει τέτοιες επεξεργασίες.

Το πρόβλημα δεν περιορίζεται επίσης σε μη συναινετικές παραποιημένες σεξουαλικές εικόνες. Αν και δεν επιτρέπουν όλες οι υπηρεσίες δημιουργίας και επεξεργασίας εικόνων που βασίζονται σε τεχνητή νοημοσύνη στους χρήστες να «γδύνουν» τους ανθρώπους, αφήνουν κάποιον να δημιουργεί εύκολα deepfakes. Για να διαλέξω μερικά παραδείγματα, σύμφωνα με πληροφορίες, το Sora 2 του OpenAI επέτρεψε στους χρήστες να δημιουργήσουν ακατάλληλα βίντεο με παιδιά? Φαινομενικά η Nano Banana της Google που δημιουργείται μια εικόνα που δείχνει τον Τσάρλι Κερκ να πυροβολείται. και ρατσιστικά βίντεο κατασκευασμένα με το μοντέλο βίντεο AI της Google συγκεντρώνουν εκατομμύρια προβολές στα μέσα κοινωνικής δικτύωσης.

Το ζήτημα γίνεται ακόμη πιο περίπλοκο όταν εμφανίζονται κινεζικές γεννήτριες εικόνας και βίντεο. Πολλές κινεζικές εταιρείες τεχνολογίας και εφαρμογές – ειδικά εκείνες που συνδέονται με το ByteDance – προσφέρουν εύκολους τρόπους επεξεργασίας προσώπων, φωνών και βίντεο και αυτές οι έξοδοι έχουν εξαπλωθεί σε δυτικές πλατφόρμες κοινωνικής δικτύωσης. Η Κίνα έχει ισχυρότερες απαιτήσεις επισήμανσης συνθετικού περιεχομένου που δεν υπάρχουν στις ΗΠΑ σε ομοσπονδιακό επίπεδο, όπου οι μάζες βασίζονται σε κατακερματισμένες και αμφίβολα επιβαλλόμενες πολιτικές από τις ίδιες τις πλατφόρμες.

Οι αμερικανοί νομοθέτες έχουν ήδη εγκρίνει κάποια νομοθεσία που επιδιώκει να χαλιναγωγήσει την ψεύτικη πορνογραφία, αλλά ο αντίκτυπος ήταν περιορισμένος. Ο νόμος Take It Down, ο οποίος έγινε ομοσπονδιακός νόμος τον Μάιο, έχει σκοπό να ποινικοποιήσει τη δημιουργία και τη διάδοση μη συναινετικών, σεξουαλικών εικόνων. Ωστόσο, ορισμένες διατάξεις του νόμου καθιστούν δύσκολο να λογοδοτήσουν οι πλατφόρμες που δημιουργούν εικόνα, καθώς επικεντρώνουν το μεγαλύτερο μέρος του ελέγχου σε μεμονωμένους χρήστες.

Εν τω μεταξύ, πολλά κράτη προσπαθούν να πάρουν την κατάσταση στα χέρια τους για να προστατεύσουν τους καταναλωτές και τις εκλογές. Αυτή την εβδομάδα, Η Κυβερνήτης της Νέας Υόρκης Κάθι Χότσουλ πρότεινε νόμους που θα απαιτούσε το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη να χαρακτηριστεί ως τέτοιο και θα απαγόρευε τα μη συναινετικά deepfakes σε συγκεκριμένες περιόδους πριν από τις εκλογές, συμπεριλαμβανομένων των απεικονίσεων υποψηφίων της αντιπολίτευσης.