Τρεις γερουσιαστές της αμερικανικής γερουσίας έστειλαν επιστολή ζητώντας από την Apple και την Google να αποσύρουν από τα καταστήματά τους τις εφαρμογές X και Grok. Ο Grok, ο οποίος είναι ενσωματωμένος στο X, έχει δημοσιεύσει χιλιάδες φωτογραφίες γυναικών και παιδιών, οι οποίες έχουν υποστεί επεξεργασία από τεχνητή νοημοσύνη, μετατρέποντάς τες σε σεξουαλικό περιεχόμενο. Αυτή η διαδικασία δημιουργεί ακατάλληλες εικόνες που αφορούν ανηλίκους και γυναίκες, χωρίς τη συναίνεσή τους, γεγονός που είναι απολύτως απαράδεκτο. Αν και η πλατφόρμα προσπάθησε να περιορίσει τη δυνατότητα δημιουργίας τέτοιων εικόνων μόνο σε premium, επί πληρωμή χρήστες, οι ανησυχίες παραμένουν.
Σύμφωνα με ρεπορτάζ του NBC News, η αυτόνομη εφαρμογή Grok (διαθέσιμη σε iOS και Android), καθώς και η καρτέλα Grok στο X, συνεχίζουν να επιτρέπουν τη δημιουργία σεξουαλικών deepfakes. Αυτές οι εικόνες εμφανίζουν γυναίκες και παιδιά σε αισθησιακά εσώρουχα, μετατρέποντας φωτογραφίες πραγματικών ατόμων σε πορνογραφικό υλικό. Και οι δύο πλατφόρμες ελέγχονται από τον Elon Musk, με το X να έχει μετατραπεί σε θυγατρική της xAI, της εταιρείας πίσω από τις τεχνολογίες τεχνητής νοημοσύνης του Musk.
Οι γερουσιαστές Ron Wyden από το Όρεγκον, Ed Markey από τη Μασαχουσέτη και Ben Ray Luján από το Νέο Μεξικό, όλοι μέλη του Δημοκρατικού κόμματος, υπέγραψαν μια ανοιχτή επιστολή προς τους διευθύνοντες συμβούλους της Apple, Tim Cook, και Google, Sundar Pichai, ζητώντας τους να επιβάλουν τους όρους παροχής υπηρεσιών των καταστημάτων εφαρμογών τους κατά των X και Grok «λόγω της μαζικής παραγωγής μη συναινετικών σεξουαλικοποιημένων εικόνων γυναικών και παιδιών». Οι γερουσιαστές κατηγορούν τις Apple και Google για αδιαφορία απέναντι στην καταπάτηση των όρων διανομής των εφαρμογών τους, τονίζοντας ότι το Χ επιτρέπει αναρτήσεις ενηλίκων, κάτι που καθιστά την εφαρμογή κατάλληλη μόνο για ενήλικες.
Η Grok και η Δημιουργία Υλικού Κακοποίησης Πρέπει Να Σταματήσουν
Η επιβολή των όρων παροχής υπηρεσιών στις πλατφόρμες της Apple και της Google θα μπορούσε να αποτρέψει τη δημιουργία τέτοιων σεξουαλικών deepfakes που είναι δυνατές στην εφαρμογή X και στην Grok. Όπως δήλωσε ο γερουσιαστής Wyden σε πρόσφατη δήλωση, οι αλλαγές που έκανε το X δεν έχουν σταματήσει τη δημιουργία μη συναινετικών σεξουαλικών εικόνων που καταλήγουν σε ροές κοινωνικών μέσων.
Οι αλλαγές που εισήγαγε η xAI στον Grok δεν έχουν σταματήσει την πρακτική αυτή, αλλά πλέον απαιτούν συνδρομή για την παραγωγή τέτοιου υλικού. Ο γερουσιαστής Wyden τόνισε: «Αυτό που κάνουν οι αλλαγές του X είναι να καθιστούν κάποιους από τους χρήστες του πληρωτές για το προνόμιο να παράγουν φρικτές εικόνες, ενώ ο Musk κερδίζει από την κακοποίηση παιδιών».
Σύμφωνα με τους όρους παροχής υπηρεσιών του App Store και του Play Store, οι εφαρμογές που παρουσιάζουν σεξουαλικό περιεχόμενο χωρίς τη συναίνεση των απεικονιζόμενων απαγορεύονται και θα αποσύρονται άμεσα. Ωστόσο, όταν ο άνθρωπος είναι ο πλουσιότερος στον κόσμο, μοιάζει οι κανόνες να μην ισχύουν για εκείνον, κάτι που φαίνεται να επιβεβαιώνεται από τις πρακτικές των αμερικανικών εταιρειών.
