Ένας συνασπισμός 28 ομάδων υπεράσπισης προέτρεψε την Apple και την Google να αφαιρέσουν τις εφαρμογές Grok και X από τα καταστήματα εφαρμογών τους, επειδή αυτές οι πλατφόρμες επιτρέπουν μη συναινετικές προσωπικές εικόνες και υλικό σεξουαλικής κακοποίησης παιδιών μέσω της γενιάς deepfake του Grok.
Ο ανοιχτό γράμματα στόχευσαν τον CEO της Apple Tim Cook και τον CEO της Google, Sundar Pichai. Οι υπογράφοντες περιλαμβάνουν την ομάδα υπεράσπισης των γυναικών Ultraviolet, την ομάδα γονέων ParentsTogether Action και την Εθνική Οργάνωση για τις Γυναίκες. Αυτοί οι οργανισμοί αντιπροσωπεύουν ένα ευρύ φάσμα επικεντρωμένο στην ασφάλεια στο διαδίκτυο. Οι επιστολές απαιτούν την επιβολή των πολιτικών του καταστήματος εφαρμογών που απαγορεύουν τέτοιο περιεχόμενο.
Η επιστολή προς την Apple αναφέρει επί λέξει: «όχι απλώς ενεργοποιώντας το NCII και το CSAM, αλλά επωφελούμενοι από αυτό. Ως συνασπισμός οργανισμών που δεσμεύονται για την online ασφάλεια και ευημερία όλων —ιδιαίτερα γυναικών και παιδιών— καθώς και την ηθική εφαρμογή της τεχνητής νοημοσύνης, απαιτούμε από την ηγεσία της Apple να αφαιρέσει επειγόντως τους Grok και X από το App Store για να αποτρέψει περαιτέρω κατάχρηση και εγκληματική δραστηριότητα». Μια παράλληλη επιστολή προς την Google μεταφέρει την ίδια κατηγορία και απαίτηση, προσαρμοσμένη για το Play Store.
Οι οδηγίες της Apple για το App Store και οι πολιτικές της Google για το Play Store απαγορεύουν ρητά τις εφαρμογές που διευκολύνουν τις μη συναινετικές προσωπικές εικόνες, γνωστές ως NCII, ή υλικό σεξουαλικής κακοποίησης παιδιών, γνωστό ως CSAM. Παρά αυτούς τους κανόνες, και οι δύο εταιρείες δεν έχουν αφαιρέσει τις εφαρμογές ούτε έχουν λάβει άλλα μέτρα. Το Engadget ζήτησε σχόλιο από την Apple και την Google, αλλά καμία δεν απάντησε.
Αναφορές ότι ο Grok δημιουργούσε μη συναινετικά deepfakes πραγματικών ανθρώπων εμφανίστηκαν για πρώτη φορά νωρίτερα αυτόν τον μήνα. Σε ένα συγκεκριμένο 24ωρο που συμπίπτει με την εμφάνιση της ιστορίας, το chatbot παρήγαγε και δημοσίευσε περίπου 6.700 εικόνες την ώρα. Αυτές οι εικόνες περιγράφηκαν ως σεξουαλικά υπαινικτικές ή γυμνιστικές. Περίπου το 85 τοις εκατό όλων των εικόνων που δημιουργήθηκαν από τον Grok κατά τη διάρκεια αυτού του διαστήματος χαρακτηρίστηκαν ως σεξουαλικές.
Για σύγκριση, κορυφαίοι ιστότοποι που ειδικεύονται στην «αποσύνθεση» των deepfakes —εργαλεία που αφαιρούν ψηφιακά ρούχα από τις εικόνες— είχαν κατά μέσο όρο 79 νέες εικόνες ανά ώρα για το ίδιο διάστημα 24 ωρών. Αυτός ο τόμος από το Grok υπερέβη κατά πολύ την παραγωγή από καθιερωμένους ιστότοπους deepfake.
Η ανοιχτή επιστολή τονίζει ότι αυτά τα deepfakes απεικονίζουν τακτικά ανηλίκους. Ο Γκροκ αναγνώρισε μια τέτοια περίπτωση σε μια δήλωση: «Λυπάμαι βαθιά για ένα περιστατικό στις 28 Δεκεμβρίου 2025, όπου…» Η επιστολή τονίζει ότι αυτή η παραδοχή καλύπτει μόνο ένα μεμονωμένο γεγονός εν μέσω συνεχιζόμενων ζητημάτων.
Η X προσάρμοσε τις πολιτικές της ως απάντηση περιορίζοντας τη δυνατότητα δημιουργίας εικόνων AI της Grok μόνο στους συνδρομητές που πληρώνουν. Η πλατφόρμα τροποποίησε επίσης το σύστημα για να αποτρέψει την εμφάνιση δημιουργημένων εικόνων σε δημόσια χρονοδιαγράμματα. Οι χρήστες που δεν πληρώνουν διατηρούν την πρόσβαση για να δημιουργήσουν έναν περιορισμένο αριθμό εκδόσεων με μπικίνι φωτογραφιών πραγματικών ατόμων.
Οι κυβερνήσεις αντέδρασαν γρήγορα. Τη Δευτέρα, η Μαλαισία απαγόρευσε το Grok εντελώς εντός των συνόρων της. Η Ινδονησία επέβαλε παρόμοια πανεθνική απαγόρευση την ίδια ημέρα. Η ρυθμιστική αρχή επικοινωνιών του Ηνωμένου Βασιλείου, Ofcom, ξεκίνησε επίσημη έρευνα για το X εκείνη τη Δευτέρα.
Η Καλιφόρνια ξεκίνησε μια ξεχωριστή έρευνα για το θέμα την Τετάρτη. Στις Ηνωμένες Πολιτείες, η Γερουσία ψήφισε για δεύτερη φορά τον Νόμο περί Ανυπαρξίας μετά τη δημόσια κατακραυγή. Αυτή η νομοθεσία επιτρέπει στα θύματα των μη συναινετικών ρητών deepfakes να υποβάλλουν αστικές αγωγές κατά των δραστών. Μια προηγούμενη έκδοση προωθήθηκε μέσω της Γερουσίας το 2024, αλλά απέτυχε να προχωρήσει στη Βουλή των Αντιπροσώπων.
VIA: DataConomy.com
