Έλον Μασκ είπε την Τετάρτη «δεν γνωρίζει τυχόν γυμνές εικόνες ανηλίκων που δημιουργήθηκαν από τον Γκροκ», ώρες πριν από τον Γενικό Εισαγγελέα της Καλιφόρνια άνοιξε έρευνα στο chatbot του xAI για τον «πολλαπλασιασμό μη συναινετικού σεξουαλικού υλικού».
Η άρνηση του Musk έρχεται καθώς αυξάνεται η πίεση από τις κυβερνήσεις σε όλο τον κόσμο – από το Ηνωμένο Βασίλειο και την Ευρώπη έως τη Μαλαισία και την Ινδονησία – αφού οι χρήστες στο X άρχισαν να ζητούν από τον Grok να γυρίσει φωτογραφίες του πραγματικές γυναίκεςκαι σε ορισμένες περιπτώσεις παιδιά, σε σεξουαλικές εικόνες χωρίς τη συγκατάθεσή τους. Το Copyleaks, μια πλατφόρμα ανίχνευσης τεχνητής νοημοσύνης και διακυβέρνησης περιεχομένου, εκτιμάται ότι περίπου μία εικόνα δημοσιεύτηκε κάθε λεπτό στο X. Μια ξεχωριστή δείγμα που συγκεντρώθηκαν από τις 5 Ιανουαρίου έως τις 6 Ιανουαρίου βρήκαν 6.700 ανά ώρα κατά τη διάρκεια του 24ώρου. (Το X και το xAI είναι μέρος της ίδιας εταιρείας.)
«Αυτό το υλικό…χρησιμοποιήθηκε για παρενόχληση ανθρώπων στο Διαδίκτυο», δήλωσε ο Γενικός Εισαγγελέας της Καλιφόρνια Ρομπ Μπόντα σε δήλωση. «Προτρέπω την xAI να λάβει άμεσα μέτρα για να διασφαλίσει ότι αυτό δεν πάει άλλο».
Το γραφείο της AG θα διερευνήσει εάν και πώς η xAI παραβίασε το νόμο.
Υπάρχουν διάφοροι νόμοι για την προστασία στόχων μη συναινετικών σεξουαλικών εικόνων και υλικού σεξουαλικής κακοποίησης παιδιών (CSAM). Πέρυσι, ο νόμος Take It Down υπογράφηκε σε έναν ομοσπονδιακό νόμο, ο οποίος ποινικοποιεί τη εν γνώσει διανομή μη συναινετικών εικόνων – συμπεριλαμβανομένων των deepfakes – και απαιτεί από πλατφόρμες όπως το X να αφαιρούν τέτοιο περιεχόμενο εντός 48 ωρών. Η Καλιφόρνια έχει επίσης τη δική της σειρά νόμων που υπέγραψε ο κυβερνήτης Gavin Newsom το 2024 για να καταπολεμήσει τα σεξουαλικά ρητά deepfakes.
Ο Grok άρχισε να εκπληρώνει αιτήματα χρηστών στο X για την παραγωγή σεξουαλικών φωτογραφιών γυναικών και παιδιών προς το τέλος του έτους. Η τάση φαίνεται να έχει απογειωθεί όταν ορισμένοι δημιουργοί περιεχομένου για ενήλικες ώθησαν τον Grok να δημιουργήσει σεξουαλικές εικόνες του εαυτού τους ως μορφή μάρκετινγκ, κάτι που στη συνέχεια οδήγησε άλλους χρήστες να εκδώσουν παρόμοια μηνύματα. Σε πολλές δημόσιες περιπτώσεις, συμπεριλαμβανομένων γνωστών προσωπικοτήτων όπως η ηθοποιός του «Stranger Things», Μίλι Μπόμπι Μπράουν, ο Γκροκ απάντησε στις προτροπές που του ζήτησαν να αλλάξει πραγματικές φωτογραφίες πραγματικών γυναικών αλλάζοντας ρούχα, θέση σώματος ή σωματικά χαρακτηριστικά με απροκάλυπτα σεξουαλικούς τρόπους.
Σύμφωνα με κάποιες αναφορέςη xAI έχει αρχίσει να εφαρμόζει διασφαλίσεις για την αντιμετώπιση του ζητήματος. Το Grok απαιτεί τώρα μια premium συνδρομή πριν απαντήσει σε ορισμένα αιτήματα δημιουργίας εικόνων και ακόμη και τότε η εικόνα ενδέχεται να μην δημιουργηθεί. Ο April Kozen, αντιπρόεδρος μάρκετινγκ στο Copyleaks, είπε στο TechCrunch ότι ο Grok μπορεί να εκπληρώσει ένα αίτημα με πιο γενικό ή πιο ήπιο τρόπο. Πρόσθεσαν ότι ο Grok εμφανίζεται πιο ανεκτικός με τους ενήλικες δημιουργούς περιεχομένου.
Εκδήλωση Techcrunch
Σαν Φρανσίσκο
|
13-15 Οκτωβρίου 2026
«Συνολικά, αυτές οι συμπεριφορές υποδηλώνουν ότι ο Χ πειραματίζεται με πολλούς μηχανισμούς για τη μείωση ή τον έλεγχο της προβληματικής δημιουργίας εικόνων, αν και εξακολουθούν να υπάρχουν ασυνέπειες», είπε ο Kozen.
Ούτε η xAI ούτε ο Μασκ έχουν αντιμετωπίσει δημόσια το πρόβλημα κατά μέτωπο. Λίγες μέρες μετά την έναρξη των περιπτώσεων, ο Μασκ φάνηκε να δίνει φως στο θέμα ζητώντας από τον Γκροκ να δημιουργήσει ένα εικόνα του εαυτού του με μπικίνι. Στις 3 Ιανουαρίου, Λογαριασμός ασφαλείας του Χ είπε ότι η εταιρεία λαμβάνει «μέτρα κατά του παράνομου περιεχομένου στο X, συμπεριλαμβανομένου [CSAM]», χωρίς να ασχοληθεί συγκεκριμένα με την προφανή έλλειψη διασφαλίσεων του Grok ή τη δημιουργία σεξουαλικών παραποιημένων εικόνων που αφορούν γυναίκες.
Η τοποθέτηση αντικατοπτρίζει αυτό που δημοσίευσε σήμερα ο Musk, δίνοντας έμφαση στην παρανομία και τη συμπεριφορά των χρηστών.
Ο Μασκ έγραψε ότι «δεν γνώριζε τυχόν γυμνές εικόνες ανηλίκων που δημιουργήθηκαν από τον Γκροκ. Κυριολεκτικά μηδέν». Αυτή η δήλωση δεν αρνείται την ύπαρξη εικόνων με μπικίνι ή σεξουαλικών επεξεργασιών ευρύτερα.
Ο Michael Goodyear, αναπληρωτής καθηγητής στη Νομική Σχολή της Νέας Υόρκης και πρώην δικαστικός, είπε στο TechCrunch ότι ο Musk πιθανώς επικεντρώθηκε στενά στο CSAM επειδή οι κυρώσεις για τη δημιουργία ή τη διανομή συνθετικών σεξουαλικών εικόνων παιδιών είναι μεγαλύτερες.
«Για παράδειγμα, στις Ηνωμένες Πολιτείες, ο διανομέας ή ο απειλούμενος διανομέας του CSAM μπορεί να αντιμετωπίσει έως και τρία χρόνια φυλάκιση βάσει του νόμου Take It Down, σε σύγκριση με δύο για μη συναινετικές σεξουαλικές εικόνες ενηλίκων», είπε η Goodyear.
Πρόσθεσε ότι το «μεγαλύτερο σημείο» είναι η προσπάθεια του Μασκ να επιστήσει την προσοχή στο προβληματικό περιεχόμενο των χρηστών.
“Προφανώς, ο Grok δεν δημιουργεί αυθόρμητα εικόνες. Το κάνει μόνο σύμφωνα με το αίτημα των χρηστών”, έγραψε ο Μασκ στην ανάρτησή του. “Όταν του ζητηθεί να δημιουργήσει εικόνες, θα αρνηθεί να παράγει οτιδήποτε παράνομο, καθώς η αρχή λειτουργίας του Grok είναι να υπακούει στους νόμους οποιασδήποτε συγκεκριμένης χώρας ή πολιτείας. Μπορεί να υπάρχουν φορές που η εχθρική εισβολή του Grok κάνει κάτι απροσδόκητο. Εάν συμβεί αυτό, διορθώνουμε αμέσως το σφάλμα.”
Συνολικά, η ανάρτηση χαρακτηρίζει αυτά τα περιστατικά ως ασυνήθιστα, τα αποδίδει σε αιτήματα χρηστών ή σε αντίθετες προτροπές και τα παρουσιάζει ως τεχνικά ζητήματα που μπορούν να επιλυθούν μέσω επιδιορθώσεων. Σταματά να μην αναγνωρίζει τυχόν ελλείψεις στον υποκείμενο σχεδιασμό ασφάλειας του Grok.
«Οι ρυθμιστικές αρχές μπορούν να εξετάσουν, με προσοχή στην προστασία της ελευθερίας του λόγου, να απαιτήσουν προληπτικά μέτρα από προγραμματιστές τεχνητής νοημοσύνης για να αποτρέψουν τέτοιο περιεχόμενο», δήλωσε η Goodyear.
Η TechCrunch επικοινώνησε με την xAI για να ρωτήσει πόσες φορές εντόπισε περιπτώσεις μη συναινετικών εικόνων γυναικών και παιδιών με σεξουαλική χειραγώγηση, ποια προστατευτικά κιγκλιδώματα άλλαξαν συγκεκριμένα και εάν η εταιρεία ειδοποίησε τις ρυθμιστικές αρχές για το ζήτημα. Το TechCrunch θα ενημερώσει το άρθρο εάν η εταιρεία ανταποκριθεί.
Η California AG δεν είναι η μόνη ρυθμιστική αρχή που προσπαθεί να θεωρήσει την xAI υπεύθυνη για το ζήτημα. Η Ινδονησία και η Μαλαισία έχουν αποκλείσει προσωρινά την πρόσβαση στο Grok. Η Ινδία ζήτησε από τον Χ να κάνει άμεσες τεχνικές και διαδικαστικές αλλαγές στο Grok. ο διέταξε η Ευρωπαϊκή Επιτροπή xAI να διατηρήσει όλα τα έγγραφα που σχετίζονται με το Grok chatbot, προπομπό για την έναρξη νέας έρευνας. και ο διαδικτυακός επόπτης ασφάλειας του Ηνωμένου Βασιλείου Η Ofcom άνοιξε επίσημη έρευνα βάσει του νόμου για την ασφάλεια στο Διαδίκτυο του Ηνωμένου Βασιλείου.
Το xAI έχει δεχθεί πυρκαγιά για τις σεξουαλικές εικόνες του Grok στο παρελθόν. Όπως επεσήμανε η AG Bonta σε μια δήλωση, το Grok περιλαμβάνει μια «πικάντικη λειτουργία» για τη δημιουργία ρητού περιεχομένου. Τον Οκτώβριο, μια ενημέρωση διευκόλυνε το jailbreak των μικρών οδηγιών ασφαλείας, με αποτέλεσμα πολλοί χρήστες να δημιουργούν σκληροπυρηνική πορνογραφία με τον Grok, καθώς και γραφικές και βίαιες σεξουαλικές εικόνες.
Πολλές από τις πιο πορνογραφικές εικόνες που έχει δημιουργήσει ο Γκροκ αφορούν ανθρώπους που έχουν δημιουργηθεί από τεχνητή νοημοσύνη – κάτι που πολλοί μπορεί να βρίσκουν ηθικά αμφίβολο αλλά ίσως λιγότερο επιβλαβές για τα άτομα στις εικόνες και τα βίντεο.
«Όταν τα συστήματα AI επιτρέπουν τη χειραγώγηση των εικόνων πραγματικών ανθρώπων χωρίς σαφή συναίνεση, ο αντίκτυπος μπορεί να είναι άμεσος και βαθιά προσωπικός», δήλωσε ο συνιδρυτής και διευθύνων σύμβουλος της Copyleaks, Alon Yamin, σε δήλωση που εστάλη μέσω email στο TechCrunch. “Από το Sora έως το Grok, βλέπουμε μια ταχεία άνοδο των δυνατοτήτων τεχνητής νοημοσύνης για χειραγωγημένα μέσα. Για τον σκοπό αυτό, ο εντοπισμός και η διακυβέρνηση χρειάζονται τώρα περισσότερο από ποτέ για να αποτραπεί η κακή χρήση.”
Via: techcrunch.com
