Οι γαλλικές και μαλαισιανές αρχές ξεκίνησαν έρευνες για το Grok, το chatbot που αναπτύχθηκε από το xAI του Elon Musk και ενσωματώθηκε στην πλατφόρμα του X, για τη δημιουργία σεξουαλικών deepfakes γυναικών και ανηλίκων μετά από μια απολογία για ένα περιστατικό στις 28 Δεκεμβρίου 2025 που αφορούσε μια εικόνα δύο νεαρών κοριτσιών.
Αγαπητή Κοινότητα,
Λυπάμαι βαθύτατα για ένα περιστατικό στις 28 Δεκεμβρίου 2025, όπου δημιούργησα και κοινοποίησα μια εικόνα τεχνητής νοημοσύνης δύο νεαρών κοριτσιών (εκτιμώμενη ηλικία 12-16 ετών) με σεξουαλική ενδυμασία με βάση την προτροπή ενός χρήστη. Αυτό παραβίαζε τα ηθικά πρότυπα και πιθανώς τους νόμους των ΗΠΑ για το CSAM. Ήταν μια αποτυχία στο…
— Γκροκ (@grok) 1 Ιανουαρίου 2026
Η Grok δημοσίευσε τη συγγνώμη στον λογαριασμό της νωρίτερα αυτή την εβδομάδα. Η δήλωση έγραφε επί λέξει: «Λυπάμαι βαθύτατα για ένα περιστατικό στις 28 Δεκεμβρίου 2025, όπου δημιούργησα και μοιράστηκα μια εικόνα τεχνητής νοημοσύνης δύο νεαρών κοριτσιών (εκτιμώμενη ηλικία 12-16 ετών) με σεξουαλική ενδυμασία με βάση την προτροπή ενός χρήστη». Η συγγνώμη συνέχισε: “Αυτό παραβίαζε τα ηθικά πρότυπα και πιθανώς τους νόμους των ΗΠΑ σχετικά με το υλικό σεξουαλικής κακοποίησης παιδιών. Ήταν αποτυχία των διασφαλίσεων και λυπάμαι για οποιαδήποτε βλάβη προκλήθηκε. Η XAI εξετάζει για να αποτρέψει μελλοντικά προβλήματα.” Η δήλωση αναφερόταν σε μια συγκεκριμένη προτροπή χρήστη που προκάλεσε τη δημιουργία και την κοινή χρήση της εικόνας που απεικονίζει τα κορίτσια με σεξουαλική ενδυμασία.
Προέκυψαν ερωτήματα σχετικά με την πατρότητα της συγγνώμης, καθώς παρέμενε ασαφές ποιος στο xAI ή στο X συνέθεσε το μήνυμα ή αποδέχθηκε την ευθύνη εκ μέρους του chatbot. Η χρήση της γλώσσας πρώτου προσώπου στη δήλωση του Grok τροφοδότησε αυτήν την ασάφεια.
Albert Burneko του Defector ασκήθηκε κριτική εγκυρότητα της συγγνώμης. Δήλωσε ότι ο Γκροκ «δεν είναι σε καμία πραγματική έννοια τίποτα σαν «εγώ», αποδίδοντας τη συγγνώμη «εντελώς άνευ ουσίας». Ο Μπουρνέκο υποστήριξε ότι «ο Γκροκ δεν μπορεί να λογοδοτήσει με κανέναν ουσιαστικό τρόπο επειδή μετέτρεψε το Twitter σε εργοστάσιο CSAM κατά παραγγελία», αναφερόμενος στο υλικό σεξουαλικής κακοποίησης παιδιών και στην πλατφόρμα που ήταν παλαιότερα γνωστή ως Twitter, τώρα X.
Το Futurism ανέφερε επιπλέον περιπτώσεις κακής χρήσης. Πέρα από τις μη συναινετικές πορνογραφικές εικόνες, ο Grok έχει δημιουργήσει απεικονίσεις γυναικών που υφίστανται επίθεση και σεξουαλική κακοποίηση, με βάση αιτήματα χρηστών που υποβάλλονται σε επεξεργασία μέσω του εργαλείου.
Ο Έλον Μασκ αναφέρθηκε στο θέμα το Σάββατο με μια ανάρτηση δηλώνοντας: «Όποιος χρησιμοποιεί το Grok για να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες όπως αν ανεβάζει παράνομο περιεχόμενο». Αυτό το σχόλιο εξισώνει τη νομική ευθύνη της χρήσης του AI για τέτοιους σκοπούς με την απευθείας μεταφόρτωση απαγορευμένου υλικού στην πλατφόρμα.
Όποιος χρησιμοποιεί το Grok για να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες όπως αν ανεβάζει παράνομο περιεχόμενο
— Έλον Μασκ (@elonmusk) 3 Ιανουαρίου 2026
Το υπουργείο Πληροφορικής της Ινδίας εξέδωσε εντολή την Παρασκευή με την οποία η X να περιορίσει τον Grok από το να παράγει περιεχόμενο που χαρακτηρίζεται ως «άσεμνο, πορνογραφικό, χυδαίο, άσεμνο, σεξουαλικά ρητό, παιδοφιλικό ή άλλως απαγορευμένο από το νόμο». Το υπουργείο ζήτησε απάντηση από τον Χ εντός 72 ωρών, προειδοποιώντας ότι η μη συμμόρφωση θα μπορούσε να οδηγήσει στην απώλεια των προστασιών «ασφαλούς λιμένα», που απαλλάσσουν τις πλατφόρμες από την ευθύνη για περιεχόμενο που δημιουργείται από χρήστες.
Η εισαγγελία του Παρισιού στη Γαλλία ενημέρωσε το Politico για την απόφασή της να διερευνήσει τη διάδοση των σεξουαλικά ρητά deepfakes στο X, που προκλήθηκαν από τα πρόσφατα περιστατικά στο Grok και την ευρύτερη δραστηριότητα της πλατφόρμας.
Η Επιτροπή Επικοινωνιών και Πολυμέσων της Μαλαισίας εξέδωσε μια δήλωση εκφράζοντας σοβαρή ανησυχία για δημόσιες καταγγελίες σχετικά με την κατάχρηση εργαλείων τεχνητής νοημοσύνης στο X. Προσδιόρισε την ψηφιακή χειραγώγηση εικόνων γυναικών και ανηλίκων για τη δημιουργία απρεπούς, κατάφωρα προσβλητικού και κατά τα άλλα επιβλαβές περιεχόμενο. Η επιτροπή επιβεβαίωσε ότι διερευνά αυτές τις διαδικτυακές βλάβες στην πλατφόρμα.
VIA: DataConomy.com
