Δύο χώρες μπλοκάρουν την εφαρμογή Grok μέσω CSAM που δημιουργείται από AI

Δύο χώρες έχουν μπλοκάρει την εφαρμογή Grok αφού χρησιμοποιήθηκε ευρέως για τη δημιουργία μη συναινετικών σχεδόν γυμνών deepfakes γυναικών και παιδιών. Μια τρίτη χώρα διεξάγει επί του παρόντος έρευνα.

Τρεις αμερικανοί γερουσιαστές ζήτησαν από την Apple να αφαιρέσει προσωρινά τόσο το X όσο και το Grok από το App Store των ΗΠΑ λόγω της «εξευτελιστικής δημιουργίας περιεχομένου» και ακόμη περιμένουμε την απάντηση της εταιρείας…

CSAM που δημιουργήθηκε με AI από την Grok

Το εργαλείο Grok AI είναι διαθέσιμο τόσο ως αυτόνομη εφαρμογή όσο και μέσω της εφαρμογής X. Είναι επίσης διαθέσιμο μέσω της καρτέλας Grok στον ιστότοπο X.

Υπήρξαν άφθονα στοιχεία ότι ο Grok δημιουργούσε μη συναινετικά, σχεδόν γυμνά ψεύτικα αληθινά άτομα, τραβώντας μια ντυμένη φωτογραφία και στη συνέχεια αφαιρούσε ψηφιακά ρούχα για να τα αντικαταστήσει με μπικίνι ή άλλα αποκαλυπτικά ρούχα. Ακόμη πιο ανησυχητικό είναι ότι μερικά από αυτά τα deepfakes ήταν παιδιά.

Ενώ οι γυμνές εικόνες θεωρητικά μπλοκάρονται από τον Grok, ορισμένοι χρήστες χρησιμοποιούν άμεση γλώσσα που λειτουργεί γύρω από αυτό.

Την Παρασκευή, τρεις γερουσιαστές των ΗΠΑ ζήτησαν από την Apple να αφαιρέσει προσωρινά και τις δύο εφαρμογές από το App Store, σημειώνοντας ότι οι μη συναινετικές εικόνες περιλάμβαναν υλικό σεξουαλικής κακοποίησης παιδιών (CSAM).

Οι γερουσιαστές Ron Wyden, Ed Markey και Ben Ray Luján έγραψαν μια ανοιχτή επιστολή στους Διευθύνοντες Συμβούλους της Apple και της Google, ζητώντας από τις δύο εταιρείες να αποσύρουν τις εφαρμογές X και Grok «εν αναμονή της πλήρους έρευνας» της «μαζικής παραγωγής μη συναινετικών σεξουαλικών εικόνων γυναικών και παιδιών».

Η επιστολή σημειώνει ότι ο πρώην διευθύνων σύμβουλος Έλον Μασκ απέτυχε να ενεργήσει και αντιπαραβάλλει την έλλειψη δράσης από την Apple και την Google με την ταχεία αφαίρεση της εφαρμογής ICEBlock κατόπιν αιτήματος του Λευκού Οίκου. Η μόνη απάντηση του Musk ήταν να περιορίσει τη δημιουργία X εικόνας σε συνδρομητές επί πληρωμή, κάτι που φαίνεται η πιο κυνική δυνατή ενέργεια, αλλά η ίδια δυνατότητα είναι προσβάσιμη σε οποιονδήποτε μέσω της καρτέλας Grok τόσο στον ιστότοπο όσο και στην εφαρμογή X.

Δύο χώρες μπλοκάρουν την εφαρμογή Grok

Associated Press αναφέρει ότι η Μαλαισία και η Ινδονησία έχουν αποκλείσει την εφαρμογή εντός των χωρών τους.

Οι ρυθμιστικές αρχές των δύο χωρών της Νοτιοανατολικής Ασίας δήλωσαν ότι οι υφιστάμενοι έλεγχοι δεν εμπόδιζαν τη δημιουργία και τη διάδοση ψευδούς πορνογραφικού περιεχομένου, ιδίως σε γυναίκες και ανηλίκους. Η κυβέρνηση της Ινδονησίας απέκλεισε προσωρινά την πρόσβαση στο Grok το Σάββατο και ακολούθησε η Μαλαισία την Κυριακή.

Η ρυθμιστική αρχή των ΜΜΕ της Βρετανίας Ofcom άνοιξε επίσης επίσημη έρευνα.

Υπήρξαν βαθύτατα ανησυχητικές αναφορές για χρήση του λογαριασμού Grok AI chatbot στο X για τη δημιουργία και την κοινή χρήση γυάλιστων εικόνων ανθρώπων – που μπορεί να ισοδυναμούν με οικεία κακοποίηση εικόνων ή πορνογραφία – και σεξουαλικές εικόνες παιδιών που μπορεί να ισοδυναμούν με υλικό σεξουαλικής κακοποίησης παιδιών […] Η Ofcom αποφάσισε να ξεκινήσει επίσημη έρευνα για να διαπιστωθεί εάν η X δεν έχει συμμορφωθεί με τις νομικές της υποχρεώσεις βάσει του Νόμου για την Ασφάλεια στο Διαδίκτυο.

Η Apple και η Google δεν έχουν απαντήσει ακόμη

Μέχρι τη στιγμή της σύνταξης, δεν έχει υπάρξει δημόσια απάντηση ούτε από την Apple ούτε από την Google και οι εφαρμογές παραμένουν διαθέσιμες στα αντίστοιχα καταστήματα εφαρμογών στις ΗΠΑ. Επικοινωνήσαμε με την Apple για σχόλια και θα ενημερώσουμε με οποιαδήποτε απάντηση.

Φωτογραφία: Μέλανι Βάσερ/Ξεβιδώστε