Η Ινδονησία μπλοκάρει το Grok για μη συναινετικά, σεξουαλικά deepfakes

Ινδονήσιοι αξιωματούχοι δήλωσαν το Σάββατο ότι αποκλείουν προσωρινά την πρόσβαση στο chatbot Grok του xAI.

Αυτή είναι μια από τις πιο επιθετικές κινήσεις μέχρι στιγμής από κυβερνητικούς αξιωματούχους που ανταποκρίνονται σε μια πλημμύρα σεξουαλοποιημένων εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη — που συχνά απεικονίζουν πραγματικές γυναίκες και ανηλίκους, και μερικές φορές δείχνει επίθεση και κακοποίηση — δημοσιεύτηκε από τον Grok ως απάντηση σε αιτήματα χρηστών στο κοινωνικό δίκτυο X. (Το X και το xAI αποτελούν μέρος της ίδιας εταιρείας.)

Σε μια δήλωση που κοινοποιήθηκε στον Guardian και άλλες εκδόσεις, ο υπουργός Επικοινωνιών και Ψηφιακών Υπηρεσιών της Ινδονησίας, Meutya Hafid, δήλωσε: «Η κυβέρνηση θεωρεί την πρακτική των μη συναινετικών σεξουαλικών ψεύτικα φέικ ως σοβαρή παραβίαση των ανθρωπίνων δικαιωμάτων, της αξιοπρέπειας και της ασφάλειας των πολιτών στον ψηφιακό χώρο».

Το υπουργείο φέρεται να έχει καλέσει επίσης αξιωματούχους Χ για να συζητήσουν το θέμα.

Οι ποικίλες κυβερνητικές απαντήσεις την περασμένη εβδομάδα περιλαμβάνουν εντολή του υπουργείου πληροφορικής της Ινδίας για την xAI να λάβει μέτρα για να αποτρέψει τον Grok να δημιουργήσει άσεμνο περιεχόμενο, καθώς και μια εντολή από την Ευρωπαϊκή Επιτροπή για την εταιρεία να διατηρήσει όλα τα έγγραφα που σχετίζονται με το Grok, κάτι που θα μπορούσε να αποτελέσει τη βάση για έρευνα.

Στο Ηνωμένο Βασίλειο, η ρυθμιστική αρχή επικοινωνιών Ofcom δήλωσε ότι θα «διενεργήσει μια ταχεία αξιολόγηση για να καθορίσει εάν υπάρχουν πιθανά ζητήματα συμμόρφωσης που δικαιολογούν διερεύνηση». Ο πρωθυπουργός Keir Starmer είπε σε συνέντευξή του η Ofcom έχει την «πλήρη υποστήριξή του για να αναλάβει δράση».

Και ενώ στις Ηνωμένες Πολιτείες, η κυβέρνηση Τραμπ φαίνεται να μένει σιωπηλή για το θέμα (ο Διευθύνων Σύμβουλος της xAI, Έλον Μασκ, είναι σημαντικός δωρητής του Τραμπ και ηγήθηκε του αμφιλεγόμενου Τμήματος Κυβερνητικής Αποτελεσματικότητας της κυβέρνησης πέρυσι), οι Δημοκρατικοί γερουσιαστές έχουν κάλεσε την Apple και την Google για να αφαιρέσουν το X από τα καταστήματα εφαρμογών τους.

Το xAI απάντησε αρχικά από δημοσιεύοντας μια φαινομενικά συγγνώμη σε πρώτο πρόσωπο στον λογαριασμό Grok, αναγνωρίζοντας ότι μια ανάρτηση «παραβίαζε τα ηθικά πρότυπα και ενδεχομένως τους νόμους των ΗΠΑ» σχετικά με υλικό σεξουαλικής κακοποίησης παιδιών. Αργότερα περιόρισε τη δυνατότητα δημιουργίας εικόνων AI στους συνδρομητές που πληρώνουν στο X, αν και αυτός ο περιορισμός δεν φάνηκε να επηρεάζει την ίδια την εφαρμογή Grok, η οποία εξακολουθούσε να επιτρέπει σε οποιονδήποτε να δημιουργεί εικόνες.

Σε απάντηση σε μια ανάρτηση που αναρωτιέται γιατί η κυβέρνηση του Ηνωμένου Βασιλείου δεν έλαβε μέτρα εναντίον άλλων εργαλείων δημιουργίας εικόνας AI, έγραψε ο Μασκ«Θέλουν οποιαδήποτε δικαιολογία για λογοκρισία».