Νωρίτερα αυτή την εβδομάδα, το γραφείο του γενικού εισαγγελέα της Καλιφόρνια ανακοίνωσε ότι ερευνούσε το xAI σχετικά με αναφορές ότι το chatbot της startup, Grok, χρησιμοποιήθηκε για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων γυναικών και ανηλίκων. Την Παρασκευή, η κυβέρνηση ακολούθησε στέλνοντας επιστολή παύσης και παραίτησης στην εταιρεία, απαιτώντας να λάβει άμεσα μέτρα για να σταματήσει την παραγωγή μη συναινετικών εικόνων και CSAM — υλικό σεξουαλικής κακοποίησης παιδιών.
«Σήμερα, έστειλα στην xAI μια επιστολή παύσης και παραίτησης, απαιτώντας από την εταιρεία να σταματήσει αμέσως τη δημιουργία και τη διανομή deepfake, μη συναινετικών, προσωπικών εικόνων και υλικού σεξουαλικής κακοποίησης παιδιών», δήλωσε η California AG Rob Bonta. δελτίο τύπου. “Η δημιουργία αυτού του υλικού είναι παράνομη. Αναμένω πλήρως από την xAI να συμμορφωθεί αμέσως. Η Καλιφόρνια έχει μηδενική ανοχή για [CSAM].»
Το γραφείο της AG υποστήριξε επιπλέον ότι το xAI φαίνεται να «διευκολύνει τη μεγάλης κλίμακας παραγωγή» μη συναινετικών γυμνών, παρόμοια των οποίων «χρησιμοποιούνται για την παρενόχληση γυναικών και κοριτσιών στο διαδίκτυο». Ο οργανισμός είπε ότι αναμένει η xAI να αποδείξει ότι λαμβάνει μέτρα για την αντιμετώπιση αυτών των ζητημάτων εντός των επόμενων πέντε ημερών.
Στο επίκεντρο της αντίδρασης βρίσκεται η λειτουργία «πικάντικη» λειτουργίας του Grok, την οποία το xAI δημιούργησε για να δημιουργήσει ρητό περιεχόμενο. Το θέμα έχει εξαπλωθεί πέρα από την Καλιφόρνια. Η Ιαπωνία, ο Καναδάς και η Βρετανία έχουν ξεκινήσει έρευνες για το Grok και η Μαλαισία και η Ινδονησία έχουν αποκλείσει προσωρινά την πλατφόρμα εντελώς. Παρά το γεγονός ότι το xAI θέτει ορισμένους περιορισμούς στις δυνατότητες επεξεργασίας εικόνας αργά την Τετάρτητο γραφείο της California AG προχώρησε στην επιστολή παύσης και παραίτησης.
Ο λογαριασμός ασφαλείας του X είχε προηγουμένως κατήγγειλε αυτό το είδος δραστηριότητας χρήστη, λέγοντας: «Όποιος χρησιμοποιεί ή προτρέπει τον Grok να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες όπως αν ανεβάζει παράνομο περιεχόμενο». Το TechCrunch επικοινώνησε με το xAI για σχολιασμό και συναντήθηκε με ένα αυτοματοποιημένο email που λέει “Legacy Media Lies”. Η TC επικοινώνησε επίσης με το γραφείο της California AG για περισσότερες πληροφορίες.
Η έλευση των δωρεάν εργαλείων τεχνητής νοημοσύνης που δημιουργούνται οδήγησαν σε μια ανησυχητική διόγκωση μη συναινετικού σεξουαλικού υλικού. Πολλές πλατφόρμες έχουν αντιμετωπίσει αυτό το πρόβλημα, όχι μόνο το X. Η άθλια δραστηριότητα έχει τραβήξει την προσοχή όχι μόνο των ηγετών των κρατών αλλά και του Κογκρέσου. Πράγματι, την Πέμπτη, οι νομοθέτες έστειλαν επιστολή στα στελέχη πολλών εταιρειών – συμπεριλαμβανομένων των X, Reddit, Snap, TikTok, Alphabet και Meta – ρωτώντας πώς σχεδίαζαν να ανακόψουν τη διάδοση των σεξουαλικών deepfakes.
Via: techcrunch.com
