Η Ινδία δίνει εντολή στο Musk’s X να διορθώσει τον Grok για “άσεμνο” περιεχόμενο AI

Η Ινδία διέταξε το Elon Musk’s X να κάνει άμεσες τεχνικές και διαδικαστικές αλλαγές στο chatbot Grok με τεχνητή νοημοσύνη, αφού χρήστες και νομοθέτες επισήμαναν τη δημιουργία «άσεμνου» περιεχομένου, συμπεριλαμβανομένων εικόνων γυναικών που έχουν τροποποιηθεί με AI που δημιουργήθηκαν χρησιμοποιώντας το εργαλείο.

Την Παρασκευή, το υπουργείο Πληροφορικής της Ινδίας εξέδωσε εντολή με την οποία έδωσε εντολή στο Musk’s X να λάβει διορθωτικά μέτρα για τον Grok, συμπεριλαμβανομένου του περιορισμού της δημιουργίας περιεχομένου που περιλαμβάνει «γυμνό, σεξουαλικότητα, σεξουαλικά ρητό ή άλλως παράνομο» υλικό. Το υπουργείο έδωσε επίσης στην πλατφόρμα των μέσων κοινωνικής δικτύωσης 72 ώρες για να υποβάλει μια έκθεση σχετικά με τα μέτρα που έχει λάβει για να αποτρέψει τη φιλοξενία ή τη διάδοση περιεχομένου που θεωρείται «άσεμνο, πορνογραφικό, χυδαίο, άσεμνο, σεξουαλικά ρητό, παιδοφιλικό ή άλλως απαγορευμένο από το νόμο».

Η εντολή, που εξετάστηκε από το TechCrunch, προειδοποίησε ότι η μη συμμόρφωση θα μπορούσε να θέσει σε κίνδυνο τις προστασίες του «ασφαλούς λιμανιού» της X — νομική ασυλία από την ευθύνη για περιεχόμενο που δημιουργείται από χρήστες σύμφωνα με την ινδική νομοθεσία.

Η κίνηση της Ινδίας ακολουθεί τις ανησυχίες που εκφράστηκαν από χρήστες που μοιράστηκαν παραδείγματα του Grok που ζητήθηκε να αλλάξει εικόνες ατόμων —κυρίως γυναικών— ώστε να φαίνονται να φορούν μπικίνι, προκαλώντας ένα επίσημη καταγγελία από την Ινδή βουλευτή Priyanka Chaturvedi. Ξεχωριστά, πρόσφατες αναφορές επισήμαναν περιπτώσεις στις οποίες το chatbot AI δημιούργησε σεξουαλικές εικόνες με ανηλίκουςένα τεύχος Χ αναγνώρισε νωρίτερα την Παρασκευή προκλήθηκε από κενά στα μέτρα ασφαλείας. Αυτές οι εικόνες αφαιρέθηκαν αργότερα.

Ωστόσο, οι εικόνες που δημιουργήθηκαν χρησιμοποιώντας το Grok που έκαναν τις γυναίκες να φαίνονται να φορούν μπικίνι μέσω αλλαγής τεχνητής νοημοσύνης παρέμειναν προσβάσιμες στο X τη στιγμή της δημοσίευσης, διαπίστωσε το TechCrunch.

Η τελευταία εντολή έρχεται λίγες μέρες αφότου το ινδικό υπουργείο Πληροφορικής εξέδωσε μια ευρύτερη συμβουλή τη Δευτέρα, η οποία εξετάστηκε επίσης από το TechCrunch, στις πλατφόρμες μέσων κοινωνικής δικτύωσης, υπενθυμίζοντάς τους ότι η συμμόρφωση με τους τοπικούς νόμους που διέπουν το άσεμνο και σεξουαλικό περιεχόμενο αποτελεί προϋπόθεση για τη διατήρηση της νομικής ασυλίας έναντι της ευθύνης για υλικό που δημιουργείται από χρήστες. Η συμβουλευτική προέτρεψε τις εταιρείες να ενισχύσουν τις εσωτερικές διασφαλίσεις και προειδοποίησε ότι η αποτυχία να το πράξουν θα μπορούσε να οδηγήσει σε νομικές ενέργειες σύμφωνα με τους νόμους πληροφορικής και ποινικής νομοθεσίας της Ινδίας.

«Επαναλαμβάνεται ότι η μη συμμόρφωση με τις παραπάνω απαιτήσεις θα ληφθεί σοβαρά υπόψη και μπορεί να οδηγήσει σε αυστηρές νομικές συνέπειες κατά της πλατφόρμας σας, των υπευθύνων της και των χρηστών της πλατφόρμας που παραβιάζουν το νόμο, χωρίς περαιτέρω ειδοποίηση», προειδοποιήθηκε η εντολή.

Η ινδική κυβέρνηση είπε ότι η μη συμμόρφωση θα μπορούσε να οδηγήσει σε ενέργειες κατά του X σύμφωνα με τη νομοθεσία πληροφορικής της Ινδίας και τους ποινικούς νόμους.

Η Ινδία, μια από τις μεγαλύτερες ψηφιακές αγορές στον κόσμο, έχει αναδειχθεί ως μια κρίσιμη δοκιμαστική περίπτωση για το πόσο μακριά είναι διατεθειμένες να φτάσουν οι κυβερνήσεις θεωρώντας τις πλατφόρμες υπεύθυνες για το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη. Οποιαδήποτε αυστηροποίηση της επιβολής στη χώρα θα μπορούσε να έχει κυματιστικές επιπτώσεις για τις παγκόσμιες εταιρείες τεχνολογίας που δραστηριοποιούνται σε πολλές δικαιοδοσίες.

Η εντολή έρχεται καθώς το Musk’s X συνεχίζει να αμφισβητεί πτυχές των κανόνων ρύθμισης περιεχομένου της Ινδίας στο δικαστήριο, υποστηρίζοντας ότι οι εξουσίες κατάργησης της ομοσπονδιακής κυβέρνησης κινδυνεύουν να υπερβούν, ακόμη και όταν η πλατφόρμα έχει συμμορφωθεί με την πλειοψηφία των οδηγιών αποκλεισμού. Ταυτόχρονα, το Grok χρησιμοποιείται όλο και περισσότερο από χρήστες X για έλεγχο γεγονότων και σχολιασμό ειδήσεων σε πραγματικό χρόνο, καθιστώντας τα αποτελέσματα του πιο ορατά – και πιο ευαίσθητα πολιτικά – από αυτά των μεμονωμένων εργαλείων AI.

Οι X και xAI δεν απάντησαν αμέσως στα αιτήματα για σχολιασμό σχετικά με την εντολή της ινδικής κυβέρνησης.