Το Grok, το chatbot της xAI, έχει προκαλέσει θύελλα αντιδράσεων καθώς αρχίζει να δημιουργεί εικόνες με σεξουαλικό περιεχόμενο που περιλαμβάνουν άτομα, συμπεριλαμβανομένων ανηλίκων. Η τεχνητή νοημοσύνη του Elon Musk υπόκειται σε αυστηρή κριτική από παγκόσμιους αξιωματούχους, με την γαλλική κυβέρνηση να εκφράζει τις ανησυχίες της για την ασφάλεια και την ηθική διάσταση αυτής της δημιουργίας.
Σύμφωνα με πληροφορίες, το Grok παραβιάζει την πολιτική αποδεκτής χρήσης της xAI, καθώς γεννά εικόνες ανηλίκων ντυμένων προκλητικά, κάτι που απαγορεύεται ρητά από την εταιρεία. Παρά τις ενέργειες που έγιναν για την αφαίρεση αρκετών από αυτές τις εικόνες από την πλατφόρμα X, η ζημία έχει ήδη προκληθεί.
Η γαλλική κυβέρνηση καταδίκασε την Παρασκευή τη δράση του Grok, χαρακτηρίζοντας το περιεχόμενο «σαφώς παράνομο» και απουσία συγκατάθεσης από τα πρόσωπα που εικονίζονται. Επισημαίνεται ότι αυτό μπορεί να παραβιάζει τον Νόμο περί Ψηφιακών Υπηρεσιών της Ευρωπαϊκής Ένωσης, ο οποίος απαιτεί από τις μεγάλες ψηφιακές πλατφόρμες να λάβουν μέτρα κατά της διάδοσης παράνομου περιεχομένου.
Παρόλο που η xAI δεν έχει εκδώσει επισήμως δηλώσεις, ο Grok δημοσίευσε μια ανάρτηση μέσω του X για να απαντήσει στις ανησυχίες των χρηστών. Στην ανάρτηση, αναγνωρίστηκαν κενά στις διασφαλίσεις που έχουν ήδη διορθωθεί. Ο Parsa Tajik, υπάλληλος της xAI, δήλωσε ότι η ομάδα εξετάζει την ενίσχυση των προστατευτικών μέτρων.
Αυτή η κρίση φανερώνει την ανωριμότητα της τεχνητής νοημοσύνης και την έλλειψη κατάλληλου νομικού πλαισίου που να ρυθμίζει τη δράση της στις δημόσιες πλατφόρμες. Εάν επιβάλλονταν αυστηρές ποινές σε εταιρείες που δημιουργούν ή επιτρέπουν την παραγωγή παράνομου περιεχομένου, ίσως οι δημιουργοί τεχνολογιών να προσέχουν παραπάνω. Οι κανόνες που ισχύουν για τους ανθρώπους δεν έχουν ακόμα εφαρμοστεί στην τεχνολογία.
Επιπλέον, το γεγονός ότι οποιοσδήποτε μπορεί εύκολα να ξεγελάσει το chatbot για να δημιουργήσει παράνομο περιεχόμενο μέσω απλών εντολών από το διαδίκτυο αποδεικνύει την ανωριμότητα και την ανεπάρκεια των εργαλείων αυτής της τεχνολογίας. Η παραγωγή παράνομου περιεχομένου, συμπεριλαμβανομένων εικόνων σεξουαλικής κακοποίησης, έχει σημειώσει αύξηση 400% στο πρώτο τρίμηνο του 2025.
Μετά τις πρόσφατες αυξήσεις τιμών στις μνήμες, αναμένεται μεγάλη έλλειψη στους γρηγορότερους επεξεργαστές γραφικών!
Έχοντας υπόψη ότι η παραγωγή εικόνων είναι η πιο συχνή χρήση του AI από το κοινό, πολλές εταιρείες επιβάλλουν αυστηρούς κανόνες, απαγορεύοντας τη δημιουργία σεξουαλικού περιεχομένου, και ειδικά αυτό που αφορά ανηλίκους. Υπάρχουν πολλά εργαλεία στην αγορά που αρνούνται να επεξεργαστούν ή να τροποποιήσουν φωτογραφίες ανηλίκων, ακόμη και κάτω από πολύ «σεμνές» προτροπές. Η Black Forest Labs, μια νεοσύστατη επιχείρηση τεχνητής νοημοσύνης, δηλώνει ότι φιλτράρει εικόνες κακοποίησης και εκμετάλλευσης παιδιών από τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των μοντέλων.
Ωστόσο, το 2023, ερευνητές ανακάλυψαν μια ανησυχητική ποσότητα δεδομένων που έχουν χρησιμοποιηθεί για την εκπαίδευση γνωστών μοντέλων τεχνητής νοημοσύνης, περιλαμβάνοντας τουλάχιστον 1.008 περιπτώσεις σεξουαλικής κακοποίησης ανηλίκων.
Προβλήματα όπως αυτά του Grok δεν είναι μια νέα υπόθεση, καθώς πολλές εταιρείες έχουν εκφράσει λύπηση και έχουν δεσμευτεί να προχωρήσουν σε διορθωτικές ενέργειες για την αποτροπή παρόμοιων περιστατικών στο μέλλον. Για παράδειγμα, η Meta στο παρελθόν επέτρεπε ρομαντικές συνομιλίες ανάμεσα σε ανήλικους και το chatbot της.
Όσο δεν θεσπίζονται σαφείς κανόνες γύρω από την τεχνητή νοημοσύνη, με τις εταιρείες να έχουν σχεδόν ελεύθερη δράση, τα πράγματα θα συνεχίσουν να επιδεινώνονται. Η απουσία ελέγχου μπορεί να οδηγήσει σε σοβαρές καταστάσεις, γελοιοποιώντας τις βέλτιστες πρακτικές και την ηθική. Η ταχύτητα με την οποία εξελίσσονται τα γεγονότα είναι το πιο ανησυχητικό σημείο της όλης κατάσταση.
