Μια μήνυση στο Νιου Τζέρσεϊ δείχνει πόσο δύσκολο είναι να καταπολεμήσεις το deepfake πορνό

Για περισσότερα από δύο χρόνια, μια εφαρμογή που ονομάζεται ClothOff τρομοκρατεί τις νεαρές γυναίκες στο Διαδίκτυο — και είναι τρελά δύσκολο να σταματήσει. Η εφαρμογή έχει αφαιρεθεί από τα δύο μεγάλα καταστήματα εφαρμογών και έχει απαγορευτεί από τις περισσότερες πλατφόρμες κοινωνικής δικτύωσης, αλλά εξακολουθεί να είναι διαθέσιμη στον ιστό και μέσω ενός bot Telegram. Τον Οκτώβριο, μια κλινική στη Νομική Σχολή του Γέιλ κατέθεσε μήνυση που θα καταργούσε πλήρως την εφαρμογή, αναγκάζοντας τους ιδιοκτήτες να διαγράψουν όλες τις εικόνες και να διακόψουν εντελώς τη λειτουργία τους. Αλλά η απλή εύρεση των κατηγορουμένων ήταν μια πρόκληση.

«Έχει ενσωματωθεί στις Βρετανικές Παρθένους Νήσους», εξηγεί ο καθηγητής John Langford, συν-επικεφαλής σύμβουλος στην αγωγή, «αλλά πιστεύουμε ότι διευθύνεται από έναν αδελφό και μια αδελφή και τη Λευκορωσία. Μπορεί ακόμη και να είναι μέρος ενός μεγαλύτερου δικτύου σε όλο τον κόσμο».

Είναι ένα πικρό μάθημα στον απόηχο της πρόσφατης πλημμύρας μη συναινετικής πορνογραφίας που δημιουργήθηκε από το xAI του Έλον Μασκ, το οποίο περιελάμβανε πολλά ανήλικα θύματα. Το υλικό σεξουαλικής κακοποίησης παιδιών είναι το πιο νόμιμα τοξικό περιεχόμενο στο διαδίκτυο — παράνομο για παραγωγή, μετάδοση ή αποθήκευση και σαρώνεται τακτικά σε κάθε σημαντική υπηρεσία cloud. Όμως, παρά τις έντονες νομικές απαγορεύσεις, εξακολουθούν να υπάρχουν λίγοι τρόποι αντιμετώπισης των δημιουργών εικόνας όπως το ClothOff, όπως δείχνει η περίπτωση του Langford. Οι μεμονωμένοι χρήστες μπορούν να διωχθούν, αλλά πλατφόρμες όπως η ClothOff και η Grok είναι πολύ πιο δύσκολη στην αστυνόμευση, αφήνοντας λίγες επιλογές για τα θύματα που ελπίζουν να βρουν δικαιοσύνη στο δικαστήριο.

Το παράπονο της κλινικής που είναι διαθέσιμο στο διαδίκτυοδίνει μια ανησυχητική εικόνα. Η ενάγουσα είναι μια ανώνυμη μαθήτρια γυμνασίου στο Νιου Τζέρσεϊ, της οποίας οι συμμαθητές χρησιμοποίησαν το ClothOff για να αλλάξουν τις φωτογραφίες της στο Instagram. Ήταν 14 ετών όταν τραβήχτηκαν οι αρχικές φωτογραφίες του Instagram, πράγμα που σημαίνει ότι οι εκδόσεις που έχουν τροποποιηθεί με AI έχουν ταξινομηθεί νομικά ως εικόνες κακοποίησης παιδιών. Όμως, παρόλο που οι τροποποιημένες εικόνες είναι ευθέως παράνομες, οι τοπικές αρχές αρνήθηκαν να διώξουν την υπόθεση, επικαλούμενη τη δυσκολία απόκτησης αποδεικτικών στοιχείων από συσκευές υπόπτων.

«Ούτε το σχολείο ούτε οι αρχές επιβολής του νόμου απέδειξαν ποτέ πόσο ευρέως διανεμήθηκε το CSAM της Jane Doe και άλλων κοριτσιών», αναφέρει η καταγγελία.

Ωστόσο, η δικαστική υπόθεση έχει προχωρήσει αργά. Η καταγγελία υποβλήθηκε τον Οκτώβριο και τους μήνες που πέρασαν, ο Λάνγκφορντ και οι συνάδελφοί του βρίσκονταν στη διαδικασία κοινοποίησης στους κατηγορουμένους — ένα δύσκολο έργο δεδομένης της παγκόσμιας φύσης της επιχείρησης. Μόλις εξυπηρετηθούν, η κλινική μπορεί να πιέσει για μια εμφάνιση στο δικαστήριο και, τελικά, μια απόφαση, αλλά στο μεταξύ το νομικό σύστημα έχει δώσει ελάχιστη άνεση στα θύματα του ClothOff.

Η υπόθεση Grok μπορεί να φαίνεται ως ένα απλούστερο πρόβλημα για να διορθωθεί. Το xAI του Elon Musk δεν κρύβεται και υπάρχουν πολλά χρήματα στο τέλος για δικηγόρους που μπορούν να κερδίσουν μια αξίωση. Αλλά το Grok είναι ένα εργαλείο γενικής χρήσης, το οποίο καθιστά πολύ πιο δύσκολο να λογοδοτήσει στο δικαστήριο.

«Το ClothOff σχεδιάστηκε και διατίθεται στην αγορά ειδικά ως συσκευή δημιουργίας εικόνων και βίντεο βαθιάς ψεύτικης πορνογραφίας», μου είπε ο Λάνγκφορντ. “Όταν μηνύετε ένα γενικό σύστημα στο οποίο οι χρήστες μπορούν να υποβάλουν ερωτήματα για όλα τα είδη των πραγμάτων, γίνεται πολύ πιο περίπλοκο.”

Ορισμένοι νόμοι των ΗΠΑ έχουν ήδη απαγορεύσει την βαθιά ψεύτικη πορνογραφία — κυρίως ο νόμος για να το αφαιρέσετε. Όμως, ενώ συγκεκριμένοι χρήστες παραβιάζουν σαφώς αυτούς τους νόμους, είναι πολύ πιο δύσκολο να λογοδοτήσει ολόκληρη η πλατφόρμα. Οι υφιστάμενοι νόμοι απαιτούν σαφείς αποδείξεις για πρόθεση βλάβης, κάτι που θα σήμαινε την παροχή αποδεικτικών στοιχείων που η xAI γνώριζε ότι το εργαλείο τους θα χρησιμοποιηθεί για την παραγωγή μη συναινετικής πορνογραφίας. Χωρίς αυτά τα στοιχεία, τα βασικά δικαιώματα πρώτης τροποποίησης του xAI θα παρείχαν σημαντική νομική προστασία.

«Όσον αφορά την Πρώτη Τροποποίηση, είναι ξεκάθαρο ότι το υλικό σεξουαλικής κακοποίησης παιδιών δεν αποτελεί προστατευμένη έκφραση», λέει ο Λάνγκφορντ. “Επομένως, όταν σχεδιάζετε ένα σύστημα για τη δημιουργία αυτού του είδους περιεχομένου, λειτουργείτε ξεκάθαρα εκτός αυτού που προστατεύεται από την Πρώτη Τροποποίηση. Αλλά όταν είστε ένα γενικό σύστημα στο οποίο οι χρήστες μπορούν να ρωτήσουν για όλα τα είδη των πραγμάτων, δεν είναι τόσο ξεκάθαρο.”

Ο ευκολότερος τρόπος για να ξεπεραστούν αυτά τα προβλήματα θα ήταν να δείξετε ότι το xAI είχε ηθελημένα αγνοήσει το πρόβλημα. Είναι μια πραγματική πιθανότητα, δεδομένη πρόσφατη αναφορά ότι ο Μασκ ζήτησε από τους υπαλλήλους να χαλαρώσουν τις διασφαλίσεις του Γκροκ. Αλλά ακόμα και τότε, θα ήταν μια πολύ πιο επικίνδυνη υπόθεση να αναλάβει.

«Οι λογικοί άνθρωποι μπορούν να πουν, ξέραμε ότι αυτό ήταν ένα πρόβλημα πριν από χρόνια», λέει ο Λάνγκφορντ. “Πώς μπορεί να μην είχατε πιο αυστηρούς ελέγχους για να βεβαιωθείτε ότι δεν θα συμβεί αυτό; Αυτό είναι ένα είδος απερισκεψίας ή γνώσης, αλλά είναι απλώς μια πιο περίπλοκη υπόθεση.”

Αυτά τα ζητήματα της Πρώτης Τροποποίησης είναι γιατί η μεγαλύτερη απώθηση του xAI προήλθε από δικαστικά συστήματα χωρίς ισχυρή νομική προστασία για την ελευθερία του λόγου. Τόσο η Ινδονησία όσο και η Μαλαισία έχουν λάβει μέτρα για να εμποδίσουν την πρόσβαση στο chatbot Grok, ενώ οι ρυθμιστικές αρχές στο Ηνωμένο Βασίλειο έχουν άνοιξε έρευνα που θα μπορούσε να οδηγήσει σε παρόμοια απαγόρευση. Άλλα προκαταρκτικά βήματα έχουν ληφθεί από την Ευρωπαϊκή Επιτροπή, τη Γαλλία, την Ιρλανδία, την Ινδία και τη Βραζιλία. Αντίθετα, καμία αμερικανική ρυθμιστική υπηρεσία δεν έχει εκδώσει επίσημη απάντηση.

Είναι αδύνατο να πούμε πώς θα επιλυθούν οι έρευνες, αλλά τουλάχιστον, η πλημμύρα εικόνων εγείρει πολλά ερωτήματα για να διερευνήσουν οι ρυθμιστικές αρχές – και οι απαντήσεις μπορεί να είναι καταδικαστικές.

«Εάν δημοσιεύετε, διανέμετε, διαδίδετε υλικό σεξουαλικής κακοποίησης παιδιών, παραβιάζετε ποινικές απαγορεύσεις και μπορείτε να λογοδοτήσετε», λέει ο Λάνγκφορντ. “Το δύσκολο ερώτημα είναι τι ήξερε ο Χ; Τι έκανε ή δεν έκανε ο Χ; Τι κάνουν τώρα ως απάντηση σε αυτό;”