Εκατοντάδες λογαριασμοί στο TikTok έχουν αποκτήσει δισεκατομμύρια προβολές χάρη σε περιεχόμενο που δημιουργείται με εργαλεία τεχνητής νοημοσύνης (ΤΝ). Σύμφωνα με πρόσφατη έκθεση της AI Forensics, μιας μη κερδοσκοπικής οργάνωσης με έδρα το Παρίσι, εντοπίστηκαν 354 λογαριασμοί που υπέβαλαν συνολικά 43.000 αναρτήσεις εντός ενός μήνα, συγκεντρώνοντας 4,5 δισ. προβολές.
Σύμφωνα με την AI Forensics, αρκετοί από τους λογαριασμούς αυτούς επιδιώκουν να χειραγωγήσουν τον αλγόριθμο του TikTok, δημοσιεύοντας μαζικά περιεχόμενο στην ελπίδα ότι κάποια ανάρτησή τους θα γίνει viral. Πιο συγκεκριμένα, ένας λογαριασμός ανάρτησε έως και 70 δημοσιεύσεις την ημέρα, γεγονός που υποδηλώνει αυτοματοποιημένη λειτουργία. Οι περισσότεροι από αυτούς τους λογαριασμούς δημιουργήθηκαν στα τέλη του περασμένου έτους.
Μόλις τον περασμένο μήνα, το TikTok παραδέχτηκε ότι υπήρχαν τουλάχιστον 1,3 δισ. αναρτήσεις που είχαν παραχθεί με ΤΝ στην πλατφόρμα. Κάθε μέρα, πάνω από 100 εκατομμύρια κομμάτια περιεχομένου εγκαθίστανται στο TikTok, κάτι που δείχνει ότι αυτές οι αναρτήσεις αποτελούν μόλις ένα μικρό τμήμα του συνολικού όγκου περιεχομένου. Επιπλέον, η πλατφόρμα έχει αρχίσει να επιτρέπει στους χρήστες να περιορίζουν την εμφάνιση περιεχομένου που έχει παραχθεί με ΤΝ. Από τους λογαριασμούς που δημοσίευαν τακτικά, οι μισοί επικεντρώνονταν στο γυναικείο σώμα.
Η AI Forensics ανακάλυψε ότι οι λογαριασμοί δεν ενημερώνουν το μισό από το περιεχόμενό τους, με λιγότερο από το 2% να φέρει την επίσημη ετικέτα ΤΝ του TikTok. Αυτό αυξάνει τον κίνδυνο παραπλάνησης των χρηστών. Οι ερευνητές σημείωσαν ότι αυτοί οι λογαριασμοί μπορεί να παραμένουν απαρατήρητοι από τους ελεγκτικούς μηχανισμούς του TikTok για μήνες, παρά την παράβαση των όρων χρήσης της πλατφόρμας. Πολλοί από τους λογαριασμούς που εντοπίστηκαν πλέον δεν υπάρχουν, με κάποιους να έχουν διαγραφεί από τους διαχειριστές του TikTok.
Πολλές αναρτήσεις περιλάμβαναν ψεύτικα δελτία ειδήσεων που προωθούσαν αντιμεταναστευτικές και σεξουαλικοποιημένες αφηγήσεις του γυναικείου σώματος, συμπεριλαμβανομένων τυχών που φαίνονται να είναι ανήλικα. Οι μισοί από τους δέκα πιο ενεργούς λογαριασμούς ανέβαζαν περιεχόμενο με θέμα το γυναικείο σώμα, ενώ ορισμένα από αυτά τα παραποιημένα δελτία ειδήσεων παρουσίαζαν ακόμη και λογότυπα γνωστών ΜΜΕ όπως το Sky News και το ABC.
Από την πλευρά του, το TikTok αντέτεινε ότι οι ισχυρισμοί της έκθεσης είναι «αβάσιμοι» και ότι η πλατφόρμα έχει στοχοποιηθεί έντονα σχετικά με ένα ζήτημα που αφορά πολλά κοινωνικά δίκτυα. Σύμφωνα με ρεπορτάζ του Guardian, σχεδόν το 1 στα 10 κανάλια με τη γρηγορότερη ανάπτυξη στο YouTube παγκοσμίως, ανάρτησαν αποκλειστικά περιεχόμενο που παράγεται από εργαλεία ΤΝ.
«Στο TikTok αφαιρούμε επιβλαβές περιεχόμενο δημιουργούμενο από ΤΝ, μπλοκάρουμε εκατοντάδες εκατομμύρια ψεύτικους λογαριασμούς (bots) και επενδύουμε σε κορυφαίες τεχνολογίες σήμανσης ΤΝ», ανέφερε εκπρόσωπος της πλατφόρμας.
Οι πιο δημοφιλείς λογαριασμοί που εντόπισε η AI Forensics, σύμφωνα με τον αριθμό των προβολών, δημοσίευαν περιεχόμενο που χαρακτηρίζεται ως «slop» — δηλαδή περιεχόμενο ΤΝ που είναι παράλογο ή αλλόκοτο και σχεδιασμένο να κατακλύζει τις ροές των χρηστών. Παραδείγματα περιλαμβάνουν ζώα που συμμετέχουν σε διαγωνισμούς και μωρά που μιλούν. Ορισμένα από αυτά τα βίντεο προβάλλονται ως «διασκεδαστικά» και «χαριτωμένα».
Οι οδηγίες του TikTok απαγορεύουν τη χρήση ΤΝ για τη δημιουργία ψεύτικων ειδήσεων και την απεικόνιση ανηλίκων ή ενηλίκων χωρίς τη συγκατάθεσή τους.
Οι ερευνητές τόνισαν ότι η μελέτη για τους αυτοματοποιημένους λογαριασμούς αναδεικνύει τη συχνότητα με την οποία η ΤΝ έχει ενσωματωθεί στην πλατφόρμα και στο ευρύτερο φαινόμενο του viral περιεχομένου. Αναλύοντας δεδομένα από τα μέσα Αυγούστου έως τα μέσα Σεπτεμβρίου, φάνηκε ότι ένα μέρος του περιεχομένου στοχεύει άμεσα στην οικονομική εκμετάλλευση των χρηστών, είτε μέσω ψεύτικων influencers που προωθούν συμπληρώματα υγείας, είτε μέσω διαφήμισης εργαλείων δημιουργίας viral περιεχομένου.
Η AI Forensics, που έχει επίσης αναδείξει την εξάπλωση περιεχομένου ΤΝ στο Instagram, χαιρετίζει την απόφαση του TikTok να επιτρέπει στους χρήστες να περιορίζουν την έκθεσή τους σε τέτοιου είδους περιεχόμενο — τονίζοντας ωστόσο ότι η σήμανση του περιεχομένου ΤΝ απαιτεί αυξημένη βελτίωση.
«Δεδομένων των σημαντικών αποτυχιών εντοπισμού αυτού του περιεχομένου, κάνουμε έκκληση για προσοχή στην αποτελεσματικότητα του νέου εργαλείου», πρόσθεσαν οι ερευνητές.
Οι ερευνητές προτείνουν επίσης ότι το TikTok θα έπρεπε να δημιουργήσει μια ειδική κατηγορία αποκλειστικά για περιεχόμενο που παράγεται από ΤΝ, ώστε να διαχωρίζεται σαφώς από το περιεχόμενο που παράγεται από ανθρώπους.
Διαβάστε επίσης: Γέμισε το TikTok με ψεύτικα AI βίντεο που δείχνουν ηλικιωμένους να «συλλαμβάνονται» από στελέχη της ΕΛ.ΑΣ.
ΠΗΓΗ: Guardian
