Το TikTok και άλλες δημοφιλείς πλατφόρμες κοινωνικής δικτύωσης φιλοξενούν deepfake βίντεο, που δημιουργούνται με τη βοήθεια τεχνητής νοημοσύνης. Σε αυτά τα βίντεο, άτομα που παριστάνουν γιατρούς προωθούν συμπληρώματα διατροφής και διαδίδουν παραπλανητικές πληροφορίες σχετικά με θέματα υγείας. Σύμφωνα με έρευνα της οργάνωσης ελέγχου γεγονότων Full Fact, έχουν εντοπιστεί εκατοντάδες τέτοια βίντεο που κατευθύνουν τους χρήστες προς την εταιρεία Wellness Nest, μια αμερικανική εταιρεία που προσφέρει συμπληρώματα διατροφής.
Αξιοσημείωτο είναι ότι όλα τα deepfake βίντεο βασίζονται σε υπαρκτό υλικό από ειδικούς υγείας, αλλά η εικόνα και ο ήχος έχουν επεξεργαστεί, κάνοντας τους να φαίνονται ότι προτείνουν προϊόντα όπως προβιοτικά. Αυτές οι αποκαλύψεις έχουν φέρει στο προσκήνιο την ανάγκη για αυστηρότερη παρακολούθηση του περιεχομένου που παράγεται με τεχνητή νοημοσύνη, καθώς και για ταχύτερη αφαίρεση παραπλανητικού υλικού.
«Πρόκειται για μια σκοτεινή και ανησυχητική στρατηγική», δήλωσε ο Λίο Μπενέντικτους, ανώτερος ερευνητής στο Full Fact. Η χρήση deepfake τεχνολογίας από τους δημιουργούς αυτών των βίντεο μπορεί να επιδράσει αρνητικά στην δημόσια υγεία, καθώς προσπαθούν να κάνουν τους χρήστες να εμπιστευτούν προϊόντα που δεν είναι επιστημονικά τεκμηριωμένα.
Ο καθηγητής Ντέιβιντ Τέιλορ-Ρόμπινσον, ειδικός στις ανισότητες υγείας στο Πανεπιστήμιο του Λίβερπουλ, είναι μεταξύ αυτών που είδαν την εικόνα τους να παραποιείται. Έμεινε σοκαρισμένος όταν ανακάλυψε ότι το TikTok φιλοξενούσε 14 ψευδή βίντεο που τον έδειχναν να προτείνει προϊόντα με ανυπόστατα οφέλη.
Αν και ο Τέιλορ-Ρόμπινσον είναι ειδικός σε θέματα παιδιατρικής υγείας, στην εκδοχή του deepfake τον παρουσίαζαν να μιλάει για μια φερόμενη παρενέργεια της εμμηνόπαυσης. Στο βίντεο, φέρεται να προτρέπει τις γυναίκες να επισκεφτούν την ιστοσελίδα της Wellness Nest για να αγοράσουν «φυσικά προβιοτικά» που υποτίθεται ότι περιλαμβάνουν φυτικά εκχυλίσματα για τη θεραπεία συμπτωμάτων της εμμηνόπαυσης.
Ο καθηγητής ενημερώθηκε για τα βίντεο από μια συνάδελφό του και αρχικά θεώρησε την εμπειρία σουρεαλιστική. Ωστόσο, η ιδέα ότι κάποιοι χρησιμοποιούσαν την εικόνα του για να προωθήσουν προϊόντα, τον απασχολούσε ολοένα και περισσότερο.
Τα υλικά που χρησιμοποιήθηκαν για τη σύνθεση των deepfake βίντεο προήλθαν από μια ομιλία του το 2017 και από μια κοινοβουλευτική ακρόαση του Μαΐου. Σε ένα από τα βίντεο, εμφανιζόταν να κάνει προσβλητικά σχόλια για την εμμηνόπαυση.
Το TikTok αφαίρεσε τα επίμαχα βίντεο έπειτα από έξι εβδομάδες από την καταγγελία του καθηγητή. «Ενημέρωσαν ότι κάποια βίντεο παραβίαζαν τις οδηγίες τους, ενώ άλλα όχι. Αυτό ήταν παράλογο, καθώς όλα περιλάμβαναν το πρόσωπό μου και ήταν deepfake», ανέφερε.
Διαβάστε επίσης: Αυστραλία: Μέτρα κατά των deepfake γυμνών εικόνων και της διαδικτυακής παρακολούθησης.
Η οργάνωση Full Fact εντόπισε παρόμοια deepfake βίντεο στο Facebook, X και YouTube, όλα σε σχέση με την Wellness Nest ή την βρετανική της παρακλάδι, τη Wellness Nest UK.
Η Wellness Nest δήλωσε στο Full Fact ότι τα deepfake βίντεο «δεν σχετίζονται» με την εταιρεία και ότι δεν χρησιμοποιεί περιεχόμενο που δημιουργήθηκε με τεχνητή νοημοσύνη, αν και δεν μπορεί να ελέγξει συνεργάτες σε όλο τον κόσμο.
Εκπρόσωπος του TikTok δήλωσε: «Αφαιρέσαμε αυτό το περιεχόμενο γιατί παραβιάζει τους κανόνες μας κατά της παραπληροφόρησης. Προβλήματα που αφορούν περιεχόμενο που δημιουργείται με AI είναι προκλήσεις για ολόκληρη τη βιομηχανία, και συνεχίζουμε να επενδύουμε σε νέες μεθόδους για τον εντοπισμό και την αφαίρεση παραπλανητικού περιεχομένου».
ΠΗΓΗ: Guardian
