Η Google προχωρά σε σημαντικές εξελίξεις στον τομέα της ανίχνευσης της παραπληροφόρησης, ενσωματώνοντας μια νέα καινοτόμο δυνατότητα στο οικοσύστημα του Gemini. Αυτή η δυνατότητα επιτρέπει την αναγνώριση εικόνων που έχουν δημιουργηθεί ή τροποποιηθεί από τεχνητή νοημοσύνη, προσφέροντας ένα απαραίτητο εργαλείο στην εποχή που οι παραπλανητικές πληροφορίες proliferate.
Η τεχνολογία που υποστηρίζει αυτή τη νέα δυνατότητα φέρει την ονομασία SynthID. Εδώ και το 2023, το SynthID λειτουργεί ως μια αόρατη ψηφιακή υδατογράφηση, η οποία ενσωματώνεται σε κατασκευασμένες από AI εικόνες. Αξιοσημείωτο είναι ότι το SynthID αφήνει ένα αναγνωρίσιμο αποτύπωμα, το οποίο παραμένει άθικτο, ακόμη και σε περιπτώσεις επεξεργασίας ή συμπίεσης της εικόνας. Με αυτόν τον τρόπο, το Gemini μπορεί να αναγνωρίζει πότε μια εικόνα έχει παραγωγή από τα εργαλεία της Google, προσφέροντας επιπλέον διαφάνεια σε ένα δυσδιάκριτο τοπίο.
Πριν την ευρύτερη κυκλοφορία της δυνατότητας, η Google πραγματοποίησε δοκιμές μέσω του SynthID Detector, ενός εργαλείου το οποίο είναι διαθέσιμο σε δημοσιογράφους και επαγγελματίες του χώρου των media. Αυτό το online verification portal είχε τη δυνατότητα να εντοπίζει περιεχόμενο που έχει παραχθεί από AI και να επισημαίνει τα τμήματα που φέρουν το κρυφό watermark. Η προσθήκη αυτής της λειτουργίας στο Gemini καθιστά την ανίχνευση πιο προσβάσιμη στους τελικούς χρήστες.
Ο χρήστης μπορεί να ανεβάσει μια εικόνα και να ρωτήσει «Δημιουργήθηκε από την Google AI;». Το Gemini αναλύει το SynthID watermark και παρέχει όχι μόνο απλή απάντηση αλλά και επιπλέον πληροφορίες σχετικά με την εικόνα, χρησιμοποιώντας τις reasoning δυνατότητές του. Εντός των επόμενων μηνών, η Google σκοπεύει να επεκτείνει αυτή τη δυνατότητα και σε άλλες μορφές περιεχομένου, όπως ήχος και βίντεο, με την ενσωμάτωση του SynthID σε περισσότερα προϊόντα της, περιλαμβανομένου του Google Search.
Ωστόσο, η συζήτηση γύρω από την αναγνώριση περιεχομένου που έχει παραχθεί από AI ξεπερνά τη Google. Η αύξηση της παραπλανητικής πληροφορίας και των deepfakes έχει κινητοποιήσει πολλές μεγάλες τεχνολογικές εταιρείες. Η Google συμμετέχει στην C2PA, μια συνεργασία που περιλαμβάνει κολοσσούς όπως η Adobe, η OpenAI, η Meta και η Microsoft. Σε αντίθεση με το SynthID, που είναι ιδιωτικό σύστημα της Google, το C2PA προτείνει ένα ανοιχτό πρότυπο που ενσωματώνει ασφαλή metadata σε εικόνες, βίντεο και ήχο, διευκολύνοντας την επαλήθευση της πηγής τους.
Η Adobe έχει ήδη αναπτύξει το δικό της εργαλείο watermarking με βάση το C2PA, ενώ η Google ανακοίνωσε ότι το νέο μοντέλο παραγωγής εικόνας Nano Banana Pro θα ενσωματώσει C2PA metadata σε κάθε αρχείο. Αυτή η υποστήριξη θα επεκταθεί και σε άλλες πλατφόρμες όπως το Vertex AI και το Google Ads, δείχνοντας τη δέσμευση της εταιρείας για μια πιο ολιστική μέθοδο στην ιχνηλάτηση του ψηφιακού περιεχομένου.
Μέχρι τώρα, η Google έχει ήδη ενσωματώσει C2PA credentials σε υπηρεσίες όπως το YouTube, το Google Search, τα Pixel και τις Φωτογραφίες. Το επόμενο βήμα είναι ο συνδυασμός των SynthID και C2PA μέσα στα verification εργαλεία της, δίνοντας τη δυνατότητα στους χρήστες να ελέγχουν την προέλευση περιεχομένου, ακόμα και αν αυτό δεν έχει παραχθεί εντός του οικοσυστήματός της. Εάν αυτό το σχέδιο υλοποιηθεί, το Gemini και άλλα προϊόντα της Google θα μπορέσουν να ανιχνεύουν όχι μόνο τη δική τους ψηφιακή σφραγίδα, αλλά και πιστοποιήσεις από άλλες εταιρείες, ενισχύοντας έτσι την εμπιστοσύνη και τη διαφάνεια στον ψηφιακό κόσμο.
