Η Microsoft αποκάλυψε ένα ελάττωμα απορρήτου, Whisper Leakεπιτρέποντας την παρακολούθηση των συνδέσεων στο Διαδίκτυο για να συμπεράνουμε θέματα συνομιλίας chatbot AI, παρά την κρυπτογράφηση, που επηρεάζει το απόρρητο των χρηστών.
Η ευπάθεια εκμεταλλεύεται το μοτίβο της ροής δεδομένων μεταξύ των χρηστών και των υπηρεσιών τεχνητής νοημοσύνης. Ενώ το πραγματικό περιεχόμενο παραμένει κρυπτογραφημένο, ο ρυθμός και το μέγεθος των πακέτων δεδομένων παρέχουν αρκετές πληροφορίες για μια ενημερωμένη εικασία σχετικά με τα θέματα συνομιλίας.
Αυτή η διαδικασία είναι ανάλογη με τη διακριτική δραστηριότητα μέσα από ένα παγωμένο παράθυρο με παρατήρηση μοτίβων κίνησης. Το Whisper Leak αναλύει τόσο το μέγεθος όσο και το χρονοδιάγραμμα των κρυπτογραφημένων πακέτων δεδομένων για να συμπεράνει τα θέματα συζήτησης.
Έρευνα από τους ειδικούς ασφαλείας της Microsoft, Jonathan Bar Or και Geoff McDonald, και την ερευνητική ομάδα ασφαλείας του Microsoft Defender, δείχνει ότι αυτή η ευπάθεια προέρχεται από chatbot AI που εμφανίζουν απαντήσεις λέξη προς λέξη. Αυτή η δυνατότητα ροής, σχεδιασμένη για φυσική ροή συνομιλιών, δημιουργεί κατά λάθος κίνδυνο προστασίας της ιδιωτικής ζωής.
Η επίθεση λειτουργεί εξετάζοντας το μέγεθος του πακέτου δεδομένων και το χρονοδιάγραμμα. Οι οντότητες που είναι σε θέση να παρακολουθούν την κυκλοφορία στο Διαδίκτυο, συμπεριλαμβανομένων των κυβερνητικών υπηρεσιών σε επίπεδο ISP, των χάκερ τοπικών δικτύων ή των ατόμων σε κοινόχρηστα δίκτυα Wi-Fi, θα μπορούσαν να χρησιμοποιήσουν αυτήν την τεχνική. Δεν χρειάζεται να αποκρυπτογραφήσουν το περιεχόμενο συνομιλίας.
Για να αποδείξουν την ευπάθεια, οι ερευνητές της Microsoft εκπαίδευσαν προγράμματα υπολογιστών χρησιμοποιώντας τεχνητή νοημοσύνη για να αναγνωρίζουν μοτίβα συνομιλίας. Αυτά τα προγράμματα δοκίμασαν chatbots AI από τα Mistral, xAI, DeepSeek και OpenAI, προσδιορίζοντας σωστά συγκεκριμένα θέματα συνομιλίας με πάνω από Ακρίβεια 98%..
Η αποτελεσματικότητα του Whisper Leak αυξάνεται με παρατεταμένη χρήση. Καθώς ένας εισβολέας συγκεντρώνει περισσότερα παραδείγματα συνομιλιών για συγκεκριμένο θέμα, το λογισμικό ανίχνευσης βελτιώνεται. Η παρακολούθηση πολλαπλών συνομιλιών από ένα άτομο ενισχύει περαιτέρω την ακρίβεια.
Η Microsoft δήλωσε ότι οι αντίπαλοι ασθενείς με επαρκείς πόρους θα μπορούσαν να επιτύχουν ποσοστά επιτυχίας υψηλότερα από το αρχικό ποσοστό 98%.
Μεγάλοι πάροχοι τεχνητής νοημοσύνης αντιμετωπίζουν αυτό το ζήτημα. Μετά την αναφορά της Microsoft, οι OpenAI, Microsoft και Mistral εφάρμοσαν μια λύση: προσθέτοντας τυχαίες ασυναρτησίες διαφορετικού μήκους στις απαντήσεις. Αυτό το padding διαταράσσει τα μοτίβα στα οποία βασίζονται οι επιτιθέμενοι, εξουδετερώνοντας την επίθεση.
Αυτό το αντίμετρο είναι συγκρίσιμο με την προσθήκη τυχαίας στατικής σε ένα ραδιοσήμα. Το μήνυμα παραμένει σαφές στον παραλήπτη, αλλά η ανάλυση του μοτίβου μετάδοσης γίνεται δύσκολη λόγω του εισαγόμενου θορύβου.
Για χρήστες που ανησυχούν για το απόρρητο chatbot AI, η Microsoft συνιστά διάφορες προφυλάξεις:
- Αποφύγετε να συζητάτε ευαίσθητα θέματα σε δημόσια ή μη αξιόπιστα δίκτυα Wi-Fi.
- Χρησιμοποιήστε ένα εικονικό ιδιωτικό δίκτυο (VPN)το οποίο κρυπτογραφεί την κυκλοφορία μέσω μιας σήραγγας.
- Επαληθεύστε εάν η υπηρεσία AI σας διαθέτει προστασία ενάντια στο Whisper Leak. Οι OpenAI, Microsoft και Mistral έχουν αναπτύξει διορθώσεις.
- Εξετάστε εναλλακτικές λύσεις αντί της βοήθειας AI για εξαιρετικά ευαίσθητα θέματα ή αναβάλετε τις συζητήσεις μέχρι να είναι διαθέσιμο ένα πιο ασφαλές δίκτυο.
VIA: DataConomy.com
