Η Google εισάγει στο πρόγραμμα περιήγησης Chrome ένα νέο επίπεδο άμυνας που ονομάζεται “User Alignment Critic” για να προστατεύσει τις επερχόμενες λειτουργίες περιήγησης τεχνητής νοημοσύνης με την υποστήριξη του Gemini.
Η περιήγηση μέσω πράκτορα είναι μια αναδυόμενη λειτουργία στην οποία ένας πράκτορας τεχνητής νοημοσύνης έχει ρυθμιστεί ώστε να εκτελεί αυτόνομα για τον χρήστη εργασίες πολλαπλών βημάτων στον Ιστό, όπως η πλοήγηση σε ιστότοπους, η ανάγνωση του περιεχομένου τους, το κλικ σε κουμπιά, η συμπλήρωση φορμών και η εκτέλεση μιας σειράς ενεργειών.
Το User Alignment Critic είναι ένα ξεχωριστό μοντέλο LLM που απομονώνεται από μη αξιόπιστο περιεχόμενο που λειτουργεί ως “συστατικό συστήματος υψηλής αξιοπιστίας”.
Ο Gemini είναι ο βοηθός τεχνητής νοημοσύνης της Google, ο οποίος μπορεί να δημιουργήσει κείμενο, πολυμέσα και κώδικα. Χρησιμοποιείται στο Android και σε διάφορες υπηρεσίες της Google και είναι ενσωματωμένο στο Chrome από τον Σεπτέμβριο.
Εκείνη την εποχή, η Google ανακοινώθηκε σχεδιάζει να προσθέσει δυνατότητες περιήγησης με πράκτορα στο Chrome μέσω Gemini και τώρα η εταιρεία εισάγει μια νέα αρχιτεκτονική ασφαλείας για την προστασία του.
Η νέα αρχιτεκτονική, που ανακοινώθηκε από τον μηχανικό της Google, Nathan Parker, μετριάζει τον κίνδυνο έμμεσης άμεσης έγχυσης, στην οποία κακόβουλο περιεχόμενο σελίδας χειραγωγεί πράκτορες τεχνητής νοημοσύνης ώστε να εκτελούν μη ασφαλείς ενέργειες που εκθέτουν δεδομένα χρήστη ή διευκολύνουν τις δόλιες συναλλαγές.
Ο Parker εξηγεί ότι το νέο σύστημα ασφαλείας περιλαμβάνει μια πολυεπίπεδη αμυντική προσέγγιση που συνδυάζει ντετερμινιστικούς κανόνες, προστασίες σε επίπεδο μοντέλου, όρια απομόνωσης και επίβλεψη χρήστη.
Οι βασικοί πυλώνες της νέας αρχιτεκτονικής είναι:
- Κριτική ευθυγράμμισης χρήστη – Ένα δεύτερο, απομονωμένο μοντέλο Gemini που δεν μπορεί να «δηλητηριαστεί» από κακόβουλα μηνύματα θα ελέγχει κάθε ενέργεια που θέλει να κάνει ο κύριος πράκτορας AI εξετάζοντας τα μεταδεδομένα και αξιολογώντας ανεξάρτητα την ασφάλειά του. Εάν η ενέργεια κριθεί επικίνδυνη ή άσχετη με τον στόχο που έχει θέσει ο χρήστης, διατάσσει μια επανάληψη ή επαναφορά του ελέγχου στον χρήστη.
Πηγή: Google
- Σετ προέλευσης – Περιορίζει την πρόσβαση των πρακτόρων στον ιστό και επιτρέπει αλληλεπιδράσεις μόνο με συγκεκριμένους ιστότοπους και στοιχεία. Οι μη σχετιζόμενες προελεύσεις, συμπεριλαμβανομένων των iframe, αποκρύπτονται πλήρως και μια αξιόπιστη συνάρτηση πύλης πρέπει να εγκρίνει νέες προελεύσεις. Αυτό αποτρέπει τη διαρροή δεδομένων μεταξύ τοποθεσιών και περιορίζει την ακτίνα έκρηξης ενός παραβιασμένου παράγοντα.
Πηγή: Google
- Επίβλεψη χρήστη – Όταν ο αντιπρόσωπος επισκέπτεται ευαίσθητους ιστότοπους, όπως πύλες τραπεζών ή απαιτεί τις συνδέσεις του Password Manager για πρόσβαση σε αποθηκευμένους κωδικούς πρόσβασης, το Chrome διακόπτει τη διαδικασία και ζητά από τον χρήστη να επιβεβαιώσει την ενέργεια με μη αυτόματο τρόπο.
Πηγή: Google
- Άμεση ανίχνευση έγχυσης – Ένας αποκλειστικός ταξινομητής στο Chrome σαρώνει σελίδες για έμμεσες προσπάθειες έγχυσης προτροπής. Αυτό το σύστημα λειτουργεί παράλληλα με την Ασφαλή περιήγηση και τον εντοπισμό απάτης στη συσκευή, αποκλείοντας ύποπτες κακόβουλες ενέργειες ή περιεχόμενο απάτης.
Αυτή η πολυεπίπεδη αμυντική προσέγγιση έναντι της περιήγησης μέσω πράκτορα δείχνει ότι η Google είναι πιο προσεκτική στο να παρέχει στα LLM της πρόσβαση στο πρόγραμμα περιήγησης από τους προμηθευτές παρόμοιων προϊόντων, οι οποίοι έδειξαν ότι οι ερευνητές είναι ευάλωτοι σε phishing, επιθέσεις έγκαιρης έγχυσης και αγορές από πλαστά καταστήματα.
Η Google έχει επίσης αναπτύξει αυτοματοποιημένα συστήματα red-teaming που δημιουργούν ιστοτόπους δοκιμών και επιθέσεις που βασίζονται σε LLM για να δοκιμάζουν συνεχώς άμυνες και να αναπτύσσουν νέες όπου απαιτείται, που προωθούνται γρήγορα στους χρήστες μέσω του μηχανισμού αυτόματης ενημέρωσης του Chrome.
“Δίνουμε επίσης προτεραιότητα σε επιθέσεις που θα μπορούσαν να οδηγήσουν σε μόνιμη βλάβη, όπως οικονομικές συναλλαγές ή διαρροή ευαίσθητων διαπιστευτηρίων”, η Google λέειπροσθέτοντας ότι οι μηχανικοί του θα λάβουν άμεσα σχόλια για το ποσοστό επιτυχίας των επιθέσεων και θα μπορούν να ανταποκρίνονται γρήγορα με διορθώσεις που παρέχονται μέσω του μηχανισμού αυτόματης ενημέρωσης του Chrome.
Για να τονώσει την έρευνα για την ασφάλεια σε αυτόν τον τομέα, η Google ανακοίνωσε πληρωμές επιχορηγήσεων έως και 20.000 $ για όποιον μπορεί να σπάσει το νέο σύστημα, καλώντας την κοινότητα να συμμετάσχει στην προσπάθεια δημιουργίας ενός ισχυρού πλαισίου περιήγησης με πράκτορες στο Chrome.
Το σπασμένο IAM δεν είναι απλώς ένα πρόβλημα πληροφορικής – ο αντίκτυπος κυματίζεται σε ολόκληρη την επιχείρησή σας.
Αυτός ο πρακτικός οδηγός καλύπτει γιατί οι παραδοσιακές πρακτικές IAM αποτυγχάνουν να συμβαδίζουν με τις σύγχρονες απαιτήσεις, παραδείγματα για το πώς φαίνεται το “καλό” IAM και μια απλή λίστα ελέγχου για τη δημιουργία μιας επεκτάσιμης στρατηγικής.
VIA: bleepingcomputer.com
