Η Google αναφέρει λεπτομερώς τα μέτρα ασφαλείας για τις αντιπροσωπευτικές λειτουργίες του Chrome

Ένας αυξανόμενος αριθμός προγραμμάτων περιήγησης πειραματίζεται με λειτουργίες αντιπροσώπων που θα προβούν σε ενέργειες για λογαριασμό σας, όπως κράτηση εισιτηρίων ή αγορές για διαφορετικά είδη. Ωστόσο, αυτές οι πρακτορικές ικανότητες επίσης έλα με κινδύνους ασφαλείας που θα μπορούσαν να οδηγήσουν σε απώλεια δεδομένων ή χρημάτων.

Η Google περιέγραψε λεπτομερώς την προσέγγισή της στον χειρισμό της ασφάλειας των χρηστών στο Chrome χρησιμοποιώντας μοντέλα παρατηρητή και συναίνεση για δράση χρήστη. Η εταιρεία έκανε προεπισκόπηση των δυνατοτήτων agent στο Chrome τον Σεπτέμβριο και είπε ότι αυτές οι δυνατότητες θα κυκλοφορήσουν τους επόμενους μήνες.

Η εταιρεία είπε ότι χρησιμοποιεί τη βοήθεια μερικών μοντέλων για να κρατήσει υπό έλεγχο τις πρακτορικές ενέργειες. Η Google είπε ότι δημιούργησε ένα User Alignment Critic χρησιμοποιώντας το Gemini για να ελέγξει τα στοιχεία ενεργειών που δημιουργήθηκαν από το μοντέλο σχεδιασμού για μια συγκεκριμένη εργασία. Εάν το μοντέλο κριτικής πιστεύει ότι οι προγραμματισμένες εργασίες δεν εξυπηρετούν τον στόχο του χρήστη, ζητά από το μοντέλο σχεδιαστή να επανεξετάσει τη στρατηγική. Η Google σημείωσε ότι το μοντέλο κριτικής βλέπει μόνο τα μεταδεδομένα της προτεινόμενης ενέργειας και όχι το πραγματικό περιεχόμενο ιστού.

Επιπλέον, για να εμποδίσει τους πράκτορες να έχουν πρόσβαση σε μη επιτρεπόμενους ή αναξιόπιστους ιστότοπους, η Google χρησιμοποιεί σύνολα προέλευσης αντιπροσώπων, τα οποία περιορίζουν το μοντέλο να έχει πρόσβαση σε προελεύσεις μόνο για ανάγνωση και προελεύσεις με δυνατότητα εγγραφής για ανάγνωση. Η προέλευση μόνο για ανάγνωση είναι δεδομένα από τα οποία επιτρέπεται στους Διδύμους να καταναλώνουν περιεχόμενο. Για παράδειγμα, σε έναν ιστότοπο αγορών, οι καταχωρίσεις είναι σχετικές με την εργασία, αλλά οι διαφημίσεις banner δεν είναι. Ομοίως, η Google είπε ότι ο πράκτορας επιτρέπεται να κάνει κλικ ή να πληκτρολογεί μόνο ορισμένα iframe μιας σελίδας.

“Αυτή η οριοθέτηση επιβάλλει ότι μόνο δεδομένα από ένα περιορισμένο σύνολο προελεύσεων είναι διαθέσιμα στον πράκτορα και αυτά τα δεδομένα μπορούν να μεταβιβαστούν μόνο στις εγγράψιμες προελεύσεις. Αυτό περιορίζει το διάνυσμα απειλής των διαρροών δεδομένων μεταξύ προέλευσης. Αυτό δίνει επίσης στο πρόγραμμα περιήγησης τη δυνατότητα να επιβάλει μέρος αυτού του διαχωρισμού, όπως με το να μην αποστέλλει καν στο μοντέλο δεδομένα, που είναι εκτός της ανάρτησης σε ένα αναγνώσιμο σύνολο δεδομένων.

Η Google παρακολουθεί επίσης την πλοήγηση στη σελίδα διερευνώντας τις διευθύνσεις URL μέσω ενός άλλου μοντέλου παρατηρητή. Αυτό μπορεί να αποτρέψει την πλοήγηση σε επιβλαβείς διευθύνσεις URL που δημιουργούνται από μοντέλα, είπε η εταιρεία.

Ο γίγαντας της αναζήτησης είπε ότι παραδίδει επίσης τα ηνία σε χρήστες για ευαίσθητες εργασίες. Για παράδειγμα, όταν ένας πράκτορας προσπαθεί να πλοηγηθεί σε έναν ευαίσθητο ιστότοπο με πληροφορίες όπως τραπεζικά ή ιατρικά δεδομένα σας, ρωτά πρώτα τον χρήστη. Για ιστότοπους που απαιτούν σύνδεση, θα ζητήσει από τον χρήστη άδεια να επιτρέψει στο Chrome να χρησιμοποιήσει τη διαχείριση κωδικών πρόσβασης. Η Google είπε ότι το μοντέλο του πράκτορα δεν έχει έκθεση σε δεδομένα κωδικού πρόσβασης. Η εταιρεία πρόσθεσε ότι θα ρωτήσει τους χρήστες πριν προβεί σε ενέργειες όπως η πραγματοποίηση μιας αγοράς ή η αποστολή μηνύματος.

Η Google είπε ότι, εκτός από αυτό, διαθέτει επίσης έναν ταξινομητή άμεσης έγχυσης για την πρόληψη ανεπιθύμητων ενεργειών και επίσης δοκιμάζει τις ικανότητες των πρακτόρων έναντι επιθέσεων που δημιουργούνται από ερευνητές.

Οι κατασκευαστές προγραμμάτων περιήγησης AI δίνουν επίσης προσοχή στην ασφάλεια. Νωρίτερα αυτό το μήνα, το Perplexity κυκλοφόρησε ένα νέο μοντέλο ανίχνευσης περιεχομένου ανοιχτού κώδικα για την αποφυγή έγκαιρων επιθέσεων ένεσης κατά παραγόντων.