Google λεπτομερής Η προσέγγισή του για την ασφάλεια για λειτουργίες αντιπροσώπων στο πρόγραμμα περιήγησής του Chrome, το οποίο μπορεί να εκτελεί ενέργειες για λογαριασμό των χρηστών. Η εταιρεία είχε προεπισκόπηση αυτών των δυνατοτήτων τον Σεπτέμβριο και μια ευρύτερη διάθεση θα γίνει τους επόμενους μήνες.
Η εταιρεία έχει εφαρμόσει μοντέλα παρατηρητών και μηχανισμούς συναίνεσης χρηστών για τη διαχείριση αυτών των πρακτόρων. Αυτή η στρατηγική αντιμετωπίζει πιθανούς κινδύνους ασφαλείας, οι οποίοι θα μπορούσαν να περιλαμβάνουν απώλεια δεδομένων ή οικονομικές επιπτώσεις που σχετίζονται με τέτοια χαρακτηριστικά.
Η Google χρησιμοποιεί διάφορα μοντέλα για την παρακολούθηση ενεργειών αντιπροσώπων. Έχει αναπτύξει ένα User Alignment Critic, που υποστηρίζεται από το Gemini, το οποίο αξιολογεί στοιχεία ενεργειών που δημιουργούνται από ένα μοντέλο σχεδιαστή για μια συγκεκριμένη εργασία. Εάν το μοντέλο κριτικής κρίνει ότι οι προτεινόμενες εργασίες δεν ευθυγραμμίζονται με τον στόχο του χρήστη, δίνει εντολή στο μοντέλο σχεδιασμού να αναθεωρήσει τη στρατηγική του. Το μοντέλο κριτικής έχει πρόσβαση μόνο στα μεταδεδομένα της προτεινόμενης ενέργειας, όχι στο πραγματικό περιεχόμενο ιστού.
Για να εμποδίσει τους αντιπροσώπους να έχουν πρόσβαση σε μη εξουσιοδοτημένους ή αναξιόπιστους ιστότοπους, η Google χρησιμοποιεί σύνολα προέλευσης αντιπροσώπων. Αυτά τα σύνολα περιορίζουν τα μοντέλα σε καθορισμένες προελεύσεις μόνο για ανάγνωση και εγγραφή για ανάγνωση. Οι προελεύσεις μόνο για ανάγνωση επιτρέπουν στους Διδύμους να καταναλώνουν περιεχόμενο, όπως καταχωρίσεις προϊόντων σε ιστότοπο αγορών, ενώ αποκλείουν άσχετα στοιχεία όπως διαφημίσεις banner. Ομοίως, ο παράγοντας μπορεί να αλληλεπιδράσει μόνο με συγκεκριμένα iframe σε μια σελίδα.
“Αυτή η οριοθέτηση επιβάλλει ότι μόνο δεδομένα από ένα περιορισμένο σύνολο προελεύσεων είναι διαθέσιμα στον πράκτορα και αυτά τα δεδομένα μπορούν να μεταβιβαστούν μόνο στις εγγράψιμες προελεύσεις”, ανέφερε η εταιρεία σε μια ανάρτηση ιστολογίου. “Αυτό δεσμεύει το διάνυσμα απειλής των διαρροών δεδομένων μεταξύ προέλευσης. Αυτό δίνει επίσης στο πρόγραμμα περιήγησης τη δυνατότητα να επιβάλει μέρος αυτού του διαχωρισμού, όπως με το να μην αποστέλλει καν στο μοντέλο δεδομένα που βρίσκονται εκτός του αναγνώσιμου συνόλου.”
Η Google παρακολουθεί επίσης την πλοήγηση στη σελίδα χρησιμοποιώντας ένα άλλο μοντέλο παρατηρητή, το οποίο ελέγχει τα URL. Αυτός ο μηχανισμός στοχεύει στην αποτροπή της πλοήγησης σε επιβλαβείς διευθύνσεις URL που δημιουργούνται από μοντέλα.
Για ευαίσθητες εργασίες, η Google απαιτεί άδεια χρήστη. Όταν ένας πράκτορας επιχειρεί να αποκτήσει πρόσβαση σε ιστότοπους που περιέχουν τραπεζικές ή ιατρικές πληροφορίες, ζητά πρώτα από τον χρήστη τη συγκατάθεσή του. Για ιστότοπους που απαιτούν σύνδεση, το Chrome ζητά άδεια χρήστη για χρήση του διαχειριστή κωδικών πρόσβασης, διασφαλίζοντας ότι το μοντέλο του αντιπροσώπου δεν έχει πρόσβαση στα δεδομένα κωδικού πρόσβασης. Η εταιρεία θα ζητήσει επίσης την έγκριση του χρήστη πριν από ενέργειες όπως η πραγματοποίηση μιας αγοράς ή η αποστολή μηνύματος.
Επιπλέον, η Google διαθέτει έναν ταξινομητή άμεσης έγχυσης για την αποτροπή ανεπιθύμητων ενεργειών και δοκιμάζει συνεχώς τις αντιπροσωπευτικές της ικανότητες έναντι επιθέσεων που έχουν αναπτυχθεί από ερευνητές. Άλλοι προγραμματιστές προγράμματος περιήγησης AI έχουν επίσης επικεντρωθεί στην ασφάλεια. Το Perplexity κυκλοφόρησε ένα νέο μοντέλο ανίχνευσης περιεχομένου ανοιχτού κώδικα νωρίτερα αυτόν τον μήνα για να αντιμετωπίσει τις έγκαιρες επιθέσεις ένεσης εναντίον πρακτόρων.
VIA: DataConomy.com
