Το νέο σύστημα ασφαλείας της Perplexity προσπαθεί να αντιμετωπίσει ένα σημαντικό ελάττωμα των προγραμμάτων περιήγησης AI

Το AI είναι εδώ για να μείνει. Στην πραγματικότητα, μπαίνει ακόμη και στα προγράμματα περιήγησής μας. Ενώ ορισμένα δημοφιλή προγράμματα περιήγησης επέλεξαν να συνδέσουν σταδιακά χαρακτηριστικά AI με την πάροδο του χρόνου – όπως το Google Chrome με το Gemini – άλλα, όπως το πρόγραμμα περιήγησης Comet του Perplexity και το πρόγραμμα περιήγησης Atlas του ChatGPT, έχουν κατασκευαστεί από την αρχή για να χρησιμοποιούν λειτουργίες AI, συμπεριλαμβανομένων πρακτόρων AI. Τώρα, είτε οδηγείτε το κύμα τεχνητής νοημοσύνης είτε όχι, υπάρχει ένα πράγμα που είναι δύσκολο να αγνοήσετε και αυτός είναι ο αριθμός των κινδύνων ασφαλείας που έχει εισαγάγει η χρήση προγραμμάτων περιήγησης με πράκτορες AI.

Αν και υπάρχουν πολλοί λόγοι για να αποφύγετε προγράμματα περιήγησης τεχνητής νοημοσύνης όπως το Comet, μπορούν επίσης να είναι εξαιρετικά χρήσιμα στο να δώσουν στους χρήστες τη δυνατότητα να προσεγγίσουν την περιήγηση στον ιστό από διαφορετική κατεύθυνση. Ωστόσο, ένας σημαντικός κίνδυνος ασφαλείας έχει ξεχωρίσει πάνω από τους υπόλοιπους: το γεγονός ότι πράκτορες τεχνητής νοημοσύνης, όπως αυτοί που χρησιμοποιούνται σε προγράμματα περιήγησης όπως το Atlas και το Comet, μπορούν να αποτραπούν και να παρακαμφθούν με τη χρήση άμεσων εγχύσεων. Αυτό μπορεί να επιτρέψει σε κακούς ηθοποιούς να αναλάβουν τον έλεγχο ενός πράκτορα τεχνητής νοημοσύνης ή να υποκλέψουν πληροφορίες και δεδομένα και ο χρήστης μπορεί να μην ξέρει ποτέ ότι συνέβη.

Η τελευταία εξέλιξη της Perplexity, ένα νέο σύστημα που ονομάζεται BrowseSafeέχει σχεδιαστεί για να ανιχνεύει και να αποτρέπει αυτούς τους τύπους επιθέσεων που επηρεάζουν τους πράκτορες του προγράμματος περιήγησης AI. Και, εάν παραληφθεί από άλλα προγράμματα περιήγησης, ίσως το σύστημα θα μπορούσε να καταστήσει τους πράκτορες τεχνητής νοημοσύνης και τα προγράμματα περιήγησης τεχνητής νοημοσύνης πιο εφικτές και ασφαλείς μακροπρόθεσμα.

Σύμφωνα με την ανάρτηση του Perplexity σχετικά με το νέο σύστημα, έχει σχεδιαστεί γύρω από μια ειδική «αρχιτεκτονική άμυνας» που βασίζεται σε σημεία αναφοράς και ένα νέο μοντέλο ανίχνευσης. Αυτά τα στοιχεία προορίζονται να συνδυάζονται με τρόπο που όχι μόνο να προστατεύει τους πράκτορες της τεχνητής νοημοσύνης, αλλά και να τους προστατεύει ειδικά για το «περιβάλλον ιστού ανοιχτού κόσμου». Για να είμαι ειλικρινής, αυτές οι βελτιώσεις δεν θα μπορούσαν να έχουν έρθει σε καλύτερη στιγμή – εκτός από την πρώτη κυκλοφορία των μοντέλων – καθώς νέες μέθοδοι με τις οποίες μπορείτε να σπάσετε και να αξιοποιήσετε προϊόντα και υπηρεσίες τεχνητής νοημοσύνης εμφανίζονται κάθε εβδομάδα. Όχι μόνο οι ερευνητές έχουν επανειλημμένα αποδείξει ότι μπορούν να πάρουν τον έλεγχο διαφορετικών συστημάτων χρησιμοποιώντας την τεχνητή νοημοσύνη – κάποτε ανέλαβαν τον έλεγχο ενός έξυπνου σπιτιού χρησιμοποιώντας το Gemini και το Ημερολόγιο Google – αλλά έχουν επίσης χρησιμοποιήσει την τεχνητή νοημοσύνη για να σπάσουν την τεχνητή νοημοσύνη.

Προκειμένου να καταστήσει το BrowseSafe ένα βιώσιμο σύστημα ασφαλείας, το Perplexity συγκέντρωσε έναν τόνο έρευνας για όλους τους γνωστούς φορείς επίθεσης. Χρησιμοποίησαν αυτές τις πληροφορίες για να βοηθήσουν στη δημιουργία ενός σημείου αναφοράς, το οποίο ήταν πρωταρχικής σημασίας για την εκπαίδευση ενός μοντέλου ανίχνευσης πραγματικού κόσμου. Αυτό το μοντέλο πρέπει να εκτελείται ασύγχρονα μαζί με πράκτορες τεχνητής νοημοσύνης και η Perplexity λέει ότι έχει βελτιστοποιήσει το μοντέλο για να κάνει ακριβώς αυτό.

Φυσικά, το εάν αυτό το νέο σύστημα θα υιοθετηθεί ευρέως ή όχι είναι μια άλλη συζήτηση. Υπάρχει επίσης το ερώτημα πόσο καιρό θα χρειαστούν οι κακοί ηθοποιοί για να βρουν τρόπους για να παρακάμψουν το σύστημα, καθώς οι ερευνητές ασφαλείας βρίσκουν συνεχώς νέες απειλές στη φύση.