Το “Never Trust, Always Verify” γίνεται αυτόνομο

Γράφτηκε από τον Ido Shlomo, CTO και συνιδρυτή, Token Security

Καθώς οι οργανισμοί υιοθετούν γρήγορα βοηθούς τεχνητής νοημοσύνης και αυτόνομους πράκτορες για να βελτιστοποιήσουν τις ροές εργασίας και να ενισχύσουν την αποτελεσματικότητα, ενδέχεται να επεκτείνουν άθελά τους την επιφάνεια επίθεσης. Οι πράκτορες τεχνητής νοημοσύνης, είτε είναι ενσωματωμένοι σε λειτουργίες πληροφορικής, διαδικασίες εξυπηρέτησης πελατών ή εσωτερικά εργαλεία που βασίζονται σε LLM, ενεργούν για λογαριασμό μας, λαμβάνουν αποφάσεις, έχουν πρόσβαση σε ευαίσθητα δεδομένα και εκτελούν αυτοματοποιημένες ενέργειες με ταχύτητα μηχανής.

Η πρόκληση; Τα περισσότερα πλαίσια ασφαλείας δεν δημιουργήθηκαν έχοντας κατά νου αυτούς τους νέους παράγοντες. Έχουμε περάσει χρόνια βελτιώνοντας το Zero Trust για χρήστες και εφαρμογές, αλλά τώρα πρέπει να θέσουμε μια δύσκολη ερώτηση: Τι συμβαίνει όταν ο χρήστης είναι ένα λογισμικό που κατευθύνεται από τον εαυτό του;

Η απάντηση ξεκινά με μια ανανεωμένη δέσμευση για το Zero Trust που θα εφαρμοστεί όχι μόνο σε ανθρώπους και παραδοσιακές υπηρεσίες, αλλά σε κάθε πράκτορα AI που δραστηριοποιείται στα συστήματά μας.

Η άνοδος των αυτόνομων πρακτόρων

Για δεκαετίες, η ταυτότητα ήταν μια ανθρωποκεντρική ανησυχία. Στη συνέχεια ήρθαν λογαριασμοί υπηρεσιών, κοντέινερ και API (ταυτότητες μηχανής) που απαιτούσαν τη δική τους διακυβέρνηση. Τώρα αντιμετωπίζουμε την επόμενη εξέλιξη: τις πρακτορικές ταυτότητες.

Οι πράκτορες AI συμπεριφέρονται με την ευελιξία των ανθρώπων, αλλά στην κλίμακα και την ταχύτητα των μηχανών. Σε αντίθεση με τον στατικό κώδικα, μαθαίνουν, προσαρμόζονται και λαμβάνουν αυτόνομες αποφάσεις. Αυτό σημαίνει ότι η συμπεριφορά τους είναι πιο δύσκολο να προβλεφθεί και οι απαιτήσεις πρόσβασής τους αλλάζουν δυναμικά.

Ωστόσο, πολλοί από αυτούς τους πράκτορες σήμερα λειτουργούν με σκληρά κωδικοποιημένα διαπιστευτήρια, υπερβολικά προνόμια και χωρίς πραγματική ευθύνη. Στην ουσία, δώσαμε στον ασκούμενο ένα σήμα διαχειριστή και του είπαμε να κινηθεί γρήγορα.

Εάν οι CISO θέλουν αναπτύξτε το AI με ασφάλεια και ασφάλειααυτοί οι πράκτορες πρέπει να γίνουν ταυτότητες πρώτης τάξεως, να διέπονται με ακόμη μεγαλύτερη αυστηρότητα από οποιονδήποτε υπάλληλο ή εφαρμογή.

“Ποτέ μην εμπιστεύεσαι, πάντα επαληθεύεις” για AI

Το Zero Trust ξεκινά με μια απλή αρχή: ποτέ μην εμπιστεύεσαι, πάντα επαληθεύεις. Υποθέτει ότι οι χρήστες, οι μηχανές και οι πράκτορες θα παραβιαστούν και απαιτεί κάθε αίτημα πρόσβασης, ανεξάρτητα από την πηγή, να ελέγχεται, να εξουσιοδοτείται και να παρακολουθείται.

Αυτή η φιλοσοφία εφαρμόζεται τέλεια σε αυτόνομους πράκτορες. Δείτε πώς φαίνεται στην πράξη:

• Πρόσβαση πρώτης ταυτότητας: Κάθε πράκτορας AI πρέπει να έχει μια μοναδική, ελεγχόμενη ταυτότητα. Δεν υπάρχουν κοινά διαπιστευτήρια. Δεν υπάρχουν ανώνυμα διακριτικά υπηρεσίας. Κάθε ενέργεια πρέπει να αποδίδεται.
• Ελάχιστο προνόμιο από προεπιλογή: Οι πράκτορες θα πρέπει να έχουν μόνο την ελάχιστη πρόσβαση που απαιτείται για τη λειτουργία τους. Εάν ένας αντιπρόσωπος έχει σχεδιαστεί για να διαβάζει δεδομένα πωλήσεων, δεν θα πρέπει να μπορεί να γράφει στα αρχεία τιμολόγησης ή να έχει πρόσβαση σε συστήματα ανθρώπινου δυναμικού.
• Δυναμική, συμφραζόμενη επιβολή: Καθώς οι πράκτορες εξελίσσονται και οι εργασίες αλλάζουν, οι άδειές τους πρέπει να επανεκτιμώνται συνεχώς. Οι στατικές πολιτικές δεν θα λειτουργήσουν. Το πλαίσιο σε πραγματικό χρόνο, όπως το τι είναι προσβάσιμο, από ποιον και υπό ποιες συνθήκες, θα πρέπει να καθοδηγούν τη λήψη αποφάσεων.
• Συνεχής παρακολούθηση και επικύρωση: Αυτόνομος δεν σημαίνει χωρίς επίβλεψη. Οι πράκτορες πρέπει να παρακολουθούνται σαν προνομιούχοι χρήστες. Ασυνήθιστες συμπεριφορές όπως η πρόσβαση σε ένα νέο σύστημα, η μεταφορά μεγάλου όγκου δεδομένων ή η κλιμάκωση των προνομίων θα πρέπει να προκαλούν ειδοποιήσεις ή παρέμβαση.

Ο κίνδυνος της υπερβολικής δέσμευσης

Η τεχνητή νοημοσύνη υιοθετείται γρήγορα για την προώθηση της καινοτομίας, τη βελτίωση της αποτελεσματικότητας και τη δημιουργία ανταγωνιστικών πλεονεκτημάτων. Δεν σκοπεύει να προκαλέσει βλάβη, αλλά αυτό δεν σημαίνει ότι δεν μπορεί.

Φανταστείτε έναν πράκτορα γραφείου υποστήριξης με ευρεία πρόσβαση σε εσωτερικά συστήματα. Έχει σχεδιαστεί για να αυτοματοποιεί τον χειρισμό εισιτηρίων, αλλά μια άμεση έγχυση ή εσφαλμένη διαμόρφωση προκαλεί την επαναφορά των κωδικών πρόσβασης χρήστη, τη διαγραφή εγγραφών ή τα ευαίσθητα δεδομένα ηλεκτρονικού ταχυδρομείου εξωτερικά.

Αυτό δεν είναι θεωρητικό, συμβαίνει. Οι πράκτορες της τεχνητής νοημοσύνης μπορούν να έχουν ψευδαισθήσεις για νέες συμπεριφορές, να παρεξηγούν τις οδηγίες ή να ενεργούν εκτός του αναμενόμενου πεδίου εφαρμογής τους. Ακόμη χειρότερα, οι επιτιθέμενοι το γνωρίζουν αυτό και διερευνούν ενεργά τις διεπαφές AI για τρόπους να τις παραβιάσουν.

Αυτό ονομάζουμε Excessive Agency: όταν στους πράκτορες της τεχνητής νοημοσύνης δίνεται περισσότερη ισχύς από αυτή που θα έπρεπε και δεν υπάρχουν προστατευτικά κιγκλιδώματα που να τους εμποδίζουν να τη χρησιμοποιούν.

Χτίζοντας προστατευτικά κιγκλιδώματα χωρίς εμπόδια

Οι επαγγελματίες ασφαλείας βαδίζουν τώρα σε μια λεπτή γραμμή. Από τη μία πλευρά, θέλουν να ενισχύσουν την καινοτομία. Από την άλλη πλευρά, πρέπει να επιβάλουν πειθαρχία. Αυτή η ισορροπία είναι ιδιαίτερα λεπτή με την τεχνητή νοημοσύνη.

Η λύση βρίσκεται στο σχεδιασμό προστατευτικών κιγκλιδωμάτων τέτοιας κλίμακας. Αυτό σημαίνει:

• Διακριτικά εμβέλειας και βραχύβια διαπιστευτήρια: Αντί για μακροπρόθεσμα μυστικά, εκδώστε διακριτικά πρόσβασης περιορισμένου χρόνου με στενά καθορισμένα πεδία. Εάν διακυβεύονται, λήγουν γρήγορα και προκαλούν ελάχιστη ζημιά.
• Μοντέλα εμπιστοσύνης σε επίπεδα: Δεν είναι όλες οι ενέργειες ίσες. Οι εργασίες ρουτίνας χαμηλού κινδύνου μπορούν να αυτοματοποιηθούν ελεύθερα. Οι λειτουργίες υψηλού κινδύνου, όπως η διαγραφή δεδομένων ή η μετακίνηση κεφαλαίων, θα πρέπει να απαιτούν έγκριση από τον άνθρωπο στο βρόχο ή ενεργοποιητές πολλαπλών παραγόντων.
• Εφαρμογή ορίων πρόσβασης: Μην επιτρέπετε στους πράκτορες να καλούν οτιδήποτε, οπουδήποτε. Εφαρμόστε αυστηρές πολιτικές πρόσβασης και όρια σε επίπεδο υπηρεσιών έτσι μένουν στη λωρίδα τους.
• Εκκαθάριση ιδιοκτησίας: Κάθε πράκτορας πρέπει να έχει έναν εσωτερικό άνθρωπο ιδιοκτήτη, κάποιον υπεύθυνο για τον σκοπό, τη συμπεριφορά και τις άδειές του.

Με αυτούς τους ελέγχους σε ισχύ, η ασφάλεια γίνεται παράγοντας ενεργοποίησης της τεχνητής νοημοσύνης και όχι εμπόδιο.

Ένα κάλεσμα στους CISOs: Lead with Identity

Μπαίνουμε σε μια εποχή όπου τα «logins» δεν ανήκουν πλέον αποκλειστικά σε ανθρώπους. Οι πράκτορες γράφουν κώδικα, αναλύουν κινδύνους, αναζητούν δεδομένα και συνομιλούν με πελάτες. Εάν τα αντιμετωπίζουμε ως εκ των υστέρων στη στρατηγική μας για την ταυτότητά μας, χτίζουμε συστήματα με βάση την τυφλή εμπιστοσύνη και αυτό ακριβώς είχε σκοπό να αποτρέψει η Zero Trust.

Οι CISO πρέπει να ηγούνται της επιβάρυνσης. Ξεκινά με την επέκταση του πλαισίου Zero Trust για να περιλαμβάνει ρητά αυτόνομους πράκτορες. Από εκεί και πέρα, απαιτεί επενδύσεις σε αρχιτεκτονικές ασφάλειας τεχνητής νοημοσύνης, εργαλεία παρακολούθησης και διακυβέρνηση πρόσβασης που μπορούν να χειριστούν μη ανθρώπινους παράγοντες. Εάν κλιμακώνετε την υποδομή AI σας, το Token Security μπορεί να σας βοηθήσει να διασφαλίσετε την ασφάλεια στην πορεία.

Κάντε κράτηση για ένα τεχνικό demo με την ομάδα μας για να δούμε πώς προστατεύουμε το agent AI χωρίς να θυσιάζουμε την ταχύτητα.

Η ασφάλεια δεν είναι να σταματήσεις την τεχνητή νοημοσύνη. Πρόκειται για την ενεργοποίησή του με ασφάλεια, προβλέψιμα και με υπευθυνότητα.

Χορηγός και γραμμένος από Token Security.