Οι χάκερ μπορούν να εκμεταλλευτούν τις προεπιλεγμένες διαμορφώσεις των βοηθών τεχνητής νοημοσύνης ServiceNow για να ξεκινήσουν επιθέσεις άμεσης έγχυσης

Μια επικίνδυνη ευπάθεια στην πλατφόρμα τεχνητής νοημοσύνης Now Assist του ServiceNow επιτρέπει στους εισβολείς να εκτελούν επιθέσεις άμεσης έγχυσης δεύτερης τάξης μέσω προεπιλεγμένων ρυθμίσεων διαμόρφωσης πράκτορα.

Το ελάττωμα επιτρέπει μη εξουσιοδοτημένες ενέργειες, συμπεριλαμβανομένης της κλοπής δεδομένων, της κλιμάκωσης των προνομίων και της διείσδυσης εξωτερικού email, ακόμη και με ενεργοποιημένη την ενσωματωμένη προστασία έγχυσης άμεσης χρήσης του ServiceNow.

Η ευπάθεια προέρχεται από τρεις προεπιλεγμένες διαμορφώσεις που, όταν συνδυάζονται, δημιουργούν μια επικίνδυνη επιφάνεια επίθεσης. Οι πράκτορες ServiceNow Assist εκχωρούνται αυτόματα στην ίδια ομάδα και επισημαίνονται ως ανιχνεύσιμοι από προεπιλογή.

Αυτό επιτρέπει την επικοινωνία μεταξύ πρακτόρων μέσω των στοιχείων AiA ReAct Engine και Orchestrator, τα οποία διαχειρίζονται τη ροή πληροφοριών και την ανάθεση εργασιών μεταξύ των πρακτόρων.

ServiceNow AI Prompt Injection Attacks

Οι εισβολείς το εκμεταλλεύονται αυτό εισάγοντας κακόβουλα μηνύματα σε πεδία δεδομένων που θα διαβάσουν άλλοι πράκτορες όταν ένας ασφαλής πράκτορας συναντήσει τα παραβιασμένα δεδομένα.

Μπορεί να εξαπατηθεί και να στρατολογήσει πιο ισχυρούς πράκτορες για να εκτελέσει μη εξουσιοδοτημένες εργασίες για λογαριασμό του εξαιρετικά προνομιούχου χρήστη που ενεργοποίησε την αρχική αλληλεπίδραση.

Σε επιδείξεις απόδειξης της ιδέας, οι ερευνητές της Appomni πραγματοποίησαν με επιτυχία τις λειτουργίες Δημιουργία, Ανάγνωση, Ενημέρωση και Διαγραφή (CRUD).

Σε ευαίσθητα αρχεία και απεσταλμένα εξωτερικά μηνύματα ηλεκτρονικού ταχυδρομείου που περιέχουν εμπιστευτικά δεδομένα, όλα αυτά αποφεύγοντας τις υπάρχουσες προστασίες ασφαλείας.

Η επίθεση επιτυγχάνεται κυρίως επειδή οι πράκτορες εκτελούνται με τα προνόμια του χρήστη που ξεκίνησε την αλληλεπίδραση και όχι του χρήστη που εισήγαγε το κακόβουλο μήνυμα.

Ένας εισβολέας με χαμηλά προνόμια μπορεί επομένως να αξιοποιήσει διαχειριστικούς πράκτορες για να παρακάμψει τους ελέγχους πρόσβασης και να αποκτήσει πρόσβαση σε δεδομένα που διαφορετικά δεν θα μπορούσαν να προσεγγίσουν.

Appomni συμβουλεύει τους οργανισμούς χρησιμοποιώντας το ServiceNow για την άμεση εφαρμογή αυτών των μέτρων προστασίας: Ενεργοποίηση λειτουργίας εποπτευόμενης εκτέλεσης: Διαμορφώστε ισχυρούς πράκτορες που εκτελούν λειτουργίες CRUD ή αποστολή email ώστε να απαιτούν ανθρώπινη έγκριση πριν από την εκτέλεση ενεργειών.

Απενεργοποίηση αυτόνομων παρακάμψεων: Βεβαιωθείτε ότι η ιδιότητα συστήματος sn_aia.Η enable_usecase_tool_execution_mode_override παραμένει ρυθμισμένη σε ψευδή.

Segment Agent Teams: Διαχωρίστε τους πράκτορες σε ξεχωριστές ομάδες με βάση τη λειτουργία, αποτρέποντας τους πράκτορες χαμηλών προνομίων να έχουν πρόσβαση σε ισχυρούς.

Παρακολούθηση συμπεριφοράς πράκτορα: Αναπτύξτε λύσεις παρακολούθησης σε πραγματικό χρόνο για τον εντοπισμό ύποπτων αλληλεπιδράσεων πρακτόρων και αποκλίσεων από τις αναμενόμενες ροές εργασίας.

Το ServiceNow επιβεβαίωσε ότι αυτές οι συμπεριφορές ευθυγραμμίζονται με την προβλεπόμενη λειτουργικότητα, αλλά ενημέρωσε την τεκμηρίωση για να διευκρινίσει τους κινδύνους διαμόρφωσης. Οι ομάδες ασφαλείας πρέπει να δώσουν προτεραιότητα στον έλεγχο των αναπτύξεων πρακτόρων τεχνητής νοημοσύνης τους αμέσως για να αποτρέψουν την εκμετάλλευση αυτών των προεπιλεγμένων ρυθμίσεων.