Η Microsoft εισάγει έναν νέο AI agent στα Windows 11, συνοδεύοντάς τον όμως με μια σημαντική παραδοχή: το νέο αυτό σύστημα είναι επιρρεπές σε σφάλματα, μπορεί να “φαντάζεται” πράγματα, και εγκυμονεί νέους κινδύνους για την ασφάλεια των χρηστών. Οι καινοτόμες δυνατότητες AI προστέθηκαν με την ενημέρωση 26220.7262 και είναι ακόμη σε πειραματικό στάδιο.
Ένα από τα κύρια ζητήματα που ανακύπτουν είναι το cross-prompt injection, μια τεχνική επίθεσης μέσω της οποίας κρυμμένο κείμενο σε ένα αρχείο ή στοιχείο του interface μπορεί να κατευθύνει τον agent να εκτελέσει ενέργειες χωρίς την έγκριση του χρήστη. Προβληματικά αρχεία, όπως ένα PDF, μπορεί να περιέχουν αόρατες εντολές που οδηγούν το AI σε επικίνδυνες ενέργειες, όπως η αποστολή ευαίσθητων πληροφοριών ή η εκτέλεση κακόβουλου κώδικα.
Οι νέες λειτουργίες δε θα ενεργοποιηθούν αυτόματα. Ωστόσο, αν κάποιος χρήστης αποφασίσει να τις ενεργοποιήσει, τότε ισχύουν για όλους τους χρήστες της συσκευής. Η Microsoft τονίζει ότι ο agent λειτουργεί σύμφωνα με κάποιες βασικές αρχές, όπως η διαχωριστική γραμμή ανάμεσα στις ενέργειες του AI και εκείνες του χρήστη. Ωστόσο, οι αρχές αυτές φαίνονται περισσότερο σαν στόχοι παρά ως ρητές διασφαλίσεις.
Για τον μέσο χρήστη, η εκτίμηση των κινδύνων που συνεπάγεται η ενεργοποίηση αυτών των λειτουργιών είναι σχεδόν αδύνατη. Η δυνατότητα αξιολόγησης του πότε ένα AI είναι επιρρεπές σε κρυφές εντολές είναι ένα εξαιρετικά τεχνικό ζήτημα, και η Microsoft ουσιαστικά μεταφέρει την ευθύνη στους χρήστες για την επιλογή της ενεργοποίησης.
Παρά το γεγονός ότι τέτοια ζητήματα είναι γνωστά σε όλα τα μεγάλα AI μοντέλα, είναι εντυπωσιακό το ότι η Microsoft υιοθετεί αυτές τις προκλήσεις άμεσα μέσα στα Windows. Οι χρήστες καλούνται να παραμείνουν ενημερωμένοι και να ασκούν προσοχή κατά τη χρήση των νέων αυτών τεχνολογιών που υπόσχονται περισσότερη άνεση, αλλά μπορεί να κρύβουν και κινδύνους.
