Οι εταιρείες μπορεί να διαθέτουν ομάδες ειδικών στον τομέα της κυβερνοασφάλειας, ωστόσο πολλές από αυτές δεν είναι ακόμα καλά προετοιμασμένες για τις πραγματικές αποτυχίες των συστημάτων Τεχνητής Νοημοσύνης. Αυτή την άποψη εκφράζει ο Σάντερ Σάλχοφ, ερευνητής στην κυβερνοασφάλεια, σε συνέντευξή του στο “Lenny’s Podcast”.
Ο Σάλχοφ, ο οποίος είναι συγγραφέας ενός από τους πρώτους οδηγούς για άμεση μηχανική και εστιάζει στις αδυναμίες της Τεχνητής Νοημοσύνης, επισημαίνει ότι πολλοί οργανισμοί στερούνται των κατάλληλων ταλέντων για να κατανοήσουν και να αντιμετωπίσουν τους κινδύνους που εγκυμονούν τα συστήματα Τεχνητής Νοημοσύνης, σύμφωνα με το Business Insider.
Οι παραδοσιακές ομάδες κυβερνοασφάλειας είναι εκπαιδευμένες να διορθώνουν σφάλματα και να διαχειρίζονται γνωστά τρωτά σημεία, ωστόσο οι συμπεριφορές της Τεχνητής Νοημοσύνης είναι διαφορετικές. «Μπορείς να επιδιορθώσεις ένα σφάλμα στον κώδικα, αλλά δεν μπορείς να επιδιορθώσεις έναν εγκεφαλικά σκέψη», εξηγεί ο Σάλχοφ, περιγράφοντας τη διαφορά μεταξύ της σκέψης των ομάδων ασφαλείας και της συμπεριφοράς των μεγάλων γλωσσικών μοντέλων.
Ασφάλεια στην Τεχνητή Νοημοσύνη: Μια Επιτακτική Ανάγκη
«Υπάρχει μια σημαντική αποσύνδεση μεταξύ της λειτουργίας της Τεχνητής Νοημοσύνης και της κλασικής κυβερνοασφάλειας», προσθέτει. Αυτό το κενό είναι εμφανές σε εφαρμογές του πραγματικού κόσμου. Οι επαγγελματίες της κυβερνοασφάλειας συχνά εξετάζουν ένα σύστημα Τεχνητής Νοημοσύνης για τεχνικά ελαττώματα χωρίς να αναρωτιούνται: «Ήταν δυνατόν να ξεγελαστεί η Τεχνητή Νοημοσύνη να εκτελέσει ενέργειες που δεν έπρεπε;» εξηγεί ο Σάλχοφ, ο οποίος διευθύνει μια πλατφόρμα άμεσης μηχανικής και οργανώνει hackathons για ομάδες Τεχνητής Νοημοσύνης.
Σε αντίθεση με το παραδοσιακό λογισμικό, τα συστήματα Τεχνητής Νοημοσύνης ενδέχεται να χειραγωγηθούν μέσω γλώσσας και έμμεσων οδηγιών, κάτι που καθιστά απαραίτητο να συνδυαστούν γνώσεις τόσο από την ασφάλεια της Τεχνητής Νοημοσύνης όσο και από την κυβερνοασφάλεια.
Ο Σάλχοφ σημειώνει ότι ειδικοί με γνώσεις και στους δύο αυτούς τομείς θα ξέρουν πώς να διαχειριστούν καταστάσεις όπου ένα μοντέλο Τεχνητής Νοημοσύνης μπορεί να δημιουργήσει κακόβουλο κώδικα. Αυτό περιλαμβάνει την εκτέλεση του κώδικα σε απομονωμένα περιβάλλοντα για την αποφυγή επιπτώσεων στο υπόλοιπο σύστημα. Η διασταύρωση της ασφάλειας της Τεχνητής Νοημοσύνης με την παραδοσιακή κυβερνοασφάλεια είναι η περιοχή όπου βρίσκονται οι «θέσεις εργασίας του μέλλοντος στον τομέα της ασφάλειας», προσθέτει.
Η Άνοδος των Νεοφυών Επιχειρήσεων στον Τομέα της Κυβερνοασφάλειας
Ο Σάλχοφ αναφέρει ότι πολλές νεοφυείς επιχειρήσεις στον τομέα της ασφάλειας Τεχνητής Νοημοσύνης προβάλλουν προστατευτικά στοιχεία που δεν παρέχουν στην πραγματικότητα αποτελεσματική προστασία. Δεδομένου ότι τα συστήματα Τεχνητής Νοημοσύνης μπορούν να χειραγωγηθούν με αμέτρητους τρόπους, οι ισχυρισμοί σχετικά με την ικανότητά τους να «πιάσουν τα πάντα» είναι παραπλανητικοί. «Αυτό είναι ένα απόλυτο ψέμα», τονίζει, επισημαίνοντας ότι η αγορά θα διανύσει μια φάση διόρθωσης κατά την οποία τα έσοδα από αυτές τις προστατευτικές λύσεις θα μειωθούν δραστικά.
Οι νεοφυείς επιχειρήσεις στον τομέα της ασφάλειας Τεχνητής Νοημοσύνης καταγράφουν αυξανόμενο ενδιαφέρον από επενδυτές. Μεγάλες εταιρείες τεχνολογίας και επιχειρηματικών κεφαλαίων προβαίνουν σε επενδύσεις στον τομέα, καθώς οι οργανισμοί επιδιώκουν να ασφαλίσουν τα συστήματα Τεχνητής Νοημοσύνης τους. Σημαντική είναι η εξαγορά της startup κυβερνοασφάλειας Wiz από την Google για 32 δισεκατομμύρια δολάρια τον Μάρτιο, στοχεύοντας στην ενίσχυση της ασφάλειας των υπηρεσιών cloud.
Ο CEO της Google, Σουντάρ Πιτσάι, έχει δηλώσει ότι η Τεχνητή Νοημοσύνη έχει φέρει «νέους κινδύνους» σε μια εποχή που οι ρυθμίσεις πολυδιάστατων cloud και υβριδικών συστημάτων είναι σε άνοδο. «Οι οργανισμοί αναζητούν λύσεις κυβερνοασφάλειας που ενισχύουν την ασφάλεια cloud και είναι συμβατές με πολλαπλά cloud», προσθέτει.
Όπως αναφέρει το Business Insider, οι αυξανόμενες ανησυχίες γύρω από την ασφάλεια των μοντέλων Τεχνητής Νοημοσύνης έχουν ενθαρρύνει την ανάπτυξη μιας σειράς νεοφυών επιχειρήσεων που προσφέρουν εργαλεία παρακολούθησης, δοκιμών και διασφάλισης της ασφάλειας αυτών των συστημάτων.
