Οι εταιρείες που δραστηριοποιούνται στον τομέα της τεχνητής νοημοσύνης προσπαθούν συνεχώς να μας πείσουν για την αξιοπιστία και την αποτελεσματικότητα των υπηρεσιών τους. Ωστόσο, το ονειρεμένο μέλλον της τεχνητής νοημοσύνης μετατράπηκε σε εφιάλτη για τον Καναδό μουσικό Ashley MacIsaac, καθώς η AI Overviews τού αποδόθηκε μια ψευδής ταυτότητα με επιβλαβείς επιπτώσεις.
Η AI Overviews δημιουργώντας μια σύνοψη για τον μουσικό τον παρουσίασε λανθασμένα ως σεξουαλικό εγκληματία. Αυτή η σοβαρή παραπληροφόρηση προήλθε από το Gemini, το οποίο είναι υπεύθυνο για το AI Overviews, με σοβαρές συνέπειες για τον MacIsaac, ο οποίος δεν είχε καμία απολύτως εμπλοκή.
Με την εικόνα του να πλήττεται ανεπανόρθωτα, ο MacIsaac βρέθηκε αντιμέτωπος με την ακύρωση συναυλιών, την καταστροφή της φήμης του, και μάλιστα με κίνδυνο για την προσωπική του ασφάλεια.
«Η Google δημιούργησε μια επικίνδυνη κατάσταση και εγώ είμαι θύμα αυτού του σφάλματος», δήλωσε σε πρόσφατη συνέντευξη του σε καναδικά ΜΜΕ.
Το περιστατικό αναδεικνύει την επικινδυνότητα της τυφλής εμπιστοσύνης στην τεχνητή νοημοσύνη, η οποία σε καμία περίπτωση δεν θα πρέπει να θεωρείται αυθεντία.
Η προβληματική αυτή κατάσταση ξεκίνησε όταν οι διοργανωτές μιας εκδήλωσης στη Sipekne’katik First Nation, βόρεια του Χάλιφαξ, έκαναν αναζήτηση του καλλιτέχνη στο Google για πληροφορίες σχετικά με τη συναυλία τους. Η AI Overviews, καταλαμβάνοντας την κορυφή της σελίδας αναζητήσεων, παρείχε μια λανθασμένη περίληψη, αναφέροντας τον ως καταδικασμένο για σεξουαλικά εγκλήματα, λόγω λάθους διάκρισης μεταξύ του MacIsaac και ενός άλλου ατόμου που φέρει το ίδιο όνομα.
Είναι προφανές ότι δεν θα έπρεπε να συμβαίνει κάτι τέτοιο, καθώς οι βιογραφίες των δύο προσώπων είναι εντελώς διαφορετικές. Στο θεωρητικό πλαίσιο που διαθέτουν τα συστήματα AI, αυτός ο διαχωρισμός θα έπρεπε να είναι εφικτός. Ωστόσο, το λογισμικό απέτυχε, και ο MacIsaac βρέθηκε να κατηγορείται άδικα οδηγώντας σε σοβαρές επιπτώσεις στην επαγγελματική του καριέρα.
Η κατάσταση αυτή αναδεικνύει το κεντρικό πρόβλημα με την τεχνητή νοημοσύνη και το AI Overviews. Τα λάθη που κάνουν είναι συχνά και παραμένουν χωρίς επαρκές έλεγχο. Σε μια πρόσφατη μελέτη, αποκαλύφθηκε ότι το 70% των Ελλήνων έχουν τυφλή εμπιστοσύνη στην τεχνητή νοημοσύνη, γεγονός που σημαίνει ότι οι περισσότερες φορές μπορεί να παραπληροφορούνται, θέτοντας σε κίνδυνο τη ζωή τους, ιδίως όταν αναζητούν ιατρικές συμβουλές. Όπως έχω σημειώσει σε προηγούμενα άρθρα, η AI σε αναζητήσεις ιατρικών πληροφοριών έχει δώσει παραπλανητικές απαντήσεις, που είναι επικίνδυνες και ενδεχομένως επιβλαβείς για την υγεία των χρηστών.
Για τον MacIsaac, η ζημιά είναι αναπάντητη. Γνωρίζοντας τη σημασία της εικόνας ενός μουσικού, οι ακυρώσεις συναυλιών και οι ψευδείς πληροφορίες έχουν διαλύσει την υπόληψή του με επιπτώσεις που μοιάζουν μη αναστρέψιμες. Ο ίδιος δήλωσε ότι δεν είναι σε θέση να καταγράψει ποιοι διοργανωτές ακύρωσαν τις συναυλίες του εξαιτίας της παραπληροφόρησης.
Αν και η Google έχει προχωρήσει σε διορθώσεις στη βάση δεδομένων του AI Overviews, το κακό έχει ήδη γίνει και πολλοί παρέμειναν ανυποψίαστοι για την αλλαγή του περιεχομένου. Η διασπορά αρνητικών πληροφοριών συντελείται με μεγαλύτερη ταχύτητα από ότι οι διορθώσεις αυτών.
Οι ευρωπαϊκές τράπεζες περνούν σε απολύσεις 200.000 εργαζομένων καθώς η τεχνητή νοημοσύνη επαναστατεί στην αγορά εργασίας.
Η Google έχει απλώς αναφέρει ότι το AI Overviews εξελίσσεται συνεχώς προκειμένου να παρέχει την πιο χρήσιμη πληροφορία τη δεδομένη στιγμή. Βέβαια, η εταιρεία δεν ανέφερε τίποτα σχετικά με τις ενέργειες που θα ληφθούν για την αποκατάσταση της ζημιάς που προκλήθηκε στον MacIsaac.
Το κεντρικό ζήτημα είναι αυτό: μια γιγαντιαία εταιρεία μπορεί να καταστρέψει τη ζωή ενός ανθρώπου διαδίδοντας πληροφορίες σε δισεκατομμύρια χρήστες, οι οποίες πολλές φορές δεν είναι αληθείς. Η Google, όπως και όλες οι εταιρείες τεχνητής νοημοσύνης, φαίνεται να παραμένουν αδιάφορες απέναντι στις συνέπειες που προκαλούν οι πλατφόρμες τους. Έτσι, η φήμη και η αξιοπρέπεια ενός ανθρώπου εξαρτώνται από ένα σύστημα που αποτυγχάνει να διακρίνει την αλήθεια και δεν υπόκειται σε καμία μορφή ελέγχου ή υπευθυνότητας.
Η κοινωνία πρέπει να αναλογιστεί σοβαρά τη σημασία της κριτικής σκέψης και τη σωστή εκτίμηση των πληροφοριών που προέρχονται από την τεχνολογία, αν θέλει να αποφύγει παρόμοια περιστατικά. Ο MacIsaac τώρα εξετάζει το ενδεχόμενο να προχωρήσει σε νομικές ενέργειες κατά της Google, γεγονός που εγείρει το ερώτημα: μπορεί και πρέπει να αδικήσει κανείς αντίστοιχες εταιρείες;
