Η Google έχει αφαιρέσει πολλές Επισκόπηση AI από αναζητήσεις που σχετίζονται με πληροφορίες υγείας, αφού οι ειδικοί τις έκριναν παραπλανητικές και δυνητικά επικίνδυνες. Μια έρευνα από The Guardian διαπίστωσε ότι ορισμένα ερωτήματα, όπως «ποιο είναι το φυσιολογικό εύρος για εξετάσεις αίματος στο ήπαρ», θα επέστρεφαν παραπλανητικές πληροφορίες.
Σύμφωνα με την αναφορά του The Guardian, η πληκτρολόγηση αυτού στο Google θα επέστρεφε μια Επισκόπηση AI που δεν έλαβε υπόψη παραλλαγές όπως η ηλικία, το φύλο, η εθνικότητα ή η εθνικότητα. Σε μια άλλη περίπτωση, το αποτέλεσμα της τεχνητής νοημοσύνης φαινομενικά είπε στους ανθρώπους με καρκίνο του παγκρέατος να αποφεύγουν τα τρόφιμα με υψηλή περιεκτικότητα σε λιπαρά.
Anna Jewell, διευθύντρια υποστήριξης, έρευνας και επιρροής στο Καρκίνος του παγκρέατος ΗΒ είπε στον ιστότοπο ότι το AI Overview ήταν “εντελώς λανθασμένο” και ότι η παρακολούθηση των συμβουλών του “θα μπορούσε να είναι πραγματικά επικίνδυνη και να θέσει σε κίνδυνο τις πιθανότητες ενός ατόμου να είναι αρκετά καλά για να υποβληθεί σε θεραπεία”.
Η ίδια η Google φαίνεται να έχει αναγνωρίσει αθόρυβα την έρευνα και έχει αφαιρέσει ορισμένες από τις Επισκοπήσεις AI, αλλά όχι όλες. Η αναζήτηση του παραπάνω ερωτήματος στις εξετάσεις αίματος του ήπατος δεν εμφανίζει καθόλου μια Επισκόπηση AI, ενώ η αναζήτηση για συμπτώματα καρκίνου του κόλπου εξακολουθεί να παρέχει μια Επισκόπηση AI — αλλά τώρα κάνει τη διάκριση στα τεστ Παπανικολάου.
Η Google είπε στον Guardian: “Δεν σχολιάζουμε μεμονωμένες καταργήσεις εντός της Αναζήτησης. Σε περιπτώσεις όπου οι Επισκόπηση τεχνητής νοημοσύνης χάνουν κάποιο πλαίσιο, εργαζόμαστε για να κάνουμε ευρείες βελτιώσεις και αναλαμβάνουμε επίσης δράση σύμφωνα με τις πολιτικές μας, όπου χρειάζεται.”
Έχω επικοινωνήσει με την Google ξεχωριστά για επιπλέον σχόλια σχετικά με τους ισχυρισμούς και θα ενημερώσω αυτό το άρθρο εάν και όταν λάβω απάντηση.
Εμπιστεύεστε την τεχνητή νοημοσύνη όταν πρόκειται για την υγεία σας;
Τον Μάρτιο του περασμένου έτους, η Google ανακοίνωσε ότι λανσάρει νέες δυνατότητες για να βελτιώσει τις απαντήσεις σε ερωτήματα υγειονομικής περίθαλψης.
“Οι άνθρωποι χρησιμοποιούν την Αναζήτηση και λειτουργίες όπως το AI Overviews για να βρουν αξιόπιστες και σχετικές πληροφορίες σχετικά με την υγεία, από κοινές ασθένειες έως σπάνιες καταστάσεις”, έγραψε η εταιρεία σε μια ανάρτηση ιστολογίου.
“Από την κυκλοφορία του AI Overviews πέρυσι, οι άνθρωποι είναι πιο ικανοποιημένοι με τα αποτελέσματα αναζήτησής τους και κάνουν μεγαλύτερες, πιο σύνθετες ερωτήσεις. Και με τις πρόσφατες εξελίξεις που επικεντρώνονται στην υγεία στα μοντέλα Gemini, συνεχίζουμε να βελτιώνουμε περαιτέρω τις Επισκοπήσεις AI σε θέματα υγείας, ώστε να είναι πιο συναφείς, περιεκτικές και να συνεχίζουν να πληρούν έναν υψηλό πήχη για την κλινική πραγματικότητα.”
Η επιλογή της συμπερίληψης της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη είναι εξαιρετικά δύσκολη και λεπτή.
Κανείς δεν θα υποστήριζε ότι η εμφάνιση λανθασμένων πληροφοριών υγείας σε ένα κοινό αποτέλεσμα αναζήτησης δεν είναι κακό. Και μελέτες έχουν δείξει ότι οι επισκοπήσεις AI δεν είναι τόσο ακριβείς όσο θα θέλαμε να είναι.
Τι γίνεται όμως με τους αλγόριθμους που βασίζονται στην τεχνητή νοημοσύνη και υποστηρίζουν τους κλινικούς γιατρούς με ταχύτερες και ακριβέστερες διαγνώσεις; Ή ένα εύκολα προσβάσιμο chatbot τεχνητής νοημοσύνης που λειτουργεί, όχι ως υποκατάστατο ενός επαγγελματία υγείας, αλλά ως πρώτο βήμα για κάποιον που ενδιαφέρεται να συλλέξει περισσότερες πληροφορίες σχετικά με ένα σύμπτωμα ή ένα συναίσθημα.
Σίγουρα έχω κάνει στο ChatGPT μερικές ερωτήσεις για την υγεία τους τελευταίους μήνες για να καταλάβω αν πρέπει ή όχι να ζητήσω περαιτέρω βοήθεια. Και, όπως συμβαίνει, το OpenAI μόλις κυκλοφόρησε το ChatGPT Health, ένα εργαλείο τεχνητής νοημοσύνης που στοχεύει να κάνει πιο κατανοητές τις ιατρικές πληροφορίες.
Θα εμπιστευόσασταν μια απάντηση AI όταν πρόκειται για πτυχές της ψυχικής ή σωματικής σας υγείας; Ενημερώστε με στα σχόλια παρακάτω.
Ακολουθώ Οδηγός Tom’s στις Ειδήσεις Google και προσθέστε μας ως προτιμώμενη πηγή για να λαμβάνετε τα ενημερωμένα νέα, τις αναλύσεις και τις κριτικές μας στις ροές σας.
Περισσότερα από το Tom’s Guide
