Η τεχνητή νοημοσύνη εξελίσσεται ταχύτατα στον τομέα της υγείας, προσφέροντας ταχύτητα και ακρίβεια που συχνά ξεπερνούν τα ανθρώπινα όρια. Ωστόσο, μια νέα μελέτη από την Ιατρική Σχολή του Χάρβαρντ αποκαλύπτει μια ανησυχητική διάσταση αυτής της τεχνολογικής επανάστασης. Οι αλγόριθμοι που έχουν σχεδιαστεί για την ανίχνευση καρκίνου δεν περιορίζονται μόνο στην ανάλυση της ασθένειας. Συχνά «μαθαίνουν» σιωπηλά να αναγνωρίζουν τη φυλή, το φύλο και την ηλικία του ασθενούς, ακόμα κι όταν αυτές οι πληροφορίες παραμένουν μη διαθέσιμες, οδηγώντας σε μεροληπτικές διαγνώσεις που θέτουν σε κίνδυνο συγκεκριμένες πληθυσμιακές ομάδες.
Το «αδύνατο» που έγινε εφικτό για την AI
Για έναν έμπειρο παθολογοανατόμο, η εξέταση ιστού στο μικροσκόπιο είναι μια διαδικασία που επικεντρώνεται αυστηρά στην παθολογία. Βλέπει κύτταρα, ιστούς και κακοήθειες, αλλά δεν λαμβάνει υπόψη αν ο ασθενής είναι άνδρας ή γυναίκα, λευκός ή Αφροαμερικανός, νέος ή ηλικιωμένος. Αυτές οι λεπτομέρειες θεωρούνται «αόρατες» μέσω των μικροσκοπικών εξετάσεων. Ωστόσο, για τα σύγχρονα συστήματα βαθιάς μάθησης, αυτές οι πληροφορίες είναι κρυφές στα μοτίβα των κυττάρων και παραμένουν προσβάσιμες.
Η ερευνητική ομάδα του Χάρβαρντ, υπό την ηγεσία του αναπληρωτή καθηγητή Βιοϊατρικής Πληροφορικής Kun-Hsing Yu, διαπίστωσε ότι τα μοντέλα AI μπορούν να «μαντέψουν» δημογραφικά στοιχεία από δείγματα βιοψίας με εκπληκτική ακρίβεια. Αυτό το εύρημα, που αρχικά φαίνεται ως τεχνολογικός θρίαμβος, αποδεικνύεται στην πραγματικότητα η αχίλλειος πτέρνα της ψηφιακής διαγνωστικής. Όταν το σύστημα αναγνωρίζει την ταυτότητα του ασθενούς, συχνά ακούσια βασίζεται σε στερεότυπα και στατιστικά στοιχεία, αντί να εξετάζει καθαρά βιολογικά δεδομένα.
Όταν η τεχνολογία κάνει διακρίσεις
Τα αποτελέσματα της μελέτης, που δημοσιεύθηκαν πρόσφατα στο επιστημονικό περιοδικό Cell Reports Medicine, είναι αποκαλυπτικά. Εξετάζοντας τέσσερα ευρέως χρησιμοποιούμενα μοντέλα AI σε δείγματα από 20 διαφορετικούς τύπους καρκίνου, οι ερευνητές выявили σημαντικές ανισότητες στην ακρίβεια διαγνώσεων.
Σε περίπου το 29% των διαγνωστικών περιπτώσεων, τα συστήματα εμφάνισαν μειωμένη απόδοση σε συγκεκριμένες πληθυσμιακές ομάδες. Για παράδειγμα, τα μοντέλα δυσκολεύτηκαν να αναγνωρίσουν υποτύπους καρκίνου του πνεύμονα σε Αφροαμερικανούς, έχοντας λιγότερη επιτυχία και στους άνδρες ασθενείς. Αντίστοιχα προβλήματα παρατηρήθηκαν στην ταξινόμηση καρκίνου του μαστού σε νεότερες γυναίκες, καθώς και σε περιπτώσεις καρκίνου του νεφρού, θυρεοειδούς και στομάχου.
Το πρόβλημα δεν είναι απλώς θεωρητικό. Μια λανθασμένη ή καθυστερημένη διάγνωση λόγω της «καταγωγής» που αναγνωρίζει ο αλγόριθμος μπορεί να αποτελεί τη διαφορά ανάμεσα σε μια θεραπεύσιμη κατάσταση και σε μια μοιραία εξέλιξη.
Γιατί συμβαίνει αυτό; Η ρίζα του κακού
Η εύκολη απάντηση μπορεί να είναι να κατηγορήσουμε τα δεδομένα εκπαίδευσης. Είναι γνωστό ότι οι βάσεις δεδομένων στην ιατρική συχνά δεν είναι αντιπροσωπευτικές, με τις μειονότητες να υποεκπροσωπούνται. Ωστόσο, ο καθηγητής Yu και η ομάδα του ανακάλυψαν ότι το πρόβλημα είναι πιο βαθύ.
Ακόμα και με ισάριθμα δείγματα, το AI συνέχιζε να δείχνει μεροληψία. Αυτό συμβαίνει επειδή οι αλγόριθμοι έχουν ικανότητα να εντοπίζουν ανεπαίσθητες μοριακές διαφορές ή μεταλλάξεις συμβατές με συγκεκριμένες πληθυσμιακές ομάδες. Χρησιμοποιούν αυτές τις διαφορές ως «συντομεύσεις» για ταχεία ανάλυση. Αντί να εξετάσουν λεπτομερώς τον όγκο, βασίζονται στη στατιστική πιθανότητα που προέρχεται από το δημογραφικό προφίλ που έχουν απελευθερώσει. Με αυτόν τον τρόπο, οι μηχανές πέφτουν σε έτοιμες λύσεις, αγνοώντας την πολυπλοκότητα των μοναδικών περιπτώσεων.
FAIR-Path: Η λύση που επαναφέρει την ισορροπία
Η ανακάλυψη του προβλήματος υπήρξε μόνο το πρώτο βήμα. Οι ερευνητές προχώρησαν στην ανάπτυξη μιας καινοτόμου μεθόδου για την εξάλειψη αυτών των προκαταλήψεων, ονομάζοντάς την FAIR-Path.
Το είναι σύστημα βασίζεται σε τεχνικές μηχανικής μάθησης γνωστές ως «αντιθετική μάθηση». Η λογική πίσω από αυτήν είναι απλή: εκπαιδεύουν το μοντέλο να αγνοεί χαρακτηριστικά που αφορούν την ταυτότητα του ασθενούς (όπως φυλή ή φύλο) και να εστιάζει αποκλειστικά σε χαρακτηριστικά που διαφοροποιούν τους τύπους καρκίνου.
Τα αποτελέσματα ήταν εντυπωσιακά. Με την εφαρμογή του FAIR-Path, οι ανισότητες στην ακρίβεια διαγιγνώσκονται μειώθηκαν κατά περίπου 88%. Το μοντέλο έγινε πιο δίκαιο και αξιόπιστο για όλους, χωρίς να χρειαστεί να δημιουργηθούν τέλειες βάσεις δεδομένων εξ αρχής, γεγονός που θα ήταν χρονοβόρο και δαπανηρό.
Το μέλλον της ιατρικής τεχνολογίας
Η συγκεκριμένη μελέτη στέλνει ένα ξεκάθαρο μήνυμα στη βιομηχανία της τεχνολογίας υγείας: η ακρίβεια δεν αρκεί αν δεν συνοδεύεται από δικαιοσύνη. Καθώς η τεχνητή νοημοσύνη αναλαμβάνει σημαντικό ρόλο στη λήψη κλινικών αποφάσεων, η διασφάλιση ότι αυτά τα εργαλεία λειτουργούν αμερόληπτα είναι επιτακτική ανάγκη.
Ο καθηγητής Yu υπογραμμίζει ότι η ελπίδα βρίσκεται στον προσεκτικό σχεδιασμό. Αν γνωρίζουμε ότι οι αλγόριθμοι τείνουν να «κλέβουν» χρησιμοποιώντας δημογραφικά στοιχεία, μπορούμε να τους εκπαιδεύσουμε να αγνοούν αυτές τις λεπτομέρειες και να εστιάζουν αποκλειστικά στην ασθένεια. Η τεχνολογία FAIR-Path παραμένει ένα σημαντικό βήμα προς αυτή την κατεύθυνση, ανοίγοντας το δρόμο για ιατρική περίθαλψη όπου η ποιότητα της διάγνωσης δεν θα εξαρτάται από το ποιος είσαι, αλλά από το τι πραγματικά συμβαίνει στο σώμα σου.
Στο κοντινό μέλλον, η ομάδα του Χάρβαρντ προγραμματίζει να επεκτείνει τις δοκιμές της παγκοσμίως, συνεργαζόμενη με ιδρύματα σε χώρες με ποικιλία κλινικών συνθηκών, ώστε να διαπιστώσει πώς αυτά τα συστήματα συμπεριφέρονται σε διαφορετικά περιβάλλοντα. Στόχος είναι η δημιουργία μιας παγκόσμιας «γλώσσας» για το ιατρικό AI, που θα είναι ταυτόχρονα ευφυής και ηθική.
