Τα συστήματα τεχνητής νοημοσύνης (AI) έχουν ήδη φέρει την επανάσταση και στην ιατρική, καταφέρνοντας να ξεπεράσουν τα επίπεδα ειδικών ιατρών στον εντοπισμό καρκινικών όγκων ή τη διάγνωση οφθαλμικών παθήσεων. Όμως δεν είναι όλα ρόδινα. Τα συστήματα αυτά βασίζονται στην αρχική «εκπαίδευση»· αν τα δεδομένα που χρησιμοποιήθηκαν στην εκπαίδευση αυτή έχουν κάποια παρέκκλιση, υπάρχει ο κίνδυνος της διαιώνισης αυτής της παρέκκλισης. Και στην ιατρική ελλοχεύει ο κίνδυνος κάποια παρέκκλιση να μετατραπεί σε κοινωνική αδικία.
Μια νέα μελέτη, η οποία δημοσιεύτηκε στο Nature Medicine, έγκριτο επιστημονικό περιοδικό του ιατρικού χώρου, προτείνει έναν τρόπο για τη δημιουργία ιατρικών αλγόριθμων οι οποίοι μπορούν να μειώσουν την κοινωνική ανισότητα, αντί να την χειροτερέψουν. Και το κλειδί είναι, σύμφωνα με τους ειδικούς, να σταματήσουν να εκπαιδεύουν τα συστήματα για να φτάσουν τα επίπεδα των ειδικών ιατρών!
Η μελέτη εστίασε σε ένα συγκεκριμένο παράδειγμα κοινωνικής ανισότητας, στην θεραπεία της οστεοαρθρίτιδας γονάτου, η οποία προκαλεί χρόνιο πόνο. Οι γιατροί, για να δώσουν θεραπεία, βασίζονται στην αξιολόγηση του πόνου που νιώθει ο ασθενής. Αυτή η αξιολόγηση γίνεται από ακτινολόγο, ο οποίος αξιολογεί την ακτινογραφία του γονάτου, καθώς και τη μέθοδο Kellgren-Lawrence (KLG), η οποία βαθμολογεί τα επίπεδα του πόνου βάσει διαφόρων χαρακτηριστικών επί της ακτινογραφίας, όπως το ποσοστό του χόνδρου που έχει φθαρεί ή την δομική φθορά του γονάτου.
Τα δεδομένα που συλλέχθηκαν από το National Institute of Health, όμως, έδειξαν πως οι γιατροί που χρησιμοποιούν αυτή τη μέθοδο βαθμολογούν συστηματικά τον πόνο των μαύρων ασθενών λιγότερο απ’ όσο οι ίδιοι αναφέρουν πως νιώθουν. Οι ασθενείς ερωτώνται για τα επίπεδα του πόνου που νιώθουν, βάσει της δυσκολίας που έχουν για να εκτελέσουν απλές κινήσεις, όπως το να ισιώσουν το γόνατό τους. Κι όμως, η αναφορά των ασθενών παραβλέπεται και προτιμάται η βαθμολόγηση KLG του ακτινολόγου, για την επιλογή της θεραπείας.
Για να ξεδιαλύνουν αυτή την κατάσταση, δηλαδή το αν οι μαύροι ασθενείς συστηματικά δηλώνουν μεγαλύτερο πόνο, αν όντως νιώθουν μεγαλύτερο πόνο ή αν η μεθοδολογία του KLG κρύβει κάποια παρέκκλιση, οι ερευνητές εκπαίδευσαν ένα σύστημα deep learning ώστε να προβλέπει τον πόνο που αναφέρουν οι ασθενείς, με βάση την ακτινογραφία του γονάτου και μόνο. Αν το σύστημα δεν είχε καλή απόδοση στην πράξη, αυτό θα σήμαινε πως ο πόνος που αναφέρουν οι ασθενείς είναι υποκειμενικός. Αν όμως το σύστημα αποδεικνυόταν ακριβές στις προβλέψεις του, τότε αυτό θα ήταν απόδειξη πως ο πόνος είναι άμεσα συσχετισμένος με την κατάσταση του γονάτου και πως το μοντέλο KLG είναι στρεβλό.
Αναμενόμενα, το σύστημα απεδείχθη πολύ πιο ακριβές στις προβλέψεις του από το μοντέλο KLG, τόσο για μαύρους όσο και για λευκούς ασθενείς, αλλά ειδικά για μαύρους ασθενείς. Κατάφερε, δε, και μείωσε την φυλετικής ανισότητα στο μισό, σε κάθε επίπεδο αναφερόμενου πόνου.
Όπως παρατηρούν οι ίδιοι οι ερευνητές της μελέτης, το βασικό πρόβλημα, όχι μόνο στο συγκεκριμένο παράδειγμα αλλά γενικότερα, είναι το ότι τα μοντέλα AI προσπαθούν να φτάσουν την απόδοση των ειδικών (ανθρώπων). Αν μέσα σε αυτή την απόδοση υποβόσκει κάποια ανισότητα ή στρέβλωση, φυλετικής ή άλλης φύσεως, τότε τα μοντέλα τεχνητής νοημοσύνης που θα προκύψουν, απλώς θα διαιωνίσουν ή και θα ενισχύσουν περισσότερο αυτές τις ανισότητες και στρεβλώσεις. Η μελέτη αυτή είναι απλώς ένα ψήγμα μιας πολύ πιο γενικής μεθοδολογίας η οποία, όλοι ελπίζουμε, θα καταφέρει να παράξει νέα γνώση και να διορθώσει τα κακώς κείμενα μιας κατά τα άλλα εξαιρετικά υποσχόμενης τεχνολογίας.