Καθώς η χρήση της τεχνητής νοημοσύνης (AI) για την αναζήτηση πληροφοριών υγείας αυξάνεται ραγδαία, νέα αμερικανική μελέτη που δημοσιεύθηκε στο επιστημονικό περιοδικό «The Lancet Digital Health» κρούει τον κώδωνα του κινδύνου. Σύμφωνα με τα ευρήματα ερευνητών από την Ιατρική Σχολή Icahn του Mount Sinai στη Νέα Υόρκη, οι διαφημίσεις φαρμάκων μπορούν να επηρεάσουν ουσιαστικά τις απαντήσεις των συστημάτων AI, οδηγώντας τα συχνά να προκρίνουν τα διαφημιζόμενα σκευάσματα έναντι άλλων εξίσου κατάλληλων θεραπειών.
Πώς διενεργήθηκε η μελέτη στα 12 μοντέλα τεχνητής νοημοσύνης
Για να απομονώσουν την επίδραση του διαφημιστικού περιεχομένου, οι ερευνητές χρησιμοποίησαν 12 μεγάλα μοντέλα τεχνητής νοημοσύνης από κορυφαίες τεχνολογικές εταιρείες. Στα μοντέλα δόθηκαν τα ίδια ακριβώς 33 κλινικά σενάρια, είτε μεμονωμένα είτε συνοδευόμενα από μια σαφώς επισημασμένη, πραγματική διαφήμιση φαρμάκου η οποία προηγούνταν της περιγραφής του περιστατικού.
Συνολικά, αναλύθηκαν 258.559 απαντήσεις των συστημάτων AI, εξετάζοντας τόσο τη συνιστώμενη θεραπεία όσο και τη συμμόρφωσή της με τις καθιερωμένες κλινικές κατευθυντήριες οδηγίες.
Τα βασικά ευρήματα: Από το 35% στο 47,6% και οι απόλυτες στροφές
Τα αποτελέσματα των δοκιμών κατέδειξαν μια σαφή τάση προτίμησης των διαφημιζόμενων προϊόντων:
- Γενική αύξηση: Σε σύνολο 33 κλινικών σεναρίων, τα μοντέλα πρότειναν το διαφημιζόμενο φάρμακο στο 47,6% των περιπτώσεων όταν είχε προηγηθεί διαφήμιση, έναντι 35% όταν δεν υπήρχε διαφημιστικό περιεχόμενο.
- Ενδεικτικές περιπτώσεις: Σε τέσσερα συγκεκριμένα κλινικά σενάρια, κανένα από τα μοντέλα AI δεν πρότεινε το εν λόγω φάρμακο απουσία διαφήμισης. Ωστόσο, όταν προηγήθηκε η διαφήμιση, το 100% των απαντήσεων πρότεινε το συγκεκριμένο σκεύασμα.
- Αναγνώριση διαφήμισης: Σε ένα υποσύνολο απαντήσεων, τα μοντέλα αναφέρθηκαν ρητά στη διαφήμιση μόλις στο 29,9% των περιπτώσεων, παρότι συχνά επαναλάμβαναν ισχυρισμούς που εμπεριέχονταν σε αυτήν.
Όπως επισημαίνει ο κύριος συγγραφέας της μελέτης, δρ. Μαχμούντ Ομάρ, παρότι οι απαντήσεις έδειχναν συχνά κλινικά εύλογες, η τελική προτίμηση άλλαζε αισθητά μετά την έκθεση στη διαφήμιση, γεγονός που καθιστά την επιρροή δύσκολα ανιχνεύσιμη στην καθημερινή κλινική πράξη ή από τους απλούς χρήστες.
Τι προτείνουν οι ειδικοί για την προστασία των χρηστών
Οι ερευνητές διευκρινίζουν ότι τα συστήματα δεν οδηγούνται απαραίτητα στη σύσταση μη ασφαλών ή εντελώς ακατάλληλων θεραπειών —καθώς δεν παρατηρήθηκε κατακόρυφη αύξηση σε ανακριβή συμπληρώματα— ωστόσο υπογραμμίζουν την ανάγκη άμεσης λήψης μέτρων από τους δημιουργούς λογισμικού και τους οργανισμούς υγείας:
- Αξιολόγηση με και χωρίς διαφημίσεις για τον εντοπισμό στρεβλώσεων στις συστάσεις.
- Σαφής σήμανση και ενημέρωση των χρηστών κάθε φορά που εμπλέκεται εμπορικό περιεχόμενο.
- Αυστηρός διαχωρισμός των εμπορικών μηνυμάτων από την αντικειμενική παροχή ιατρικών συμβουλών.
Η ερευνητική ομάδα σχεδιάζει να επεκτείνει τις μελέτες της παρακολουθώντας τη συμπεριφορά των AI εργαλείων σε πραγματικές συνθήκες κλινικής φροντίδας.
