Η τεχνητή νοημοσύνη (AI) μπορεί πλέον να εντοπίζει άτομα που ενδέχεται να διατρέχουν αυξημένο κίνδυνο να δεχθούν ενδοοικογενειακή βία, ακόμη και χρόνια πριν αυτά αποκαλύψουν τη βία που βιώνουν ή ζητήσουν βοήθεια από το σύστημα υγείας.
Τι συμβαίνει, όμως, όταν ένα σύστημα υγείας φαίνεται να γνωρίζει κάτι για έναν επιζώντα που ο ίδιος δεν έχει επιλέξει να αποκαλύψει;
Σε πρόσφατη μελέτη, ερευνητική ομάδα υπό την ηγεσία ερευνητών της Ιατρικής Σχολής του Χάρβαρντ, στη Βοστώνη, εκπαίδευσε μοντέλα τεχνητής νοημοσύνης χρησιμοποιώντας δεδομένα από ηλεκτρονικούς ιατρικούς φακέλους, τα οποία συλλέγονται συστηματικά, με στόχο τον εντοπισμό ασθενών που διατρέχουν κίνδυνο ενδοοικογενειακής βίας.
Κατά μέσο όρο, τα μοντέλα εντόπισαν τον κίνδυνο περισσότερο από τρία χρόνια πριν από την εγγραφή των ασθενών σε νοσοκομειακό πρόγραμμα παρέμβασης για την ενδοοικογενειακή βία.
Εκ πρώτης όψεως, το εύρημα αυτό μπορεί να μοιάζει με επαναστατική εξέλιξη στη φροντίδα των ατόμων που έχουν υποστεί ενδοοικογενειακή βία.
Εάν οι πάροχοι υγειονομικής περίθαλψης μπορούν να εντοπίζουν ασθενείς που διατρέχουν αυξημένο κίνδυνο να υποστούν βία, ενδέχεται να είναι σε θέση να τους προσφέρουν υποστήριξη και πρόσβαση σε κατάλληλους πόρους προτού ακόμη αποκαλύψουν την κακοποίηση που βιώνουν.
Τα ευρήματα, ωστόσο, έχουν περιορισμούς, όπως γράφουν σε ένα άρθρο τους στο The Conversation, οι Έντεν Χόφερ και Κάρεν Α. Κάμπελ, ερευνήτριες στον τομέα της υγείας και της νοσηλευτικής.
Τα μοντέλα αναπτύχθηκαν με βάση δεδομένα από γυναίκες ασθενείς ενός μόνο ακαδημαϊκού κέντρου υγείας στις ΗΠΑ, αν και οι ερευνητές τα επικύρωσαν σε τρεις επιπλέον ομάδες ασθενών.
Όπως επισήμαναν οι ίδιοι, «πρέπει να διεξαχθεί προσεκτική αξιολόγηση της απόδοσης σε έναν ευρύτερο πληθυσμό γυναικών ασθενών πριν από την εφαρμογή των μοντέλων στην κλινική πράξη».
Ωστόσο, από τη σκοπιά μιας προσέγγισης που λαμβάνει υπόψη το τραύμα και τη βία, η υπόσχεση της έγκαιρης ανίχνευσης εγείρει ένα κρίσιμο ερώτημα: τι συμβαίνει με την αυτοδιάθεση ενός ατόμου όταν το σύστημα υγείας μπορεί να επισημάνει τον πιθανό κίνδυνο ενδοοικογενειακής βίας πριν ακόμη το ίδιο το άτομο αποφασίσει να αποκαλύψει τις εμπειρίες του;
Η αυτοδιάθεση των επιζώντων και η υπερβολική εξάρτηση από την τεχνητή νοημοσύνη
Η φροντίδα με γνώμονα το τραύμα και τη βία αναγνωρίζει ότι το τραύμα, οι κοινωνικές ανισότητες και η συστηματική βία επηρεάζουν τόσο την υγεία των ανθρώπων όσο και τη σχέση τους με τους επαγγελματίες υγείας. Βασίζεται σε αρχές όπως η ασφάλεια, η ελεύθερη επιλογή, η συνεργασία, η σύνδεση και η ενδυνάμωση, οι οποίες αποκτούν ιδιαίτερη σημασία στην αντιμετώπιση της ενδοοικογενειακής βίας.
Η απόφαση ενός ατόμου να αποκαλύψει την κακοποίηση που βιώνει δεν είναι απλή. Επηρεάζεται από τον φόβο για την προσωπική του ασφάλεια, την οικονομική εξάρτηση, τη δυσπιστία απέναντι στις κοινωνικές υπηρεσίες, την ανησυχία ότι δεν θα γίνει πιστευτό ή ακόμη και ότι θα χάσει την επιμέλεια των παιδιών του. Σε ορισμένες περιπτώσεις, η σιωπή αποτελεί στρατηγική επιβίωσης, με στόχο την προστασία του ίδιου και της οικογένειάς του. Επομένως, η χρήση της τεχνητής νοημοσύνης για την πρόβλεψη του κινδύνου ενδοοικογενειακής βίας εγείρει ερωτήματα σχετικά με το δικαίωμα του επιζώντος να αποφασίζει πότε και πώς θα μιλήσει για τις εμπειρίες του.
Παράλληλα, η υπερβολική εξάρτηση των επαγγελματιών υγείας από τις εκτιμήσεις της τεχνητής νοημοσύνης ενδέχεται να δημιουργήσει νέους κινδύνους. Η απουσία μιας σχετικής προειδοποίησης από το σύστημα μπορεί να τους αποτρέψει από το να διερευνήσουν το ενδεχόμενο κακοποίησης, ακόμη και όταν υπάρχουν άλλες ενδείξεις. Το φαινόμενο αυτό συνδέεται με τη λεγόμενη «μεροληψία της αυτοματοποίησης», δηλαδή την τάση να εμπιστευόμαστε υπερβολικά τις αυτοματοποιημένες συστάσεις, ακόμη και όταν είναι λανθασμένες.
Για τον λόγο αυτό, η τεχνητή νοημοσύνη πρέπει να λειτουργεί υποστηρικτικά και όχι να υποκαθιστά την κλινική κρίση και την ανθρώπινη επικοινωνία. Η ουσιαστική υποστήριξη προϋποθέτει ασφαλές περιβάλλον, κατάλληλα εκπαιδευμένους επαγγελματίες και πρόσβαση σε υπηρεσίες βοήθειας, με σεβασμό στην αυτοδιάθεση και στις επιλογές κάθε επιζώντος.
Η ανίχνευση της ενδοοικογενειακής βίας διαφέρει από την αντιμετώπισή της
Τα παραπάνω αναδεικνύουν μια κρίσιμη διάκριση: ο εντοπισμός της ενδοοικογενειακής βίας δεν ταυτίζεται με την αντιμετώπισή της, ιδίως όταν αυτή πρέπει να γίνεται με τρόπο που λαμβάνει υπόψη το τραύμα και τη βία.
Ένα βασικό ερώτημα που αξίζει να διερευνηθεί είναι κατά πόσο η χρήση της τεχνητής νοημοσύνης για τον εντοπισμό ατόμων που ενδέχεται να βιώνουν ενδοοικογενειακή βία βελτιώνει ουσιαστικά την έκβαση για τα ίδια τα άτομα.
Ένας από τους ερευνητές που ανέπτυξαν και δοκίμασαν το εργαλείο τεχνητής νοημοσύνης έχει δηλώσει ότι στόχος του δεν είναι να πιέσει τους ασθενείς να αποκαλύψουν την κατάστασή τους. Αντίθετα, επιδιώκει να βοηθήσει τους επαγγελματίες υγείας να επικοινωνούν μαζί τους με συμπόνια και να τους συνδέουν με κατάλληλες υπηρεσίες υποστήριξης και διαθέσιμους πόρους.
Ωστόσο, παραμένει ασαφές τι ακριβώς συμβαίνει στην πράξη όταν ένας ασθενής επισημαίνεται από ένα σύστημα τεχνητής νοημοσύνης ως άτομο που ενδέχεται να διατρέχει αυξημένο κίνδυνο ενδοοικογενειακής βίας.
Έχει εκπαιδευτεί ο επαγγελματίας υγείας ώστε να ανταποκρίνεται κατάλληλα σε μια αποκάλυψη ενδοοικογενειακής βίας, με τρόπο που λαμβάνει υπόψη το τραύμα και τη βία; Υπάρχουν κατάλληλες υπηρεσίες υποστήριξης και είναι πράγματι προσβάσιμες, ώστε να ανταποκρίνονται στις ανάγκες του θύματος-επιζώντος;
Ακόμη και αν οι αλγόριθμοι μπορούν να εντοπίζουν ασθενείς που διατρέχουν αυξημένο κίνδυνο ενδοοικογενειακής βίας, τα θύματα-επιζώντες πιθανότατα θα συνεχίσουν να αντιμετωπίζουν τα ίδια κενά στις υπηρεσίες υποστήριξης, στον σχεδιασμό ασφάλειας και στην πρόσβαση σε άλλους απαραίτητους πόρους που υπάρχουν ήδη σήμερα.
Επομένως, ακόμη και αν τα συστήματα υγείας βελτιωθούν ως προς τον εντοπισμό της ενδοοικογενειακής βίας, αυτό δεν σημαίνει αυτομάτως ότι θα γίνουν και αποτελεσματικότερα στην αντιμετώπισή της.
Πώς προχωράμε από εδώ;
Η επαφή με το σύστημα υγείας και τους επαγγελματίες υγειονομικής περίθαλψης εξακολουθεί να αποτελεί μια κρίσιμη ευκαιρία για την παρέμβαση και την υποστήριξη των θυμάτων-επιζώντων ενδοοικογενειακής βίας.
Ωστόσο, η δημιουργία συνθηκών μέσα στις οποίες τα άτομα μπορούν να επιλέξουν να αποκαλύψουν την κακοποίηση με ασφάλεια διαφέρει ουσιαστικά από την πρακτική κατά την οποία η τεχνητή νοημοσύνη συμπεραίνει ότι ενδέχεται να συμβαίνει βία, προτού τα ίδια τα άτομα αποφασίσουν να μοιραστούν αυτή την πληροφορία.
Από τη σκοπιά μιας προσέγγισης που λαμβάνει υπόψη το τραύμα και τη βία, η ακρίβεια των προβλέψεων της τεχνητής νοημοσύνης αποτελεί μόνο ένα μέρος της συνολικής αξιολόγησης. Κάθε εφαρμογή τεχνητής νοημοσύνης για την ανίχνευση του κινδύνου ενδοοικογενειακής βίας θα πρέπει να αξιολογείται και με βάση τις αρχές της ασφάλειας, της επιλογής, της συνεργασίας, της σύνδεσης και της ενδυνάμωσης.
Προτού τα εργαλεία αυτά ενσωματωθούν στην κλινική πράξη, όσοι συμμετέχουν στον σχεδιασμό και την εφαρμογή τους οφείλουν να εξετάσουν ένα θεμελιώδες ζήτημα: ποιος έχει το δικαίωμα να αποφασίζει πότε και με ποιον τρόπο θα ειπωθεί η ιστορία ενός επιζώντος;
Το ερώτημα αυτό είναι ιδιαίτερα σημαντικό, καθώς η ενδοοικογενειακή βία χαρακτηρίζεται συχνά από εξαναγκασμό και έλεγχο. Για ένα άτομο που βιώνει τέτοιου είδους βία, η δυνατότητα να αποφασίζει πότε, πώς και αν θα μιλήσει γι’ αυτήν δεν πρέπει να αντιμετωπίζεται ως κάτι δευτερεύον.
