Google: Απέσυρε ορισμένες απαντήσεις επισκόπησης AI μετά από κίνδυνο για την υγεία των χρηστών

Η Google απέσυρε ορισμένες από τις περιλήψεις υγείας που δημιουργούνται με τεχνητή νοημοσύνη, έπειτα από έρευνα της Guardian που αποκάλυψε ότι παραπλανητικές και ανακριβείς πληροφορίες έθεταν σε κίνδυνο την υγεία των χρηστών.

Η εταιρεία έχει υποστηρίξει ότι τα AI Overviews -σύντομες περιλήψεις που βασίζονται σε γενετική τεχνητή νοημοσύνη και εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης- είναι «χρήσιμα» και «αξιόπιστα». Ωστόσο, σε αρκετές περιπτώσεις αποδείχθηκε ότι παρείχαν λανθασμένες πληροφορίες για ζητήματα υγείας, με δυνητικά σοβαρές συνέπειες.

Σε ένα περιστατικό που ειδικοί χαρακτήρισαν «επικίνδυνο» και «ανησυχητικό», η Google εμφάνιζε ψευδή στοιχεία σχετικά με κρίσιμες εξετάσεις ηπατικής λειτουργίας, τα οποία θα μπορούσαν να οδηγήσουν ανθρώπους με σοβαρή ηπατική νόσο στο συμπέρασμα ότι είναι υγιείς.

Λανθασμένες «φυσιολογικές τιμές» και ψευδής καθησύχαση

Όπως διαπίστωσε η Guardian, η αναζήτηση «ποιο είναι το φυσιολογικό εύρος στις εξετάσεις αίματος για το ήπαρ» εμφάνιζε πλήθος αριθμών, με ελάχιστο πλαίσιο και χωρίς καμία προσαρμογή ως προς την εθνικότητα, το φύλο, την ηλικία ή άλλα χαρακτηριστικά των ασθενών.

Οι «φυσιολογικές τιμές» που παρουσίαζαν τα AI Overviews μπορούσαν να διαφέρουν δραστικά από εκείνες που θεωρούνται ιατρικά αποδεκτές, σύμφωνα με ειδικούς. Αυτό ενέχει τον κίνδυνο ασθενείς με σοβαρή νόσο να πιστέψουν λανθασμένα ότι τα αποτελέσματά τους είναι φυσιολογικά και να μην αναζητήσουν περαιτέρω ιατρική φροντίδα.

Μετά τη δημοσίευση της έρευνας, η Google αφαίρεσε τις AI περιλήψεις για τις αναζητήσεις «what is the normal range for liver blood tests» και «what is the normal range for liver function tests».

Εκπρόσωπος της Google δήλωσε: «Δεν σχολιάζουμε μεμονωμένες αφαιρέσεις εντός της Αναζήτησης. Σε περιπτώσεις όπου τα AI Overviews στερούνται επαρκούς πλαισίου, εργαζόμαστε για γενικές βελτιώσεις και λαμβάνουμε μέτρα σύμφωνα με τις πολιτικές μας, όπου αυτό κρίνεται απαραίτητο».

«Το πρόβλημα δεν περιορίζεται σε μία αναζήτηση»

Η Βανέσα Χέμπντιτς, διευθύντρια επικοινωνίας και πολιτικής στο British Liver Trust, χαιρέτισε την απόφαση της Google, δηλώνοντας:
«Είναι εξαιρετικά θετική εξέλιξη και χαιρόμαστε που αποσύρθηκαν αυτές οι AI περιλήψεις. Ωστόσο, αν η ίδια ερώτηση τεθεί με ελαφρώς διαφορετικό τρόπο, μπορεί να εμφανιστεί ξανά παραπλανητική πληροφορία. Παραμένουμε ανήσυχοι ότι και άλλες πληροφορίες υγείας που παράγονται από AI μπορεί να είναι ανακριβείς και συγχυτικές».

Η Guardian διαπίστωσε ότι μικρές παραλλαγές των ίδιων ερωτημάτων, όπως «lft reference range», εξακολουθούσαν να ενεργοποιούν AI Overviews -κάτι που, σύμφωνα με τη Χέμπντιτς, είναι ιδιαίτερα ανησυχητικό.

Όπως εξηγεί, οι εξετάσεις ηπατικής λειτουργίας αποτελούν σύνολο διαφορετικών αιματολογικών ελέγχων και η ερμηνεία τους είναι σύνθετη. «Οι AI περιλήψεις παρουσιάζουν απλώς λίστες αριθμών, χωρίς να προειδοποιούν ότι ακόμη και φυσιολογικά αποτελέσματα μπορεί να συνυπάρχουν με σοβαρή ηπατική νόσο. Αυτή η ψευδής αίσθηση ασφάλειας μπορεί να αποδειχθεί εξαιρετικά επιβλαβής», τονίζει.

Ευρύτερες ανησυχίες για την AI και την υγεία

Η Google, η οποία κατέχει περίπου το 91% της παγκόσμιας αγοράς μηχανών αναζήτησης, δήλωσε ότι εξετάζει τα νέα παραδείγματα που της κοινοποίησε η Guardian. Ωστόσο, ειδικοί επισημαίνουν ότι το πρόβλημα είναι ευρύτερο και δεν λύνεται με την απλή απόσυρση μεμονωμένων αποτελεσμάτων.

Η Σου Φάρινγκτον, πρόεδρος του Patient Information Forum, χαρακτήρισε θετική την απόφαση, αλλά υπογράμμισε ότι αποτελεί μόνο «το πρώτο βήμα» για τη διατήρηση της εμπιστοσύνης των πολιτών στην αναζήτηση πληροφοριών υγείας. Όπως είπε, εξακολουθούν να υπάρχουν πολλά παραδείγματα ανακριβών AI περιλήψεων.

Παράλληλα, AI Overviews εξακολουθούν να εμφανίζονται σε αναζητήσεις σχετικές με τον καρκίνο και την ψυχική υγεία, τις οποίες ειδικοί χαρακτήρισαν «εντελώς λανθασμένες» και «πραγματικά επικίνδυνες».

Η Google απάντησε ότι σε αυτές τις περιπτώσεις οι περιλήψεις παραπέμπουν σε αξιόπιστες πηγές και προτρέπουν τους χρήστες να αναζητούν ειδική ιατρική συμβουλή.

Ο Βίκτορ Τάνγκερμαν, ανώτερος συντάκτης του τεχνολογικού ιστότοπου Futurism, σχολίασε ότι η έρευνα της Guardian δείχνει πως η Google έχει ακόμη «πολύ δρόμο μπροστά της» για να διασφαλίσει ότι τα εργαλεία AI δεν διακινούν επικίνδυνη παραπληροφόρηση στον τομέα της υγείας.

Όπως έγραψε και ο Ματ Σάουδερν στο Search Engine Journal, «οι AI περιλήψεις εμφανίζονται πάνω από τα οργανικά αποτελέσματα. Όταν το θέμα είναι η υγεία, τα λάθη έχουν πολύ μεγαλύτερο βάρος».

Διαβάστε ακόμη

Η κίνηση του Μαξίμου που τίναξε την συνάντηση στον αέρα, η εκδήλωση του Τσίπρα με πρώην και νυν στελέχη τεσσάρων κομμάτων και οι βολές δια αντιπροσώπων στον Δένδια

Σε πύρινο κλοιό το Ιράν: Η σπίθα που «άναψε» το φιτίλι της εξέγερσης - Θα μπορούσαν οι ΗΠΑ να εμπλακούν;

Από την εγκατάλειψη στη μεγάλη ανάπλαση: Ξεκινά το σχέδιο για τους σταθμούς Λαρίσης και Πελοποννήσου

Πώς θα προχωρήσει από εδώ και πέρα η κυβέρνηση στο αγροτικό - Γιατί δε θα γίνει και δεύτερη συνάντηση σήμερα στο Μαξίμου