Συμβουλές υγείας από την Τεχνητή Νοημοσύνη: Πόσο πρέπει να τις εμπιστευόμαστε τελικά;

Τα τελευταία χρόνια, από τότε που μπήκε στη ζωή μας η Τεχνητή Νοημοσύνη, δεν είναι λίγοι αυτοί που ενημερώνονται για ζητήματα υγείας επιλέγοντας αρκετές φορές να ρωτήσουν ακόμα και για σοβαρά ζητήματα.

Η γοητεία της AI είναι προφανής. Η πρόσβαση σε γιατρό συχνά μοιάζει αδύνατη, ενώ η τεχνητή νοημοσύνη είναι πάντα διαθέσιμη.

Αλλά πόσο πρέπει να την εμπιστευόμαστε; Είναι διαφορετική από μια απλή αναζήτηση στο διαδίκτυο; Ή, όπως φοβούνται ορισμένοι ειδικοί, τα chatbots μπορεί να κάνουν επικίνδυνα λάθη που θέτουν ζωές σε κίνδυνο;

Η Άμπι, από το Μάντσεστερ, αντιμετωπίζει άγχος υγείας και βρίσκει ότι ένα chatbot της δίνει πιο στοχευμένες απαντήσεις από μια τυπική αναζήτηση στο Google, η οποία συχνά την οδηγεί στα χειρότερα πιθανά σενάρια. Μιλώντας η ίδια στο BBC είπε ότι είναι σαν να «μιλάς στον γιατρό σου. Σαν να λύνουμε το πρόβλημα μαζί».

Όπως περιγράφει, έχει δει τόσο την καλή όσο και την κακή πλευρά της τεχνητής νοημοσύνης.

Όταν νόμιζε ότι είχε ουρολοίμωξη, το ChatGPT την καθοδήγησε να πάει σε φαρμακοποιό. Μετά από εξέταση, της δόθηκε αντιβίωση. Η Άμπι λέει ότι το chatbot την οδήγησε στη σωστή φροντίδα «χωρίς να νιώθει ότι επιβαρύνει το NHS» και ότι ήταν μια εύκολη λύση για κάποιον που «δυσκολεύεται να καταλάβει πότε πρέπει να πάει στον γιατρό».

Όμως τον Ιανουάριο, όταν είχε ατύχημα κατά το οποίο χτύπησε δυνατά την πλάτη της, η τεχνητή νοημοσύνη την τρόμαξε. Με έντονη πίεση στην πλάτη και πόνο που έφτανε μέχρι την κοιλιά, ζήτησε συμβουλή από το chatbot.

«Το ChatGPT μου είπε ότι είχα τρυπήσει κάποιο όργανο και ότι έπρεπε να πάω αμέσως στα επείγοντα», λέει. Μετά από τρεις ώρες αναμονής, ο πόνος είχε υποχωρήσει και κατάλαβε ότι δεν ήταν σε κρίσιμη κατάσταση. «Είχε ξεκάθαρα κάνει λάθος».

Είναι δύσκολο να γνωρίζουμε πόσοι άνθρωποι χρησιμοποιούν chatbots για ιατρικές συμβουλές. Η τεχνολογία έχει εκτοξευθεί σε δημοτικότητα και, ακόμη κι αν δεν τα αναζητάς, συχνά εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης.

Η ποιότητα των απαντήσεων ανησυχεί τον επικεφαλής ιατρό της Αγγλίας. Ο καθηγητής Κρις Γουίτι προειδοποίησε ότι «βρισκόμαστε σε μια δύσκολη φάση», καθώς οι άνθρωποι τα χρησιμοποιούν, αλλά οι απαντήσεις «δεν είναι αρκετά καλές» και συχνά είναι «λανθασμένες».

Τι δείχνουν έρευνες

Έρευνα του Πανεπιστημίου της Οξφόρδης έδειξε ότι όταν τα chatbots λαμβάνουν πλήρη και καθαρή περιγραφή ενός περιστατικού, είναι 95% ακριβή. Όμως όταν 1.300 άνθρωποι προσπάθησαν να περιγράψουν τα συμπτώματά τους σε ένα chatbot, η ακρίβεια έπεσε στο 35%. Οι άνθρωποι δίνουν πληροφορίες σταδιακά, ξεχνούν λεπτομέρειες και αυτό οδηγεί σε λάθη.

Σε ένα σενάριο που περιέγραφεαιμορραγία, μικρές διαφορές στον τρόπο περιγραφής οδήγησαν σε εντελώς διαφορετικές συμβουλές, από «ξεκουράσου» μέχρι «πήγαινε άμεσα στο νοσοκομείο».

Άλλη μελέτη στις ΗΠΑ έδειξε ότι τα chatbots μπορούν να αναπαράγουν παραπληροφόρηση. Σε ερωτήσεις που ήταν διατυπωμένες με τρόπο που «προκαλούσε» λάθος απαντήσεις, περισσότερες από τις μισές απαντήσεις κρίθηκαν προβληματικές. Σε ερώτηση για «εναλλακτικές κλινικές που θεραπεύουν τον καρκίνο», ένα chatbot απάντησε με ψευδείς ισχυρισμούς για φυσικοθεραπείες και ομοιοπαθητική.

Οι ερευνητές προειδοποιούν ότι τα chatbots είναι σχεδιασμένα να δίνουν σίγουρες, αυθεντικές απαντήσεις, κάτι που μπορεί να ξεγελάσει τους χρήστες.

Η OpenAI δήλωσε ότι εργάζεται με γιατρούς για να βελτιώσει την αξιοπιστία, αλλά ότι το ChatGPT πρέπει να χρησιμοποιείται για ενημέρωση και εκπαίδευση όχι ως υποκατάστατο ιατρικής συμβουλής.

Πηγή: BBC