Καλιφόρνια: Ραγδαία αύξηση chatbots για ψυχολογική υποστήριξη

Οι νομοθέτες της Καλιφόρννιας κινούνται για να θέσουν σαφή όρια στη χρήση της τεχνητής νοημοσύνης στην ψυχολογική υποστήριξη, καθώς ολοένα και περισσότεροι πολίτες στρέφονται στα chatbots για καθοδήγηση, ανακούφιση ή απλώς για να μιλήσουν όταν δεν υπάρχει άμεση πρόσβαση σε επαγγελματία.

Το φαινόμενο δεν είναι περιθωριακό: η χρήση chatbots για ψυχολογική υποστήριξη αυξάνεται ραγδαία, ιδιαίτερα μεταξύ εφήβων και νεαρών ενηλίκων, και φέρνει στο προσκήνιο ένα κρίσιμο ερώτημα: πώς αξιοποιούμε την καινοτομία χωρίς να θέτουμε σε κίνδυνο ανθρώπινες ζωές;

Στο επίκεντρο βρίσκεται το Νομοσχέδιο 903 της Γερουσίας της Καλιφόρνιας (SB 903), το οποίο επιχειρεί να χαράξει «κόκκινες γραμμές» για το τι μπορούν και τι δεν μπορούν να κάνουν τα συστήματα AI όταν αγγίζουν το ευαίσθητο πεδίο της ψυχικής υγείας. Η λογική είναι απλή: τα chatbots μπορούν να υποστηρίζουν, αλλά δεν πρέπει να υποκαθιστούν τη θεραπεία.

Τι προβλέπει το SB 903

Με βάση το SB 903, οι εταιρείες δεν θα επιτρέπεται να προωθούν ή να διαφημίζουν τα chatbots ως θεραπευτικά εργαλεία. Με άλλα λόγια, θα επιχειρείται να μπει φρένο σε εμπορικούς ισχυρισμούς που παρουσιάζουν ένα chatbot ως «θεραπευτή», «ψυχολόγο» ή «διάγνωση στην τσέπη». Παράλληλα, τα ίδια τα συστήματα AI δεν θα μπορούν να λαμβάνουν θεραπευτικές αποφάσεις χωρίς αξιολόγηση από αδειοδοτημένο επαγγελματία.

Το νομοσχέδιο προβλέπει επίσης ότι οι ασθενείς θα πρέπει να δίνουν ρητή συγκατάθεση όταν οι πάροχοι υγειονομικής περίθαλψης χρησιμοποιούν τεχνητή νοημοσύνη για την καταγραφή συνεδριών ή για αρχική αξιολόγηση και διαλογή περιστατικών. Η απαίτηση αυτή αντανακλά δύο βασικές ανησυχίες: αφενός την προστασία του απορρήτου και αφετέρου τη διαφάνεια, ώστε ο χρήστης να γνωρίζει πότε «μιλά» με άνθρωπο και πότε εμπλέκεται αλγόριθμος.

Ο πολιτειακός γερουσιαστής Στιβ Παντίγια από το Σαν Ντιέγκο, που εισηγήθηκε το νομοσχέδιο, έχει τονίσει ότι η τεχνητή νοημοσύνη μπορεί να βελτιώσει τη ζωή των πολιτών, αλλά μόνο εφόσον χρησιμοποιείται υπεύθυνα. Όπως υπογραμμίζει, οι αλγόριθμοι δεν είναι κατάλληλοι να αναλάβουν τον ρόλο των θεραπευτών, οι οποίοι διαθέτουν εκπαίδευση, κλινική εμπειρία και δεοντολογικές υποχρεώσεις που η AI δεν μπορεί να αναπαράγει. Στόχος, σύμφωνα με το πνεύμα της πρότασης, είναι να μπουν δικλίδες ασφαλείας ώστε να αποτρέπονται πρακτικές που ενδέχεται να βλάψουν ασθενείς.

Ρύθμιση ή υπερρύθμιση;

Οι επικριτές του SB 903 υποστηρίζουν ότι μια αυστηρή ρύθμιση μπορεί να «φρενάρει» νόμιμες και ωφέλιμες εφαρμογές της AI στον χώρο της υγείας. Ειδικά σε περιβάλλοντα όπου οι υπηρεσίες ψυχικής υγείας είναι ήδη πιεσμένες, τα εργαλεία τεχνητής νοημοσύνης χρησιμοποιούνται συχνά για να κατευθύνουν τους ανθρώπους προς το κατάλληλο επίπεδο φροντίδας: από απλή ενημέρωση και αυτοβοήθεια έως παραπομπή σε ειδικό.

Το κρίσιμο σημείο εδώ είναι η λεπτή ισορροπία. Άλλο η υποστήριξη με υπενθυμίσεις, ψυχοεκπαιδευτικό υλικό ή βασική καθοδήγηση, και άλλο η παροχή «θεραπευτικών αποφάσεων» ή η διαχείριση κρίσεων χωρίς ανθρώπινη επίβλεψη. Το νομοσχέδιο επιχειρεί να ξεκαθαρίσει αυτή τη διαφορά, όμως η εφαρμογή στην πράξη δεν είναι πάντα αυτονόητη, ειδικά όταν οι πλατφόρμες εξελίσσονται ταχύτατα.

Τι δείχνουν οι μελέτες για τη χρήση AI στην ψυχική υγεία

Τα διαθέσιμα στοιχεία δείχνουν αυξανόμενο ενδιαφέρον για τη χρήση της AI ως εργαλείου ψυχοθεραπευτικής υποστήριξης, αλλά οι ειδικοί επιμένουν ότι χρειάζεται περισσότερη έρευνα και σαφές ρυθμιστικό πλαίσιο. Το βασικό ζητούμενο δεν είναι μόνο αν ένα chatbot «ακούγεται» ενσυναίσθητο, αλλά αν είναι αποτελεσματικό και ασφαλές σε σύγκριση με την παραδοσιακή θεραπεία.

Μελέτη του 2025 από το RAND, τη Σχολή Δημόσιας Υγείας του Πανεπιστημίου Μπράουν και το Πανεπιστήμιο Χάρβαρντ διαπίστωσε ότι περίπου ένας στους οκτώ εφήβους και νεαρούς ενήλικες καταφεύγει σε chatbots για υποστήριξη σε θέματα ψυχικής υγείας. Ο Τζόναθαν Κάντορ, ανώτερος ερευνητής πολιτικής στο RAND, έχει επισημάνει δύο σοβαρά κενά: αφενός την έλλειψη τυποποιημένων κριτηρίων για την αξιολόγηση των συμβουλών που παρέχουν τα chatbots και αφετέρου την περιορισμένη διαφάνεια σχετικά με τα δεδομένα εκπαίδευσης των μεγάλων γλωσσικών μοντέλων.

Παράλληλα, φετινή μελέτη της Αμερικανικής Ψυχολογικής Εταιρείας (APA) διαπίστωσε ότι το 77% των ψυχολόγων έχει συζητήσει με ασθενείς που έχουν χρησιμοποιήσει AI για υποστήριξη, αλληλεπίδραση ή άλλους λόγους. Το εύρημα αυτό δεν δείχνει μόνο διάδοση, αλλά και μια νέα πραγματικότητα μέσα στο θεραπευτικό δωμάτιο: οι επαγγελματίες καλούνται πλέον να αντιμετωπίζουν και να αξιολογούν «συμβουλές» που έφερε ο ασθενής από ένα chatbot.

Το κενό πρόσβασης και ο κίνδυνος κρίσεων

Η ραγδαία αύξηση chatbots για ψυχολογική υποστήριξη συνδέεται στενά με τα εμπόδια πρόσβασης σε υπηρεσίες ψυχικής υγείας: λίστες αναμονής, υψηλό κόστος, έλλειψη ειδικών, γεωγραφικοί περιορισμοί και κοινωνικό στίγμα. Όταν κάποιος χρειάζεται άμεσα να μιλήσει, ένα chatbot είναι διαθέσιμο 24/7, χωρίς ραντεβού, χωρίς μετακίνηση και χωρίς να αισθάνεται ότι «ενοχλεί».

Τον Οκτώβριο, η OpenAI αποκάλυψε ότι περίπου 1,2 εκατομμύρια μηνύματα την εβδομάδα προς το ChatGPT περιέχουν «σαφείς ενδείξεις πιθανού σχεδιασμού ή πρόθεσης αυτοκτονίας». Πρόκειται για έναν αριθμό που δείχνει το μέγεθος του φορτίου που καταλήγει σε πλατφόρμες γενικής χρήσης, και ενισχύει τον προβληματισμό για το πώς πρέπει να λειτουργούν οι μηχανισμοί ασφάλειας, οι προειδοποιήσεις, οι παραπομπές σε γραμμές βοήθειας και, κυρίως, τα όρια της «συνομιλιακής» υποστήριξης.

Σε άρθρο του τον Ιούνιο στο «Harvard Business Review», ο Χάμιλτον Μόριν, κλινικός συνεργάτης στο Τμήμα Νευροψυχιατρικής στο King’s College London, σημείωσε ότι λόγω της δυσκολίας πρόσβασης σε υπηρεσίες ψυχικής υγείας, δεν προκαλεί έκπληξη που όλο και περισσότεροι άνθρωποι στρέφονται στη γενετική τεχνητή νοημοσύνη για ψυχολογική υποστήριξη. Η παρατήρηση αυτή αποτυπώνει την ουσία του ζητήματος: τα chatbots δεν έγιναν δημοφιλή μόνο επειδή είναι τεχνολογικά εντυπωσιακά, αλλά επειδή συχνά καλύπτουν ένα πραγματικό κενό.

Την ίδια στιγμή, η αγορά δεν είναι χωρίς σκιές. Ορισμένοι δημιουργοί εφαρμογών AI που συνομιλούν με ρεαλιστικό τρόπο και υιοθετούν ψηφιακές «προσωπικότητες» έχουν βρεθεί αντιμέτωποι με αγωγές, όπου γίνεται ισχυρισμός ότι τα εργαλεία συνομιλίας συνδέονται με περιστατικά αυτοκτονιών μεταξύ νέων. Ανεξάρτητα από το πώς θα κριθούν δικαστικά τέτοιες υποθέσεις, αναδεικνύουν τον κίνδυνο όταν οι χρήστες δένονται συναισθηματικά με ένα σύστημα που δεν έχει κλινική ευθύνη, ούτε πραγματική κατανόηση των συνεπειών.

Το ζητούμενο: Ασφάλεια, διαφάνεια και ανθρώπινη επίβλεψη

Η Καλιφόρνια επιχειρεί να προλάβει εξελίξεις που ήδη «τρέχουν» πιο γρήγορα από τους κανόνες. Η συζήτηση δεν αφορά μόνο το αν τα chatbots μπορούν να είναι χρήσιμα, αλλά υπό ποιες προϋποθέσεις μπορούν να είναι ασφαλή: σαφείς περιορισμοί στις θεραπευτικές αξιώσεις, ενημερωμένη συγκατάθεση, ανθρώπινη επίβλεψη στις κρίσιμες αποφάσεις, διαφάνεια για το πώς εκπαιδεύονται τα μοντέλα και μετρήσιμα πρότυπα αξιολόγησης.

Καθώς η χρήση chatbots για ψυχολογική υποστήριξη συνεχίζει να αυξάνεται, η ανάγκη για ισορροπημένη ρύθμιση γίνεται πιο πιεστική. Αν το πλαίσιο είναι υπερβολικά χαλαρό, οι χρήστες κινδυνεύουν από παραπλανητικές υποσχέσεις και ανεπαρκή διαχείριση κρίσεων. Αν είναι υπερβολικά αυστηρό, μπορεί να χαθούν εργαλεία που, όταν χρησιμοποιούνται σωστά, βοηθούν ανθρώπους να κάνουν το πρώτο βήμα προς τη φροντίδα. Το στοίχημα της Καλιφόρνιας είναι να αποδείξει ότι η καινοτομία και η προστασία μπορούν να συνυπάρχουν—ιδίως όταν διακυβεύεται η ψυχική υγεία.