Το ChatGPT δεν είναι θεραπευτής – Τι σχεδιάζει η OpenAI για την προστασία των χρηστών

Αναζητώντας συναισθηματική υποστήριξη κατά τη διάρκεια μιας κρίσης ψυχικής υγείας, έχει αναφερθεί ότι πολλοί άνθρωποι χρησιμοποιούν το ChatGPT ως «θεραπευτή» τους. Αν και αυτό μπορεί να φαίνεται ως μια εύκολη διέξοδος, αναφορές δείχνουν ότι οι απαντήσεις του ChatGPT είχαν ενισχυτική επίδραση στις ψευδαισθήσεις των χρηστών, αντί να τους βοηθούν να βρουν μηχανισμούς αντιμετώπισης.

Ως αποτέλεσμα, η OpenAI δήλωσε ότι σκοπεύει να βελτιώσει την ικανότητα του chatbot να ανιχνεύει σημάδια ψυχικής δυσφορίας στο νέο μοντέλο GPT-5, το οποίο αναμένεται να κυκλοφορήσει αργότερα αυτήν την εβδομάδα.

Η OpenAI παραδέχεται ότι το GPT-4 απέτυχε μερικές φορές να αναγνωρίσει σημάδια παραληρημάτων ή συναισθηματικής εξάρτησης, ειδικά σε ευάλωτους χρήστες. Για να ενθαρρύνει μια πιο υγιή χρήση του ChatGPT, το οποίο εξυπηρετεί πλέον σχεδόν 700 εκατομμύρια χρήστες εβδομαδιαίως, η OpenAI εισάγει υπενθυμίσεις για διαλείμματα κατά τη διάρκεια μακρών συνεδριών, καλώντας τους χρήστες να σταματήσουν ή να συνεχίσουν τη συνομιλία.

Επιπλέον, σχεδιάζει να βελτιώσει τον τρόπο και τον χρόνο εμφάνισης αυτών των υπενθυμίσεων, ακολουθώντας μια τάση που έχει ήδη υιοθετηθεί από πλατφόρμες όπως το YouTube και το TikTok.