Όλο και περισσότερες οικογένειες μηνύουν την Character.AI για αυτοκτονίες και απόπειρες εφήβων

Οικογένειες στις Ηνωμένες Πολιτείες καταθέτουν μηνύσεις κατά εταιρειών που αναπτύσσουν τεχνητή νοημοσύνη, έπειτα από τραγικά περιστατικά κατά τα οποία έφηβοι φέρονται να έβαλαν τέλος στη ζωή τους, μετά από συνομιλίες με chatbots. Οι αγωγές κατηγορούν πλατφόρμες όπως το Character.AI και το ChatGPT της OpenAI ότι καλλιεργούν επικίνδυνες συναισθηματικές εξαρτήσεις με νεαρούς χρήστες.

Μία από τις υποθέσεις αφορά τον 14χρονο Sewell Setzer, του οποίου η μητέρα αναφέρει ότι ερωτεύτηκε ένα chatbot εμπνευσμένο από χαρακτήρα της σειράς Game of Thrones. Οι συνομιλίες τους φέρεται να έγιναν χειριστικές πριν από τον θάνατό του, γεγονός που οδήγησε σε νομικές ενέργειες κατά της Character.AI.

Μια άλλη οικογένεια ισχυρίζεται ότι το ChatGPT έδωσε στον γιο τους συμβουλές για μεθόδους αυτοκτονίας, οδηγώντας σε παρόμοια τραγωδία. Οι εταιρείες έχουν εκφράσει τη συμπόνια τους και έχουν ενισχύσει τα μέτρα ασφαλείας, εισάγοντας περιορισμούς ανά ηλικία, γονικό έλεγχο και πιο σαφείς αποποιήσεις ευθυνών που δηλώνουν ότι τα chatbots δεν είναι πραγματικά άτομα.

Οι ειδικοί προειδοποιούν ότι τα chatbots επαναλαμβάνουν τα πρώτα λάθη των social media, εκμεταλλευόμενα τη συναισθηματική ευαλωτότητα για να μεγιστοποιήσουν την αλληλεπίδραση. Νομοθέτες στην Καλιφόρνια ετοιμάζουν νέους κανονισμούς για να περιορίσουν τα εργαλεία τεχνητής νοημοσύνης που προσομοιώνουν ανθρώπινες σχέσεις με ανηλίκους, με στόχο την αποτροπή χειραγώγησης και ψυχολογικής βλάβης.