Η Κίνα ετοιμάζεται να εισάγει αυστηρότερους περιορισμούς στα chatbot τεχνητής νοημοσύνης

Η κινεζική κυβέρνηση σχεδιάζει να βάλει «φρένο» στα chatbot τεχνητής νοημοσύνης, περιορίζοντας την ικανότητά τους να επηρεάζουν τους χρήστες με τρόπους που θα μπορούσαν να οδηγήσουν σε αυτοκτονία ή αυτοτραυματισμό, σύμφωνα με σχέδιο κανονισμών που ανακοινώθηκε την προηγούμενη εβδομάδα. Οι προτεινόμενοι κανονισμοί της Διοίκησης Κυβερνοχώρου της Κίνας στοχεύουν, όπως αναφέρεται, τις «ανθρωπόμορφες διαδραστικές υπηρεσίες τεχνητής νοημοσύνης», σύμφωνα με έγγραφο που είδε το CNBC.

Τα μέτρα, όταν οριστικοποιηθούν, θα ισχύουν για προϊόντα ή υπηρεσίες τεχνητής νοημοσύνης που προσφέρονται στο κοινό στην Κίνα και προσομοιώνουν ανθρώπινη προσωπικότητα, εμπλέκοντας τους χρήστες συναισθηματικά μέσω κειμένου, εικόνων, ήχου ή βίντεο. Η περίοδος δημόσιας διαβούλευσης λήγει στις 25 Ιανουαρίου.

Οι σχεδιαζόμενοι κανόνες του Πεκίνου θα αποτελούσαν την πρώτη παγκοσμίως προσπάθεια ρύθμισης της τεχνητής νοημοσύνης με ανθρώπινα ή ανθρωπόμορφα χαρακτηριστικά, δήλωσε στο NBC ο Γουίνστον Μα, αναπληρωτής καθηγητής στη Νομική Σχολή του Πανεπιστημίου της Νέας Υόρκης. Οι προτάσεις έρχονται σε μια περίοδο κατά την οποία κινεζικές εταιρείες έχουν αναπτύξει με ταχύ ρυθμό ψηφιακούς «συντρόφους» και εικονικές διασημότητες.

Σε σύγκριση με τη ρύθμιση της γενετικής τεχνητής νοημοσύνης που εισήγαγε η Κίνα το 2023, ο Μα σημείωσε ότι η νέα εκδοχή «υπογραμμίζει τη μετάβαση από την ασφάλεια περιεχομένου στην ασφάλεια των ανθρώπινων συναισθημάτων».

Το σχέδιο κανονισμών προβλέπει ότι:

• Τα chatbot τεχνητής νοημοσύνης δεν θα μπορούν να παράγουν περιεχόμενο που ενθαρρύνει την αυτοκτονία ή τον αυτοτραυματισμό, ούτε να εμπλέκονται σε λεκτική βία ή συναισθηματική χειραγώγηση που βλάπτει την ψυχική υγεία των χρηστών.
• Εάν ένας χρήστης εκφράσει ρητά πρόθεση αυτοκτονίας, οι πάροχοι τεχνολογίας θα πρέπει να αναθέτουν άμεσα τη συνομιλία σε άνθρωπο και να ειδοποιούν τον κηδεμόνα του χρήστη ή άλλο κοντινό του πρόσωπο.
• Τα chatbot δεν θα πρέπει να παράγουν περιεχόμενο σχετικό με τζόγο, πορνογραφία ή βία.
• Οι ανήλικοι θα πρέπει να έχουν τη συγκατάθεση κηδεμόνα για τη χρήση τεχνητής νοημοσύνης για συναισθηματική συντροφιά, με χρονικά όρια στη χρήση.
• Οι πλατφόρμες θα πρέπει να μπορούν να διαπιστώνουν αν ένας χρήστης είναι ανήλικος ακόμη και αν δεν δηλώνει την ηλικία του και, σε περίπτωση αμφιβολίας, να εφαρμόζουν ρυθμίσεις για ανηλίκους, με δυνατότητα ένστασης.

Επιπλέον διατάξεις προβλέπουν ότι οι πάροχοι θα υπενθυμίζουν στους χρήστες μετά από δύο ώρες συνεχούς αλληλεπίδρασης με τεχνητή νοημοσύνη, καθώς και την υποχρέωση διενέργειας ελέγχων ασφάλειας για chatbot με περισσότερους από 1 εκατ. εγγεγραμμένους χρήστες ή άνω των 100.000 μηνιαίων ενεργών χρηστών.

Ωστόσο, στο έγγραφο ενθαρρύνεται η χρήση ανθρωπόμορφης τεχνητής νοημοσύνης στη «διάδοση του πολιτισμού και τη συντροφιά ηλικιωμένων».

Τα κινεζικά chatbot στο χρηματιστήριο

Η πρόταση κατατίθεται λίγο αφότου δύο κορυφαίες κινεζικές νεοφυείς εταιρείες που έχουν αναπτύξει  chatbot, οι Z.ai και Minimax, υπέβαλαν αιτήσεις για Αρχική Δημόσια Προσφορά (IPO) στο Χονγκ Κονγκ μέσα στον μήνα. Η Minimax είναι διεθνώς γνωστή για την εφαρμογή Talkie AI, η οποία επιτρέπει στους χρήστες να συνομιλούν με εικονικούς χαρακτήρες. Σύμφωνα με τα στοιχεία της εταιρείας, η εφαρμογή και η κινεζική της έκδοση Xingye, συνεισέφεραν πάνω από το ένα τρίτο των εσόδων κατά τα τρία πρώτα τρίμηνα του έτους, με μέσο όρο άνω των 20 εκατ. ενεργών χρηστών κάθε μήνα.

Η Z.ai, γνωστή και ως Zhipu, υπέβαλε αίτηση με την επωνυμία «Knowledge Atlas Technology». Ενώ η εταιρεία δεν αποκάλυψε τους μηνιαίους ενεργούς χρήστες, σημείωσε ότι η τεχνολογία της «ενίσχυσε» περίπου 80 εκατομμύρια συσκευές, συμπεριλαμβανομένων smartphones, προσωπικών υπολογιστών και έξυπνων οχημάτων. Καμία από τις δύο εταιρείες δεν απάντησε σε αίτημα του CNBC για σχολιασμό σχετικά με το πώς οι προτεινόμενοι κανονισμοί θα μπορούσαν να επηρεάσουν τα σχέδιά τους για την εισαγωγή τους στο χρηματιστήριο.

Η εμφανής επιρροή της Τεχνητής Νοημοσύνης στην ανθρώπινη συμπεριφορά έχει τεθεί υπό αυξανόμενο έλεγχο φέτος. Τον Σεπτέμβριο, ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, αναγνώρισε ότι η διαχείριση συνομιλιών γύρω από την αυτοκτονία αποτελεί μία από τις μεγαλύτερες προκλήσεις για το ChatGPT, λίγες εβδομάδες πριν οικογένεια στις ΗΠΑ προσφύγει δικαστικά κατά της εταιρείας μετά την αυτοκτονία του έφηβου γιου της. Αντανακλώντας την αυξανόμενη αίσθηση επείγοντος, η OpenAI ανακοίνωσε το Σαββατοκύριακο ότι προσλαμβάνει έναν «επικεφαλής ετοιμότητας» για την αξιολόγηση κινδύνων της τεχνητής νοημοσύνης- από τις επιπτώσεις στην ψυχική υγεία έως την κυβερνοασφάλεια.

Όλο και περισσότεροι άνθρωποι στρέφονται επίσης στην τεχνητή νοημοσύνη για συμβουλές. Αυτόν τον μήνα, γυναίκα στην Ιαπωνία παντρεύτηκε chatbot που δημιούργησε με τεχνητή νοημοσύνη. Δύο πλατφόρμες που επικεντρώνονται στην αλληλεπίδραση με εικονικούς χαρακτήρες, οι Character.ai και Polybuzz.ai, συγκαταλέγονταν μεταξύ των 15 πιο δημοφιλών chatbot και εργαλείων τεχνητής νοημοσύνης, σύμφωνα με τις κατατάξεις του SimilarWeb για τον Νοέμβριο.

Τα προτεινόμενα μέτρα ακολουθούν τη γενικότερη προσπάθεια της Κίνας, τον τελευταίο χρόνο, να διαμορφώσει τους παγκόσμιους κανόνες για τη διακυβέρνηση της τεχνητής νοημοσύνης.

ΠΗΓΗ: CNBC