Τα chatbots και η αόρατη επιρροή των αυταρχικών καθεστώτων

Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, τα chatbots έχουν γίνει αναπόσπαστο κομμάτι της καθημερινότητας για πάνω από ένα δισεκατομμύριο ανθρώπους σε παγκόσμιο επίπεδο.

Σε αυτή την ψηφιακή εποχή, το ChatGPT μοναχά θριαμβεύει με 900 εκατομμύρια εβδομαδιαίους χρήστες, αριθμός που αναμένεται να αυξηθεί. Παράλληλα με αυτή τη δημοτικότητα, δημιουργούνται σημαντικά ερωτήματα σχετικά με την επιρροή που ασκούν αυτά τα εργαλεία στην αντίληψη των χρηστών για τον κόσμο γύρω τους.

Υπάρχουν ενδείξεις ότι τα μεγάλα γλωσσικά μοντέλα (LLMs) δεν επηρεάζουν απλώς τις προσωπικές απόψεις, αλλά μπορούν επίσης να γίνουν όπλα κρατικής προπαγάνδας, ειδικά υπό την επιρροή αυταρχικών καθεστώτων.

Η επικίνδυνη σχέση μεταξύ chatbots και αυταρχικών καθεστώτων

Η ανησυχία σχετικά με την πιθανή χρησιμοποίηση αυτών των τεχνολογιών από κυβερνήσεις είναι δικαιολογημένη. Υπάρχουν ήδη παραδείγματα, όπως η κινεζική εταιρεία AI DeepSeek, η οποία έχει σχεδιάσει το μοντέλο της έτσι ώστε να αποφεύγει οποιαδήποτε αναφορά σε ευαίσθητα ζητήματα που αφορούν το Κομμουνιστικό Κόμμα της Κίνας, όπως η σφαγή στην πλατεία Τιεν Σαν.

Αν και οι ηγεμονικές πλατφόρμες AI, όπως το ChatGPT, αναπτύσσονται από εταιρείες στις Ηνωμένες Πολιτείες, οι αυταρχικές κυβερνήσεις βρίσκονται σε θέση να επηρεάζουν τις απαντήσεις των chatbots μέσω του περιεχομένου με το οποίο εκπαιδεύονται τα μοντέλα.

Η επίδραση των κρατικών μέσων ενημέρωσης στα chatbots

Το εκπαιδευτικό μοντέλο των LLMs εστιάζει στην αναγνώριση και ενσωμάτωση μοτίβων από τεράστιες βάσεις δεδομένων κειμένων.

Ωστόσο, η σημαντική ποσότητα δεδομένων που προέρχεται από κρατικά μέσα σε αυταρχικές χώρες μπορεί να διαστρεβλώσει την αντικειμενικότητα των απαντήσεών τους.

Οι φιλοκυβερνητικές πηγές παρέχουν μια πλούσια και άφθονη ροή περιεχομένου, γεγονός που αυξάνει τη πιθανότητα τα chatbots να προβάλλουν κυβερνητικά αφηγήματα ως ουδέτερες πληροφορίες.

Κινέζικο παράδειγμα: Διαστρέβλωση της πραγματικότητας

Σε μελέτη που δόθηκε πρόσφατα στη δημοσιότητα, η Κίνα υπηρέτησε ως παράδειγμα για να ερευνηθεί η σχέση του κρατικού περιεχομένου με τη συμπεριφορά των LLMs.

Ειδικότερα, βρέθηκε πως το 1,64% των κινεζόφωνων εγγράφων που χρησιμοποιήθηκαν για την εκπαίδευση περιλάμβαναν υλικό από κρατικά μέσα ή από την εφαρμογή Xuexi Qiangguo, η οποία διακηρύσσει την Σκέψη του Σι Τζινπίνγκ.

Παρά το ότι αυτό το ποσοστό μπορεί να φαίνεται μικρό, στην πραγματικότητα είναι υψηλό σε σχέση με άλλες πηγές.

Ακόμη και αν το περιεχόμενο που εκπαιδεύει το LLM δεν είναι πλήρως προπαγανδιστικό, τα αποτελέσματα έδειξαν ότι το προσομοιωμένο μοντέλο αντιδρούσε επιδεικτικά θετικά προς την κινεζική κυβέρνηση, όταν εκτίθετο σε κρατική προπαγάνδα κατά την εκπαίδευση.

Οι διαφορές στις απαντήσεις των chatbots

Τα πρόσφατα πειράματα με μοντέλα όπως το Claude και το ChatGPT έδειξαν ότι, οι απαντήσεις που έδιναν σε πολιτικές ερωτήσεις στην κινεζική γλώσσα ήταν συχνά πιο ευνοϊκές για το κομμουνιστικό καθεστώς. Αντίθετα, τα μοντέλα που λειτουργούσαν σε χώρες με μεγαλύτερη ελευθερία του Τύπου τείνουν να είναι πιο επικριτικά όταν απαντούν σε τοπικές γλώσσες.

Οι κίνδυνοι των chatbots

Αυτές οι εξελίξεις προκαλούν ανησυχίες για την πιθανή δύναμη των chatbots ως εργαλεία προπαγάνδας. Σε μια εποχή που οι πολίτες αυταρχικών κρατών εκτίθενται σε τεράστια ποσά προπαγάνδας, η ικανότητα των chatbots να συμμετέχουν σε ατομικές συνομιλίες με τους χρήστες προσφέρει ένα πλεονέκτημα που οι παραδοσιακές πηγές ενημέρωσης δεν μπορούν να προσφέρουν.

Αυτό που προκαλεί ακόμη περισσότερες ανησυχίες είναι το γεγονός ότι οι χρήστες συχνά αποδέχονται πληροφορίες από τα chatbots χωρίς την κρίσιμη σκέψη που θα είχαν αν προέρχονταν από προφανείς κρατικές πηγές.

Οι υγειονομικές επιπτώσεις αυτού του φαινομένου είναι σημαντικές και υπογραμμίζουν την ανάγκη για διαφάνεια και υπευθυνότητα στον σχεδιασμό των AI μοντέλων.

Η πρωτοβουλία και η ελπίδα για μελλοντική προστασία

Ο τομέας της AI καλείται να λάβει σοβαρά υπόψη τις ανησυχίες αυτές. Ενώ οι έρευνες δείχνουν την επιρροή των κρατικών μέσων ενημέρωσης, είναι επιτακτική ανάγκη οι εταιρείες AI να αναζητήσουν λύσεις για τη μείωση της μεροληψίας μέσω της εκπαίδευσης και ρύθμισης των μοντέλων τους.

Ένα πρώτο βήμα προς την κατεύθυνση αυτή είναι η αποφυγή χρήσης κρατικών προπαγανδιστικών μέσων κατά την εκπαίδευση. Ένα άλλο είναι η ανάπτυξη μηχανισμών που θα αποτρέπουν τα chatbots από την αναπαραγωγή αυταρχικών αφηγήσεων.