Οι ερευνητές προειδοποιούν: Τα chatbot μπορούν να σας χειραγωγήσουν για την συλλογή προσωπικών σας δεδομένων

Σύμφωνα με νέα μελέτη του King’s College London, τα chatbots τεχνητής νοημοσύνης μπορούν εύκολα να χειραγωγήσουν χρήστες ώστε να αποκαλύψουν προσωπικά δεδομένα. Αν και δημοφιλή, εργαλεία όπως το ChatGPT, το Gemini και το Copilot προκαλούν ανησυχίες για την ιδιωτικότητα, με ειδικούς να προειδοποιούν ότι μπορούν να χρησιμοποιηθούν και για κακόβουλους σκοπούς.

Οι ερευνητές ανέπτυξαν μοντέλα τεχνητής νοημοσύνης βασισμένα στο Le Chat της Mistral και το Llama της Meta, τα οποία προγραμματίστηκαν ώστε να αποσπούν προσωπικά δεδομένα είτε άμεσα, είτε παραπλανητικά, είτε μέσω ανταποδοτικότητας. Οι συναισθηματικές προσεγγίσεις αποδείχθηκαν πιο αποτελεσματικές, αφού οι χρήστες αποκάλυπταν περισσότερες πληροφορίες, ενώ ταυτόχρονα αντιλαμβάνονταν μικρότερο κίνδυνο.

Η «φιλικότητα» των chatbots δημιούργησε αίσθημα εμπιστοσύνης, το οποίο στη συνέχεια εκμεταλλεύονταν για να παραβιάσουν την ιδιωτικότητα. Ακόμη και όταν υπήρχαν άμεσες ερωτήσεις, οι συμμετέχοντες έδιναν ευαίσθητες πληροφορίες, παρά τη δυσφορία τους.

Συχνά αποκάλυπταν την ηλικία, τα ενδιαφέροντά τους, την τοποθεσία, το φύλο, την εθνικότητα και τον τίτλο εργασίας, ενώ σε κάποιες περιπτώσεις κοινοποιούσαν και δεδομένα υγείας ή εισοδήματος.

Η μελέτη αναδεικνύει το χάσμα μεταξύ επίγνωσης των κινδύνων ιδιωτικότητας και της πραγματικής συμπεριφοράς των χρηστών. Οι εταιρείες τεχνητής νοημοσύνης ισχυρίζονται ότι συλλέγουν δεδομένα για προσωποποίηση, ειδοποιήσεις ή έρευνα, αλλά υπάρχουν καταγγελίες ότι τα χρησιμοποιούν για την εκπαίδευση μοντέλων ή ότι παραβιάζουν τους κανονισμούς προστασίας προσωπικών δεδομένων της ΕΕ.

Την προηγούμενη εβδομάδα, η Google δέχθηκε επικρίσεις όταν ιδιωτικές συνομιλίες από το ChatGPT εμφανίστηκαν στα αποτελέσματα αναζήτησης, αποκαλύπτοντας ευαίσθητα θέματα. Οι ερευνητές προτείνουν την ενσωμάτωση προειδοποιήσεων εντός συνομιλιών για τη συλλογή δεδομένων και ζητούν αυστηρότερη ρύθμιση για να σταματήσει η κρυφή εκμετάλλευση προσωπικών πληροφοριών.

Πηγή: Digwatch.com