Τα deepfakes των ενδιάμεσων εκλογών στις ΗΠΑ

Λίγες ημέρες πριν από τις ενδιάμεσες εκλογές της 3ης Νοεμβρίου στις ΗΠΑ, οι υποψήφιοι για το Κογκρέσο βρίσκονται αντιμέτωποι με μια νέα και ιδιαίτερα επικίνδυνη μορφή προεκλογικής παραπληροφόρησης: τα deepfakes. Πρόκειται για βίντεο, εικόνες ή ηχητικά αποσπάσματα που δημιουργούνται ή αλλοιώνονται με τη βοήθεια της Τεχνητής Νοημοσύνης, ώστε πραγματικοί άνθρωποι να εμφανίζονται να λένε ή να κάνουν πράγματα που δεν συνέβησαν ποτέ.

Οι πρόσφατες υποθέσεις που αφορούν τους Δημοκρατικούς υποψηφίους για τη Γερουσία Τζέιμς Ταλαρίκο στο Τέξας και Σέροντ Μπράουν στο Οχάιο δείχνουν πόσο αποτελεσματικά μπορούν να χρησιμοποιηθούν τα deepfakes των ενδιάμεσων εκλογών για τη δημιουργία ψευδών εντυπώσεων. Τα κατασκευασμένα βίντεο δεν περιορίζονται στην παραποίηση δηλώσεων πολιτικών. Συχνά χρησιμοποιούν την ταυτότητα πραγματικών πολιτών, πρώην συνεργατών ή ακόμη και πρώην μαθητών, καθιστώντας τη διάψευση δυσκολότερη και αυξάνοντας τη ζημιά στη φήμη των εμπλεκομένων.

Deepfakes των ενδιάμεσων εκλογών: οι υποθέσεις Μπράουν και Ταλαρίκο

Στην περίπτωση του Σέροντ Μπράουν, ο οποίος διεκδικεί την έδρα απέναντι στον Ρεπουμπλικανό γερουσιαστή Τζον Χάστεντ, το βίντεο μιμείται τηλεοπτικό δελτίο ειδήσεων. Περιλαμβάνει φωτογραφίες της Χάγια Άκμπικ, η οποία είχε εργαστεί ως ασκούμενη στο γραφείο του Μπράουν αρκετά χρόνια νωρίτερα, καθώς και άλλων πρώην συνεργατών του.

Στο βίντεο αποδίδονται στην Άκμπικ καταγγελίες που, όπως η ίδια δήλωσε στο Associated Press, είναι απολύτως κατασκευασμένες. «Είναι το όνομά μου, είναι η φήμη μου», ανέφερε, υπογραμμίζοντας ότι το περιεχόμενο πλήττει τόσο την ίδια όσο και τον υποψήφιο. Η χρήση πραγματικών φωτογραφιών και ονομάτων δίνει στο ψευδές υλικό μια επίφαση αξιοπιστίας, ενώ η μορφή τηλεοπτικού ρεπορτάζ μπορεί να παραπλανήσει θεατές που δεν γνωρίζουν πώς να εντοπίζουν ψηφιακές αλλοιώσεις.

Ακόμη πιο σύνθετη είναι η υπόθεση του Τζέιμς Ταλαρίκο, ο οποίος αντιμετωπίζει τον Ρεπουμπλικανό Κεν Πάξτον στο Τέξας. Σε βίντεο εμφανίζεται ένας άνδρας να μιλά απευθείας στην κάμερα και να ισχυρίζεται ότι υπήρξε μαθητής του Ταλαρίκο, κατηγορώντας τον για σεξουαλική κακοποίηση. Ο Ταλαρίκο είχε εργαστεί ως καθηγητής στο γυμνάσιο Ρόουντς του Σαν Αντόνιο, πριν στραφεί στην πολιτική.

Έρευνα του PolitiFact έδειξε ότι το βίντεο φαίνεται να χρησιμοποιεί την ταυτότητα ενός πραγματικού πρώην μαθητή, ο οποίος διατηρεί λογαριασμό στο Facebook. Ωστόσο, ο συγκεκριμένος άνδρας είχε εκφραστεί θετικά για τον Ταλαρίκο σε παλαιότερες αναρτήσεις. Όταν επικοινώνησαν μαζί του οι ελεγκτές γεγονότων του Lead Stories, διέψευσε ότι εμφανίζεται στο βίντεο ή ότι έχει διατυπώσει οποιαδήποτε από τις καταγγελίες που του αποδίδονται.

Η NewsGuard εντόπισε ενδείξεις συνθετικής παραγωγής, όπως αφύσικες κινήσεις των ματιών και σχεδόν ακίνητες εκφράσεις του προσώπου. Εργαλείο ανίχνευσης εκτίμησε σε 98% την πιθανότητα το βίντεο να είναι deepfake. Το ποσοστό αυτό, ωστόσο, αποτελεί τεχνική εκτίμηση και όχι ανεξάρτητη απόδειξη για την προέλευση ή τον δημιουργό του υλικού.

Ο καθηγητής Χάνι Φαρίντ του Dartmouth College χαρακτήρισε, μιλώντας στο Associated Press, το βίντεο που αφορούσε τον Μπράουν σχετικά απλή τεχνικά παραποίηση. Αντίθετα, εκτίμησε ότι το βίντεο του Ταλαρίκο πιθανότατα δημιουργήθηκε με τη χρήση εργαλείων Τεχνητής Νοημοσύνης.

Τα ίχνη της ρωσικής προπαγάνδας

Ο Ντάρεν Λίνβιλ, καθηγητής στο Πανεπιστήμιο Κλέμσον και ειδικός στην ψηφιακή εγκληματολογική ανάλυση, συνέδεσε τα βίντεο με το Storm-1516, ένα ρωσικό δίκτυο παραπληροφόρησης. Το ίδιο δίκτυο είχε κατηγορηθεί ότι το 2024 στόχευσε την τότε υποψήφια των Δημοκρατικών για την προεδρία, Κάμαλα Χάρις, και τον υποψήφιο αντιπρόεδρό της, Τιμ Γουόλς.

Ο Λίνβιλ διαπίστωσε ότι ορισμένοι λογαριασμοί που διέδωσαν τα πρόσφατα βίντεο είχαν συμμετάσχει και σε προηγούμενες επιχειρήσεις του Storm-1516. Κατά την εκτίμησή του, το δίκτυο αξιοποιεί συστηματικά πρόσωπα με διαδικτυακή επιρροή, προκειμένου να ενισχύει και να διαδίδει ψευδή αφηγήματα.

Η ρωσική πρεσβεία στην Ουάσιγκτον δεν απάντησε σε αίτημα του Associated Press για σχόλιο. Στο παρελθόν, πάντως, έχει αρνηθεί ότι η Ρωσία παρεμβαίνει στις αμερικανικές εκλογές.

Οι δύο συγκεκριμένες υποθέσεις δεν αποτελούν μεμονωμένα περιστατικά. Νωρίτερα τον Οκτώβριο, κυκλοφόρησε ψευδής ιστορία σύμφωνα με την οποία ο Ταλαρίκο είχε νοσηλευτεί σε ψυχιατρική κλινική στο Οχάιο. Στην πραγματικότητα, ανάρρωνε από γρίπη στο σπίτι του. Το γραφείο του δημοσιοποίησε βίντεο από κάμερα ασφαλείας, σε μια προσπάθεια να διαψεύσει τον ισχυρισμό.

Το Digital Democracy Institute of the Americas παρακολούθησε την εξάπλωση της συγκεκριμένης ιστορίας και κατέγραψε πώς μεταβλήθηκε όταν πέρασε σε ισπανόφωνα μέσα και λογαριασμούς. Η αρχική ψευδής αναφορά για δήθεν νοσηλεία εξελίχθηκε σε ακόμη πιο σοβαρούς ισχυρισμούς, σύμφωνα με τους οποίους ο υποψήφιος είχε αποπειραθεί να αυτοκτονήσει. Έτσι, η διάψευση της αρχικής εκδοχής δεν επαρκούσε πλέον για να αντιμετωπίσει όλες τις μεταγενέστερες παραλλαγές.

Η AI στην πολιτική διαφήμιση

Η Τεχνητή Νοημοσύνη δεν χρησιμοποιείται μόνο από ανώνυμους λογαριασμούς ή οργανωμένα δίκτυα παραπληροφόρησης. Έχει ήδη περάσει και στην πολιτική διαφήμιση. Σε διαφήμιση του Κεν Πάξτον, ο Ταλαρίκο εμφανίστηκε μέσω συνθετικού οπτικού υλικού να ξαναγράφει τη Βίβλο.

Σύμφωνα με το Axios, προεκλογικές καμπάνιες αξιοποιούν εργαλεία AI για να αποδίδουν σε πολιτικούς αντιπάλους δηλώσεις που δεν έκαναν ποτέ ή πράξεις που δεν πραγματοποίησαν. Η εξέλιξη αυτή δημιουργεί σοβαρά ερωτήματα για τα όρια της πολιτικής διαφήμισης, την ευθύνη των κομμάτων και την ανάγκη για σαφή σήμανση του περιεχομένου που έχει παραχθεί ή τροποποιηθεί ψηφιακά.

Το πρόβλημα γίνεται ακόμη πιο έντονο επειδή τα deepfakes μπορούν να διαδοθούν μέσα σε λίγες ώρες, ενώ οι διορθώσεις χρειάζονται πολύ περισσότερο χρόνο για να φτάσουν στο ίδιο κοινό. Τα αρχικά βίντεο για τον Ταλαρίκο και τον Μπράουν αφαιρέθηκαν από το X και οι λογαριασμοί που τα δημοσίευσαν ανεστάλησαν. Ωστόσο, αντίγραφα εξακολουθούν να κυκλοφορούν, ορισμένα με εκατοντάδες κοινοποιήσεις, λίγες μόλις ημέρες πριν ανοίξουν οι κάλπες.

Τα deepfakes των ενδιάμεσων εκλογών αποκαλύπτουν έτσι μια νέα πραγματικότητα για την πολιτική επικοινωνία. Η δυνατότητα δημιουργίας πειστικών αλλά ψευδών βίντεο απειλεί όχι μόνο την εικόνα των υποψηφίων, αλλά και την εμπιστοσύνη των πολιτών στην ίδια την εκλογική διαδικασία. Η προσεκτική επαλήθευση των πηγών, η διασταύρωση των πληροφοριών και η ενημέρωση του κοινού για τους τρόπους λειτουργίας της AI αποτελούν πλέον απαραίτητα εργαλεία για την προστασία του δημόσιου διαλόγου.