Πώς τα συστήματα αναγνώρισης προσώπου στοχοποιούν αθώους πολίτες

Ο Κλέιτον είναι ένας από τους ανθρώπους που μίλησαν στον Guardian αφού ταυτοποιήθηκαν λανθασμένα ως κλέφτες από καταστήματα που χρησιμοποιούν το Facewatch, ένα σύστημα αναγνώρισης προσώπου που χρησιμοποιείται στο Ηνωμένο Βασίλειο για την καταπολέμηση της εγκληματικότητας στο λιανεμπόριο. Η ιστοσελίδα της εταιρείας αναφέρει ότι το σύστημά της έχει ακρίβεια 99,98% και ότι τον περασμένο μήνα απέστειλε 50.288 ειδοποιήσεις για «γνωστούς παραβάτες» σε καταστήματα όπως τα B&M, Home Bargains, Sports Direct, Farmfoods και Spar, που χρησιμοποιούν πλέον το λογισμικό.

Ωστόσο, όσοι ταυτοποιήθηκαν λανθασμένα και αναγκάστηκαν να αποχωρήσουν από καταστήματα- είτε λόγω της ίδιας της τεχνολογίας είτε λόγω ανθρώπινου λάθους- αναφέρουν ότι δεν έλαβαν καμία υποστήριξη και δεν ήξεραν πώς να διαμαρτυρηθούν ή να αποδείξουν την αθωότητά τους.

Ο 67χρονος Κλέιτον δήλωσε ότι, μετά την απομάκρυνσή του από το κατάστημα, επιχείρησε να επικοινωνήσει τηλεφωνικά με αριθμό που αναγραφόταν σε αφίσα του Facewatch, όμως ενημερώθηκε μέσω μηνύματος ότι η εταιρεία δεν δέχεται τηλεφωνικές κλήσεις και ότι η επικοινωνία πρέπει να γίνεται μέσω email. Κατάφερε να πάρει απαντήσεις μόνο αφού υπέβαλε αίτημα πρόσβασης υποκειμένου (subject access request), το οποίο αποκάλυψε ότι είχε συνδεθεί λανθασμένα με περιστατικό κλοπής σε προηγούμενη επίσκεψή του στο κατάστημα.

«Ήταν σαν να ήμουν ένοχος μέχρι αποδείξεως του εναντίου. Είναι ένα φρικτό συναίσθημα. Σου δημιουργεί ένα κενό στο στομάχι και κάθε φορά που το σκέφτομαι, το ξαναβιώνω», είπε.

«Το βρίσκω πολύ οργουελικό. Παρακολουθούμαστε διαρκώς και εντασσόμαστε σε αυτά τα συστήματα, αλλά θα έπρεπε; Μοιάζει με επιτήρηση χωρίς λόγο. Πλέον είμαι υπερβολικά ευαισθητοποιημένος απέναντι στις κάμερες που υπάρχουν παντού», πρόσθεσε.

Το Home Bargains τελικά του ζήτησε συγγνώμη και του προσέφερε κουπόνι 100 λιρών ως «ένδειξη καλής θέλησης χωρίς παραδοχή ευθύνης», με την προϋπόθεση να παραμείνει εμπιστευτική η υπόθεση. Ο Κλέιτον αρνήθηκε, σκεπτόμενος: «Σοβαρά; Προσπαθείτε να εξαγοράσετε τη σιωπή μου;»

Ανησυχίες σχετικά με την αξιοπιστία των συστημάτων

Καθώς η αναγνώριση προσώπου υιοθετείται όλο και περισσότερο από αστυνομικές αρχές και καταστήματα λιανικής, οι βρετανοί επίτροποι προειδοποιούν ότι η εθνική εποπτεία υπολείπεται της ταχείας εξάπλωσης της τεχνολογίας.

Πέρυσι, το Υπουργείο Εσωτερικών της χώρας παραδέχτηκε ότι οι κάμερες αναγνώρισης προσώπου είναι πιο πιθανό να ταυτοποιούν λανθασμένα άτομα μαύρης και ασιατικής καταγωγής σε σχέση με λευκούς, καθώς και γυναίκες περισσότερο από άνδρες, ενώ υπάρχουν και αντικρουόμενες μελέτες για τη συνολική ακρίβειά τους.

Ο Γουόρεν Ράτζα, στρατηγικός αναλυτής δεδομένων στο νότιο Λονδίνο, κλήθηκε να αφήσει το καλάθι του και να αποχωρήσει από το σούπερ μάρκετ Sainsbury’s αφού του είπαν ότι είχε εμφανιστεί στο σύστημα Facewatch τον Φεβρουάριο.

«Για μένα αυτό είναι ζήτημα πολιτικών δικαιωμάτων που εξελίσσεται αργά, γιατί αν σε απομακρύνουν χωρίς ερωτήσεις, επηρεάζονται τα δικαιώματά σου», είπε.

«Ζούμε ήδη σε μια χώρα με προβλήματα ρατσισμού. Και γνωρίζουμε ότι οι κάμερες δεν αναγνωρίζουν με την ίδια ακρίβεια άτομα με πιο σκούρα χαρακτηριστικά. Αυτό μπορεί να συμβαίνει σε ανθρώπους πολύ πιο ευάλωτους από εμένα» σημείωσε.

Μετά από πολλά emails, ενημερώθηκε τελικά ότι δεν ήταν καταχωρημένος στη βάση δεδομένων του Facewatch και ότι είχε γίνει λανθασμένη ταυτοποίηση από προσωπικό του καταστήματος. Του προσφέρθηκε κουπόνι αξίας 75 λιρών ως αποζημίωση.

Η 48χρονη Τζένι Σάντερς από το Μπέρμιγχαμ, βρισκόταν σε κατάστημα B&M όταν φύλακας ασφαλείας της είπε ότι είχε επισημανθεί από το Facewatch και την συνόδευσε μέσα στο κατάστημα για έλεγχο.

«Στενοχωρήθηκα και ένιωσα ντροπή μπροστά στον κόσμο που ήταν εκεί. Όταν έφτασα σπίτι, αναζήτησα πληροφορίες για το Facewatch και συνειδητοποίησα ότι μοιράζεται δεδομένα με πολλά καταστήματα», δήλωσε.

Αργότερα ενημερώθηκε ότι είχε καταχωρηθεί για υποτιθέμενη κλοπή, την οποία η ίδια αρνείται. Το B&M δήλωσε ότι δεν υπήρχαν πλέον αποδεικτικά στοιχεία και την αφαίρεσε από το σύστημα, προσφέροντάς της ένα κουπόνι αξίας 25 λιρών.

Η Σάντερς ανέφερε ότι υπέβαλε καταγγελία στον βρετανικό Επίτροπο Πληροφοριών (ICO), αλλά ακόμη δεν έχει λάβει απάντηση, επτά μήνες μετά.

Καταγγελίες για έλλειψη υποστήριξης σε όσους ταυτοποιήθηκαν λανθασμένα

Άλλοι εμπλεκόμενοι εξέφρασαν παρόμοιες ανησυχίες για την έλλειψη μηχανισμών προσφυγής, ενώ τόσο το Sainsbury’s όσο και η Facewatch υποστήριξαν ότι τα περιστατικά οφείλονται σε ανθρώπινο λάθος και ότι το σύστημα έχει πολύ υψηλή ακρίβεια.

«Γνωρίζουμε τα θέματα που αναφέρονται και σε κάθε περίπτωση, ενεργήσαμε άμεσα μόλις επικοινώνησαν με την ομάδα προστασίας δεδομένων της Facewatch», δήλωσε ο Νικ Φίσερ, διευθύνων σύμβουλος της Facewatch.

«Αυτά τα τρία σφάλματα είναι εξαιρετικά σπάνιες περιπτώσεις όταν εξετάζονται στο πλαίσιο των περισσότερων από 500.000 ειδοποιήσεων που στέλνουμε στους λιανοπωλητές κάθε χρόνο, αλλά αναγνωρίζουμε ότι οποιοδήποτε λάθος είναι ανησυχητικό για το εν λόγω άτομο. Το σύστημα έχει σχεδιαστεί για να υποστηρίζει, όχι να αντικαθιστά, την ανθρώπινη λήψη αποφάσεων», πρόσθεσε.

Ένας εκπρόσωπος του ICO δήλωσε: «Αναγνωρίζουμε τη βλάβη και την αναστάτωση που μπορεί να προκληθεί από την εσφαλμένη αναγνώριση. Για αυτόν τον λόγο, η χρήση της τεχνολογίας αναγνώρισης προσώπου πρέπει να συμμορφώνεται αυστηρά με τη νομοθεσία περί προστασίας δεδομένων και να αντιμετωπίζεται με προσοχή και διαφάνεια. Εάν κάποιος έχει ανησυχίες σχετικά με τον τρόπο συλλογής, χρήσης ή κοινοποίησης των δεδομένων του και αυτές οι ανησυχίες δεν μπορούν να επιλυθούν απευθείας με τον λιανοπωλητή, έχει το δικαίωμα να υποβάλει καταγγελία σε εμάς».

Πηγή: Guardian