Ερευνητές προειδοποιούν ότι η χρήση ΑΙ από τις αρχές ασφαλείας μπορεί να επιτείνει τις κοινωνικές διακρίσεις

Η ολοένα και ευρύτερη χρήση της Τεχνητής Νοημοσύνης (ΑΙ) από τις αρχές επιβολής του νόμου προκαλεί έντονο προβληματισμό στους ερευνητές. Παρότι τα συστήματα ΑΙ παρουσιάζονται ως εργαλεία που μπορούν να ενισχύσουν την αποτελεσματικότητα της αστυνόμευσης, υπάρχει ο κίνδυνος να αναπαράγουν ή ακόμη και να εντείνουν τις κοινωνικές διακρίσεις. Όταν οι προβλέψεις για τη μελλοντική εγκληματικότητα βασίζονται σε ιστορικά δεδομένα που περιέχουν προκαταλήψεις, η τεχνολογία μπορεί να μετατρέψει παλιά μοτίβα αδικίας σε νέες, αυτοματοποιημένες αποφάσεις.

Οι ειδικοί υποστηρίζουν ότι η χρήση ΑΙ στην αστυνόμευση πρέπει να συνοδεύεται από αυστηρότερους ελέγχους, διαφάνεια και ουσιαστική ανθρώπινη εποπτεία. Παράλληλα, ζητούν να εξετάζονται προσεκτικά τα δεδομένα στα οποία εκπαιδεύονται τα συστήματα, ώστε να εντοπίζονται και να περιορίζονται πιθανές μεροληψίες πριν επηρεάσουν τη ζωή των πολιτών.

Πώς η ΑΙ μπορεί να ενισχύσει τις κοινωνικές διακρίσεις

Σύμφωνα με την Κάρολιν ΜακΚέι, αναπληρώτρια καθηγήτρια και ερευνήτρια ψηφιακής δικαιοσύνης στη Νομική Σχολή του Πανεπιστημίου του Σίδνεϊ, ένα από τα βασικότερα προβλήματα είναι ότι τα συστήματα ΑΙ εκπαιδεύονται σε δεδομένα που έχουν δημιουργηθεί από ανθρώπους και θεσμούς. Επομένως, τα δεδομένα αυτά ενδέχεται να περιλαμβάνουν ήδη υφιστάμενες προκαταλήψεις, ανισότητες ή πρακτικές δυσανάλογης μεταχείρισης συγκεκριμένων ομάδων.

Όταν ένα σύστημα εντοπίζει ότι μια συγκεκριμένη περιοχή ή κοινωνική ομάδα εμφανίζεται συχνότερα στα αστυνομικά αρχεία, μπορεί να θεωρήσει ότι αυτό αποτελεί ένδειξη αυξημένης εγκληματικότητας. Ωστόσο, η συχνότερη παρουσία στα αρχεία δεν σημαίνει απαραίτητα ότι διαπράττονται περισσότερα εγκλήματα. Μπορεί απλώς να αντικατοπτρίζει την εντονότερη αστυνομική παρουσία, τις περισσότερες περιπολίες ή την ευκολότερη καταγραφή περιστατικών σε μια συγκεκριμένη περιοχή.

Έτσι δημιουργείται ένας επικίνδυνος κύκλος ανατροφοδότησης: η ΑΙ προβλέπει αυξημένο κίνδυνο σε μια γειτονιά, οι αρχές αυξάνουν εκεί την παρουσία τους, καταγράφονται περισσότερες συλλήψεις ή παραβάσεις και τα νέα δεδομένα χρησιμοποιούνται στη συνέχεια για να επιβεβαιώσουν την αρχική πρόβλεψη. Με αυτόν τον τρόπο, μια αρχική μεροληψία μπορεί να εμφανιστεί ως «αντικειμενικό» τεχνολογικό συμπέρασμα.

Τα προβληματικά δεδομένα της προγνωστικής αστυνόμευσης

Η κοινωνιολόγος Σάρα Μπρέιν, από το Πανεπιστήμιο του Τέξας, μελέτησε τον τρόπο με τον οποίο το Αστυνομικό Τμήμα του Λος Άντζελες αξιοποιεί τα μεγάλα δεδομένα. Στην έρευνά της, η οποία δημοσιεύτηκε στο περιοδικό American Sociological Review, διαπίστωσε ότι οι αστυνομικές αρχές χρησιμοποιούν όλο και περισσότερο τα δεδομένα όχι μόνο για να αντιμετωπίσουν εγκλήματα που έχουν ήδη διαπραχθεί, αλλά και για να προβλέψουν πού και πότε ενδέχεται να σημειωθούν νέα περιστατικά.

Η έρευνα ανέδειξε, ωστόσο, σημαντικές αδυναμίες. Τα εγκλήματα σε δημόσιους χώρους είναι πιθανότερο να γίνουν αντιληπτά και να καταγραφούν σε σχέση με περιστατικά που συμβαίνουν σε ιδιωτικούς χώρους. Επιπλέον, η αστυνομική δραστηριότητα επικεντρώνεται συχνά δυσανάλογα σε μαύρες γειτονιές και άλλες μειονοτικές κοινότητες. Ως αποτέλεσμα, τα δεδομένα που χρησιμοποιούνται από τα συστήματα ΑΙ δεν αποτυπώνουν κατ’ ανάγκη την πραγματική κατανομή της εγκληματικότητας, αλλά περισσότερο τον τρόπο με τον οποίο λειτουργούν οι ίδιες οι αστυνομικές υπηρεσίες.

Ερευνητές του Πανεπιστημίου της Νέας Υόρκης έχουν περιγράψει ένα μέρος αυτών των πληροφοριών ως «βρώμικα δεδομένα». Πρόκειται για αρχεία που μπορεί να έχουν διαμορφωθεί από διεφθαρμένες, παράνομες ή μεροληπτικές πρακτικές, όπως κατασκευασμένα στοιχεία, αδικαιολόγητες συλλήψεις ή εσφαλμένες καταχωρίσεις. Ένα σύστημα ΑΙ δεν μπορεί από μόνο του να γνωρίζει ότι μια καταγραφή είναι λανθασμένη ή προϊόν κακής πρακτικής. Αντιλαμβάνεται απλώς την επανάληψη ενός μοτίβου και μπορεί να το αναπαράγει σε μελλοντικές αποφάσεις.

Οι δυνατότητες της τεχνολογίας και η ανάγκη για έλεγχο

Η συγκεκριμένη άποψη δεν γίνεται αποδεκτή χωρίς επιφυλάξεις από όλους τους ειδικούς. Ο Δημήτρης Κόλλιας, αναπληρωτής καθηγητής πολυτροπικής τεχνητής νοημοσύνης στο Πανεπιστήμιο Queen Mary του Λονδίνου, υποστηρίζει ότι τα σύγχρονα συστήματα ΑΙ έχουν εξελιχθεί σημαντικά. Όπως επισημαίνει, δεν περιορίζονται στην απλή αντιγραφή των παραδειγμάτων με τα οποία εκπαιδεύτηκαν, αλλά μπορούν να συνδυάζουν πληροφορίες και να παράγουν νέες λύσεις.

Η δυνατότητα αυτή, όμως, δημιουργεί και πρόσθετους κινδύνους. Όσο πιο αυτόνομα γίνονται τα συστήματα, τόσο πιο σημαντικό είναι να διασφαλίζεται ότι οι αποφάσεις τους παραμένουν ασφαλείς, αξιόπιστες και ελέγξιμες. Η τεχνολογική ικανότητα δεν αρκεί από μόνη της. Απαιτούνται σαφείς κανόνες, ανεξάρτητοι έλεγχοι και ανθρώπινοι υπεύθυνοι που θα μπορούν να αμφισβητήσουν ή να ανατρέψουν μια απόφαση της ΑΙ.

Η εμπειρία από άλλους τομείς δείχνει πόσο σοβαρές μπορεί να είναι οι συνέπειες. Μελέτη που δημοσιεύτηκε το 2019 στο περιοδικό Science εξέτασε σύστημα ΑΙ στην υγειονομική περίθαλψη των Ηνωμένων Πολιτειών. Το σύστημα χρησιμοποιούσε το ύψος των δαπανών υγείας ως ένδειξη για το ποιοι ασθενείς χρειάζονταν πρόσθετη υποστήριξη. Ωστόσο, οι δαπάνες για μαύρους ασθενείς ήταν συχνά χαμηλότερες από εκείνες λευκών ασθενών με παρόμοια προβλήματα υγείας, εν μέρει εξαιτίας της περιορισμένης πρόσβασης στην περίθαλψη. Έτσι, το σύστημα κατέληγε να ευνοεί άδικα τους λευκούς ασθενείς, επειδή συνέδεε το υψηλότερο κόστος με τη μεγαλύτερη ανάγκη.

Η ανθρώπινη εποπτεία είναι απαραίτητη

Ο κ. Κόλλιας αναγνωρίζει ότι τα «μολυσμένα» ή μεροληπτικά δεδομένα αποτελούν σημαντική απειλή. Παράλληλα, υποστηρίζει ότι η προκατάληψη δεν είναι αναπόφευκτη. Τα συστήματα μπορούν να ελέγχονται για άδικα αποτελέσματα, τα δεδομένα και οι στόχοι τους μπορούν να βελτιώνονται, ενώ μπορούν να εφαρμόζονται δικλίδες ασφαλείας για τον περιορισμό των επιπτώσεων.

Οι ερευνητές, ωστόσο, τονίζουν ότι οι τεχνικές διορθώσεις από τις εταιρείες που αναπτύσσουν ή πωλούν τα συστήματα δεν επαρκούν. Χρειάζονται ανεξάρτητοι έλεγχοι που θα εξετάζουν όχι μόνο τον τρόπο λειτουργίας ενός αλγορίθμου, αλλά και την προέλευση των δεδομένων του. Παράλληλα, οι πολίτες πρέπει να ενημερώνονται για το πότε και πώς χρησιμοποιείται η ΑΙ, ενώ πρέπει να έχουν τη δυνατότητα να προσβάλλουν αποφάσεις που επηρεάζουν τα δικαιώματά τους.

Η ΑΙ μπορεί να προσφέρει χρήσιμα εργαλεία στις αρχές ασφαλείας, δεν μπορεί όμως να αντικαταστήσει την κρίση, την ευθύνη και την κοινωνική λογοδοσία. Χωρίς διαφάνεια και ανθρώπινη εποπτεία, η τεχνολογία κινδυνεύει να μετατρέψει παλιές προκαταλήψεις σε νέες μορφές διάκρισης. Για να αξιοποιηθεί με δίκαιο τρόπο, η ΑΙ πρέπει να ελέγχεται διαρκώς, να αξιολογείται με πραγματικά κριτήρια ισότητας και να χρησιμοποιείται ως υποστηρικτικό εργαλείο — όχι ως αλάνθαστος κριτής της ανθρώπινης συμπεριφοράς.