Τεράστιο πρόστιμο στην Uber για απολύσεις μέσω AI!

Η βιομηχανία της λεγόμενης “gig economy” δέχθηκε έναν από τους ισχυρότερους κλυδωνισμούς της μέχρι σήμερα, καθώς η ολλανδική Αρχή Προστασίας Δεδομένων (Autoriteit Persoonsgegevens – AP) ανακοίνωσε ένα τεράστιο πρόστιμο στην Uber για απολύσεις μέσω AI. Η υπόθεση δεν αφορά μια κλασική παραβίαση κυβερνοασφάλειας ή μια διαρροή κωδικών, αλλά κάτι πολύ πιο σύνθετο και ανησυχητικό: την αποσύνδεση οδηγών από την πλατφόρμα με πλήρως αυτοματοποιημένες αποφάσεις, χωρίς ουσιαστικό ανθρώπινο έλεγχο και χωρίς πραγματική δυνατότητα αντίρρησης.

Το ποσό της ποινής προκαλεί σοκ: 824,9 εκατομμύρια ευρώ (περίπου 966 εκατομμύρια δολάρια). Πρόκειται για μια απόφαση που, ανεξάρτητα από την τελική έκβαση της έφεσης, στέλνει ξεκάθαρο μήνυμα προς κάθε εταιρεία που βασίζεται σε αλγορίθμους για να “αξιολογεί”, να τιμωρεί ή να απομακρύνει εργαζόμενους: όταν οι αποφάσεις επηρεάζουν άμεσα τον βιοπορισμό, η τεχνολογία δεν μπορεί να λειτουργεί ως αόρατος και ανεξέλεγκτος εργοδότης.

Τεράστιο πρόστιμο στην Uber για απολύσεις μέσω AI: Τι ακριβώς καταγγέλλεται

Σύμφωνα με τα ευρήματα της AP, η Uber φέρεται να προχώρησε σε μαζικές απενεργοποιήσεις λογαριασμών οδηγών στη βάση αλγοριθμικών εκτιμήσεων ή “σημάτων” που παρήγαγε το σύστημά της. Το κρίσιμο σημείο, όπως τονίζεται, είναι ότι πολλές από αυτές τις αποφάσεις ήταν πλήρως αυτοματοποιημένες: δηλαδή δεν υπήρχε ουσιαστική ανθρώπινη παρέμβαση ή επίβλεψη πριν ο οδηγός χάσει την πρόσβαση στην πλατφόρμα και, μαζί, το εισόδημά του.

Η έρευνα φέρεται να καλύπτει την περίοδο 2018–2022, ένα διάστημα στο οποίο η “αλγοριθμική διοίκηση” (algorithmic management) έχει επεκταθεί θεαματικά σε πλατφόρμες μεταφορών και delivery. Στο πλαίσιο του GDPR, όμως, οι αυτοματοποιημένες αποφάσεις που έχουν σημαντικές συνέπειες για ένα άτομο δεν είναι απλή τεχνική λεπτομέρεια. Αγγίζουν τον πυρήνα των δικαιωμάτων του: ενημέρωση, διαφάνεια, δυνατότητα να αμφισβητήσει μια απόφαση, καθώς και το δικαίωμα να υπάρχει ανθρώπινη αξιολόγηση όταν κρίνεται η επαγγελματική του μοίρα.

Όταν ο αλγόριθμος κρίνει τον βιοπορισμό σου

Η υπόθεση ήρθε στην επιφάνεια ύστερα από καταγγελίες 171 Γάλλων οδηγών, οι οποίοι επέλεξαν να κινηθούν οργανωμένα μέσω τοπικής οργάνωσης ανθρωπίνων δικαιωμάτων. Οι οδηγοί περιέγραψαν ότι βρέθηκαν “εκτός συστήματος” ξαφνικά, χωρίς επαρκείς εξηγήσεις και χωρίς αποτελεσματικό μηχανισμό που να τους επιτρέπει να υπερασπιστούν τον εαυτό τους.

Καθώς τα κεντρικά ευρωπαϊκά γραφεία της Uber βρίσκονται στην Ολλανδία, η υπόθεση πέρασε στην αρμοδιότητα της AP. Η Monique Verdier, αναπληρώτρια πρόεδρος της ολλανδικής Αρχής, έδωσε το στίγμα της ευρωπαϊκής αυστηρότητας απέναντι σε τέτοιες πρακτικές, σημειώνοντας ότι “από τη μια στιγμή στην άλλη, δεν είχαν πλέον κανένα εισόδημα μέσω της εφαρμογής” και ότι “ένας υπολογιστής δεν θα έπρεπε να παίρνει από μόνος του αποφάσεις που έχουν τόσο μεγάλες και καταστροφικές συνέπειες”.

Η φράση αυτή συμπυκνώνει το βασικό ερώτημα της εποχής: πόση εξουσία επιτρέπεται να έχει ένα μοντέλο ή ένας κανόνας λογισμικού πάνω σε ανθρώπινες ζωές, όταν η “απόδοση”, η “αξιοπιστία” ή η “υποψία παραβίασης” μεταφράζονται σε άμεση απώλεια εισοδήματος;

Το βεβαρημένο ιστορικό της Uber με τις ευρωπαϊκές αρχές

Το τεράστιο πρόστιμο στην Uber για απολύσεις μέσω AI δεν έπεσε σε “παρθένο έδαφος”. Η AP έχει ήδη επιβάλει κυρώσεις στην εταιρεία στο παρελθόν, δείχνοντας ότι η σχέση της πλατφόρμας με το ευρωπαϊκό κανονιστικό πλαίσιο είναι, εδώ και χρόνια, τεταμένη.

Ενδεικτικά:
– Το 2018 επιβλήθηκε ποινή 600.000 ευρώ για ελλιπή προστασία δεδομένων.
– Το 2023 ακολούθησε πρόστιμο 10 εκατομμυρίων ευρώ.
– Στις αρχές του 2024 καταγράφηκε νέο ρεκόρ 290 εκατομμυρίων ευρώ, λόγω ακατάλληλης μεταφοράς ευαίσθητων προσωπικών δεδομένων Ευρωπαίων οδηγών σε διακομιστές στις ΗΠΑ.

Αυτό το ιστορικό ενισχύει την αίσθηση ότι οι ευρωπαϊκές αρχές δεν αντιμετωπίζουν πλέον τέτοιες υποθέσεις ως “παρατυπίες”, αλλά ως δομικά ζητήματα συμμόρφωσης, διακυβέρνησης και σεβασμού θεμελιωδών δικαιωμάτων.

Πώς υπολογίστηκε το πρόστιμο και τι σημαίνει η έφεση

Το πώς φτάσαμε στα 824,9 εκατομμύρια ευρώ έχει ιδιαίτερη σημασία. Ο GDPR προβλέπει ότι, για σοβαρές παραβιάσεις, το πρόστιμο μπορεί να ανέλθει έως και στο 4% του παγκόσμιου ετήσιου κύκλου εργασιών μιας εταιρείας. Για έναν τεχνολογικό κολοσσό με διεθνή παρουσία και τζίρο δισεκατομμυρίων, αυτό το ποσοστό οδηγεί εύκολα σε αστρονομικά ποσά.

Η Uber, σύμφωνα με την ενημέρωση της AP, έχει ήδη καταθέσει έφεση, επιχειρώντας να ανατρέψει ή να μειώσει την απόφαση. Ωστόσο, ακόμη και η ύπαρξη έφεσης δεν ακυρώνει το πολιτικό και κοινωνικό βάρος της εξέλιξης: οι αυτοματοποιημένες αποφάσεις δεν μπορούν να λειτουργούν στο σκοτάδι, ειδικά όταν επιβάλλουν “σιωπηρές απολύσεις” με το πάτημα ενός κουμπιού.

Τι αλλάζει για την gig economy από εδώ και πέρα

Το τεράστιο πρόστιμο στην Uber για απολύσεις μέσω AI αναδεικνύει κάτι που οι εργαζόμενοι στις πλατφόρμες καταγγέλλουν εδώ και χρόνια: ότι η τεχνολογία δεν είναι ουδέτερη όταν χρησιμοποιείται ως εργαλείο ελέγχου. Όσο η τεχνητή νοημοσύνη και οι αλγόριθμοι αναλαμβάνουν ρόλο “ψηφιακού προϊσταμένου”, τόσο πιο απαραίτητες γίνονται η ανθρώπινη εποπτεία, η αιτιολόγηση των αποφάσεων και οι πραγματικές διαδικασίες προσφυγής.

Σε τελική ανάλυση, αυτή η υπόθεση δεν αφορά μόνο την Uber. Αφορά το πώς θα οριστεί η ισορροπία ανάμεσα στην αυτοματοποίηση και στα εργασιακά δικαιώματα στην Ευρώπη τα επόμενα χρόνια. Και το μήνυμα είναι σαφές: όταν μιλάμε για εισόδημα, αξιοπρέπεια και δικαίωμα ακρόασης, ένα σύστημα AI δεν μπορεί να έχει τον τελευταίο λόγο χωρίς διαφάνεια και λογοδοσία.