Η ΕΕ κατηγορεί το TikTok για το επιβλαβές αλγοριθμικό φαινόμενο της «κουνελότρυπας»

Οι ρυθμιστικές αρχές τεχνολογίας της Ευρωπαϊκής Ένωσης κατηγόρησαν το TikTok για παραβίαση κρίσιμων διατάξεων του ευρωπαϊκού Νόμου για τις Ψηφιακές Υπηρεσίες (DSA), εστιάζοντας στο επιβλαβές αλγοριθμικό φαινόμενο της «κουνελότρυπας» (“rabbit hole effect”). Πρόκειται για την πρακτική κατά την οποία το σύστημα συστάσεων της πλατφόρμας οδηγεί τους χρήστες σε μια αδιάκοπη ροή παρόμοιων βίντεο, περιορίζοντας σταδιακά την ποικιλία του περιεχομένου που εμφανίζεται στην οθόνη τους.

Η Ευρωπαϊκή Επιτροπή ζητά από την εταιρεία να προχωρήσει σε ουσιαστικές αλλαγές στον τρόπο λειτουργίας των εξατομικευμένων ροών βίντεο. Σύμφωνα με τις ευρωπαϊκές αρχές, η συνεχής έκθεση σε περιεχόμενο που σχετίζεται με τη θλίψη, την απομόνωση, την αυτοεικόνα ή την εξωτερική εμφάνιση μπορεί να επηρεάσει αρνητικά την ευημερία και την ψυχική υγεία των χρηστών, ιδίως των ανηλίκων.

Η «κουνελότρυπα» του TikTok και οι κίνδυνοι για τους χρήστες

Η λειτουργία της πλατφόρμας βασίζεται σε μεγάλο βαθμό στις αλληλεπιδράσεις των χρηστών. Κάθε προβολή, like, κοινοποίηση ή παρατεταμένη παραμονή σε ένα βίντεο παρέχει δεδομένα στον αλγόριθμο, ο οποίος προσπαθεί να προβλέψει ποιο περιεχόμενο θα κρατήσει περισσότερο την προσοχή του χρήστη.

Ωστόσο, αυτή η διαδικασία μπορεί να δημιουργήσει έναν φαύλο κύκλο. Όταν ένας χρήστης δείξει ενδιαφέρον για συγκεκριμένο θέμα, το TikTok ενδέχεται να του προτείνει ολοένα περισσότερα παρόμοια βίντεο. Με τον τρόπο αυτό, η εμπειρία περιήγησης γίνεται όλο και πιο μονοδιάστατη και ο χρήστης μπορεί να βρεθεί σε μια «κουνελότρυπα», από την οποία είναι δύσκολο να απομακρυνθεί.

Η Ευρωπαϊκή Επιτροπή προειδοποιεί ότι το πρόβλημα γίνεται ιδιαίτερα σοβαρό όταν το περιεχόμενο αφορά ευαίσθητα ζητήματα, όπως η κατάθλιψη, οι διατροφικές διαταραχές, η μοναξιά ή η αρνητική εικόνα σώματος. Η επαναλαμβανόμενη προβολή τέτοιων βίντεο μπορεί να ενισχύσει αρνητικές σκέψεις και συμπεριφορές, αντί να προσφέρει μια ισορροπημένη και ασφαλή διαδικτυακή εμπειρία.

Η Επιτροπή δήλωσε ότι εξέδωσε προκαταρκτικά ευρήματα, τα οποία αποτελούν αυστηρές συστάσεις προς το TikTok. Οι αρχές υποστηρίζουν ότι η εταιρεία δεν έλαβε αναλογικά, εύλογα και αποτελεσματικά μέτρα για τον περιορισμό των κινδύνων που συνδέονται με το σύστημα συστάσεων της πλατφόρμας.

Τι ζητά η Ευρωπαϊκή Επιτροπή από το TikTok

Στο επίκεντρο των απαιτήσεων βρίσκεται ο σχεδιασμός της ροής «Για εσάς» (For You). Η Επιτροπή ζητά από το TikTok να περιορίσει την υπερβολική εξάρτηση από τη συμπεριφορά των χρηστών και να δώσει μεγαλύτερη βαρύτητα στις σαφείς και ρητές προτιμήσεις τους.

Παράλληλα, η πλατφόρμα καλείται να βελτιώσει τους διαθέσιμους ελέγχους, ώστε οι χρήστες να μπορούν πιο εύκολα να επηρεάζουν το περιεχόμενο που βλέπουν. Οι ρυθμιστικές αρχές ζητούν οι σχετικές επιλογές να είναι πιο προσβάσιμες, κατανοητές και εύχρηστες, αντί να βρίσκονται κρυμμένες σε σύνθετα μενού ρυθμίσεων.

Επιπλέον, η Επιτροπή απαιτεί από το TikTok να υποβάλλει τακτικά τον αλγόριθμό του σε δοκιμές. Στόχος είναι να εντοπίζονται εγκαίρως πιθανές επιπτώσεις στην ψυχική υγεία και στην ευημερία των χρηστών, καθώς και να αξιολογείται αν οι αλλαγές που εφαρμόζει η εταιρεία περιορίζουν πραγματικά το φαινόμενο της «κουνελότρυπας».

Η αρμόδια για την τεχνολογία επίτροπος της ΕΕ, Χένα Βίρκουνεν, δήλωσε ότι κάθε scroll ή like μπορεί να οδηγήσει τον χρήστη σε μια αλληλουχία περιεχομένου από την οποία δεν είναι εύκολο να ξεφύγει. Όπως τόνισε, οι συστάσεις της Επιτροπής καταδεικνύουν ότι το TikTok πρέπει να εντείνει τις προσπάθειές του για την προστασία της ευημερίας όλων των χρηστών, ιδιαίτερα των ανηλίκων.

Η απάντηση της TikTok

Η TikTok απέρριψε κατηγορηματικά τις κατηγορίες της Ευρωπαϊκής Επιτροπής. Σε ανακοίνωσή της, η εταιρεία υποστήριξε ότι αρκετές από τις αναφορές της Επιτροπής είναι ανακριβείς και παρουσιάζουν με στρεβλό τρόπο τόσο την αρχιτεκτονική της πλατφόρμας όσο και τις πρωτοβουλίες της για την ασφάλεια των χρηστών.

Η εταιρεία ανέφερε ακόμη ότι διαθέτει ισχυρό ιστορικό στην προστασία της κοινότητάς της και ότι προσφέρει στους χρήστες άμεσο και κατανοητό έλεγχο της εμπειρίας περιεχομένου. Η TikTok έχει στο παρελθόν υποστηρίξει ότι λαμβάνει μέτρα για την αντιμετώπιση επιβλαβών τάσεων, την ενίσχυση της προστασίας των ανηλίκων και τη βελτίωση των εργαλείων ελέγχου.

Η ByteDance, μητρική εταιρεία του TikTok, κινδυνεύει με πρόστιμο που μπορεί να φτάσει έως και το 6% του παγκόσμιου ετήσιου κύκλου εργασιών της, εφόσον δεν αντιμετωπίσει τις ανησυχίες των ευρωπαϊκών αρχών. Η διαδικασία βρίσκεται ακόμη σε εξέλιξη, καθώς τα προκαταρκτικά ευρήματα δεν συνιστούν οριστική απόφαση.

Ευρύτερη έρευνα για τις ψηφιακές πλατφόρμες

Η υπόθεση εντάσσεται σε μια ευρύτερη προσπάθεια της Ευρωπαϊκής Ένωσης να υποχρεώσει τις μεγάλες διαδικτυακές πλατφόρμες να αναλαμβάνουν μεγαλύτερη ευθύνη για τις επιπτώσεις των υπηρεσιών τους. Ο Νόμος για τις Ψηφιακές Υπηρεσίες απαιτεί από τις πολύ μεγάλες πλατφόρμες να εντοπίζουν, να αξιολογούν και να περιορίζουν τους συστημικούς κινδύνους που συνδέονται με τις υπηρεσίες τους.

Οι ευρωπαϊκές αρχές είχαν κατηγορήσει το TikTok και τον Φεβρουάριο για εθιστικό σχεδιασμό, ανεπαρκή μέτρα προστασίας των παιδιών και δυσκολίες στην πρόσβαση ερευνητών σε δημόσια δεδομένα. Η εταιρεία απέρριψε και τότε τα προκαταρκτικά ευρήματα ως «κατηγορηματικά ψευδή» και δήλωσε ότι θα τα αμφισβητήσει.

Παράλληλα, η Επιτροπή διερευνά παρόμοια φαινόμενα που ενδέχεται να προκαλούνται από τα συστήματα συστάσεων του Facebook και του Instagram, τα οποία ανήκουν στη Meta Platforms. Η εξέλιξη αυτή δείχνει ότι η συζήτηση για την αλγοριθμική διαφάνεια, την ψυχική υγεία και την προστασία των ανηλίκων δεν αφορά μόνο μία πλατφόρμα.

Η διαμάχη για την «κουνελότρυπα» του TikTok αναδεικνύει ένα κρίσιμο ερώτημα: μέχρι ποιο σημείο μπορούν οι πλατφόρμες να σχεδιάζουν αλγόριθμους που μεγιστοποιούν την παραμονή των χρηστών, χωρίς να θέτουν σε κίνδυνο την ευημερία τους; Η Ευρωπαϊκή Ένωση φαίνεται αποφασισμένη να απαιτήσει πιο υπεύθυνες απαντήσεις και ουσιαστικές αλλαγές στον τρόπο με τον οποίο λειτουργούν τα συστήματα συστάσεων.