Στο επεισόδιο Hang the DJ της τέταρτης σεζόν του Black Mirror, μια εφαρμογή γνωριμιών τρέχει χίλιες προσομοιώσεις για κάθε υποψήφιο ζευγάρι. Χίλιες εκδοχές τους που ζουν, ερωτεύονται, τσακώνονται και χωρίζουν σε έναν παράλληλο ψηφιακό κόσμο τον οποίο δεν θα δουν ποτέ, μέχρι ο αλγόριθμος να καταλήξει σε ένα ποσοστό συμβατότητας και να τους συστήσει τον σωστό σύντροφο.
Όταν τελικά τον γνωρίζουν, νομίζουν ότι τον επέλεξαν αυτοί. Στην πραγματικότητα, όμως, έχουν ήδη προσομοιωθεί εκατοντάδες φορές. Η απόφαση έχει παρθεί για αυτούς μέσα από χίλιες σκιές τους.
Το επεισόδιο βγήκε το 2017, και οι πιστοί οπαδοί της σειράς σίγουρα το θυμούνται. Εννιά χρόνια μετά, η θεματολογία του μοιάζει λιγότερο με προειδοποίηση για ένα προκαθορισμένο ψηφιακό μέλλον και περισσότερο με περιγραφή του παρόντος.
Η καρδιά, όσο και αν κάνει λάθη, όσο και αν μπερδεύεται, όσο και αν επιμένει σε επιλογές που κανένα μοντέλο δεν θα πρότεινε ως βέλτιστες, παραμένει το πιο απρόβλεπτο κομμάτι μας ως ανθρώπινα όντα.
Ναι, η ταύτιση έχει μια δόση υπερβολής μιας και καμία εφαρμογή δεν τρέχει ακόμη χίλιες εκδοχές σου σε παράλληλα σύμπαντα. Αλλά το υπόβαθρο είναι εκεί.
Κάθε φορά που ανοίγουμε το τηλέφωνο, μπαίνουμε σε ένα περιβάλλον που μας έχει ήδη μελετήσει, μας έχει ήδη κατηγοριοποιήσει, και μας σερβίρει έναν κόσμο φτιαγμένο ειδικά για εμάς. Ή μάλλον, για αυτούς που η τεχνητή νοημοσύνη έχει συμπεράνει ότι είμαστε.
Δεν το παρατηρούμε γιατί λειτουργεί αργά και ομαλά, ακριβώς επειδή μας ξέρει ήδη καλά.
Οι χίλιες εκδοχές σου
Ο John Cheney-Lippold, καθηγητής Digital Studies στο University of Michigan, έδωσε σε αυτή τη μετατόπιση ένα όνομα: Algorithmic identity. Το εισήγαγε πρώτη φορά σε ακαδημαϊκό δοκίμιο το 2011, και το ανέπτυξε στο βιβλίο του We Are Data το 2017.
Η θέση του είναι ανατρεπτική. Οι πλατφόρμες δεν αναγνωρίζουν χαρακτηριστικά μας αλλά τα παράγουν, υπολογίζοντας στατιστικά τι είναι πιθανό να είμαστε όσον αφορά το φύλο, την ηλικία, την τάξη, ή τις ψυχολογικές μας διαθέσεις. Η ταυτότητά μας, στο δικό τους μοντέλο, είναι μια πιθανολογική εκδοχή που ενημερώνεται διαρκώς κάθε φορά που κάνουμε κάτι online.
Ο Cheney-Lippold ονομάζει αυτές τις εκδοχές just-in-time identities, επειδή ισχύουν μόνο για εκείνη τη στιγμή, μέχρι την επόμενη αναζήτηση, σχόλιο ή ανάρτηση να τις αναθεωρήσει. Περιγράφει τη συνολική λογική ως μια μορφή soft biopolitics, έναν ήπιο έλεγχο που δεν σου απαγορεύει τίποτα, αλλά καθορίζει σιωπηλά τι εμφανίζεται στον ορίζοντά σου.
Η Shoshana Zuboff, ομότιμη καθηγήτρια στο Harvard Business School, έθεσε το ζήτημα πολύ πιο ωμά στο βιβλίο της, The Age of Surveillance Capitalism, που κυκλοφόρησε το 2019. Σύμφωνα με την Zuboff αυτό που προσφέρουμε στις πλατφόρμες δεν είναι ο χρόνος μας ούτε η προσοχή μας, αλλά συμπεριφορικά δεδομένα που τροφοδοτούν μοντέλα πρόβλεψης.
Αυτά στη συνέχεια πωλούνται σε διαφημιστές, ασφαλιστικές και πολιτικές καμπάνιες, και όσο πιο ακριβές γίνεται το προφίλ μας, τόσο πιο μικρό το περιθώριο να μας εκπλήξει ο ίδιος μας ο εαυτός.
Το feed ως καθρέφτης που παραμορφώνει
Αυτή η λογική δεν εμφανίστηκε ξαφνικά με το βιβλίο της Zuboff όμως. Ο όρος filter bubble υπάρχει από το 2011, όταν ο Eli Pariser έγραψε το ομώνυμο βιβλίο. Η ιδέα ήταν απλή. Αν οι αλγόριθμοι προσωποποιούν ό,τι βλέπεις, σταδιακά σταματάς να εκτίθεσαι σε πράγματα που δεν σε επιβεβαιώνουν.
Η πραγματικότητα, βέβαια, είναι πιο περίπλοκη από όσο έδειχνε αρχικά. Πρόσφατες μελέτες αποδεικνύουν ότι οι περισσότεροι χρήστες δεν κλείνονται μέσα σε μια φούσκα. Αντιθέτως, στα μέσα κοινωνικής δικτύωσης πέφτουν σε ειδήσεις και απόψεις που δεν θα αναζητούσαν ποτέ μόνοι τους, και το feed τους καταλήγει μερικές φορές πιο ετερόκλητο από την πρωινή τους εφημερίδα. Η φούσκα δεν είναι ο κανόνας, είναι μοχλός. Όταν κάποιος έχει ήδη αρχίσει να γέρνει προς μια κατεύθυνση, ο αλγόριθμος δεν τον τραβά πίσω αλλά τον σπρώχνει πιο βαθιά.
Όταν το σύστημα εντόπιζε ότι κάποια ένιωθε άσχημα με τον εαυτό της, δεν της έδειχνε κάτι που θα τη βοηθούσε να νιώσει καλύτερα. Αντίθετα, της έδειχνε περισσότερα από αυτά που την ενοχλούσαν όπως αψεγάδιαστα και γυμνασμένα σώματα, αυστηρές δίαιτες, συμβουλές για να χάσει κιλά.
Και εκεί αρχίζουν τα δύσκολα. Τον Φεβρουάριο του 2024, ερευνητές του University College London με επικεφαλής τη Dr. Kaitlyn Regehr δημοσίευσαν τα ευρήματα ενός αλγοριθμικού ελέγχου στο TikTok. Έστησαν λογαριασμούς σχεδιασμένους ώστε να μιμούνται έφηβα αγόρια με θέματα μοναξιάς και ανασφάλειας για την αρρενωπότητά τους. Σε πέντε μέρες, το ποσοστό μισογυνικού περιεχομένου στο For You Page αυτών των λογαριασμών τετραπλασιάστηκε, από 13% σε 56%. Ο αλγόριθμος δεν παρακολούθησε τι έκαναν αλλά παρακολούθησε τι ένιωθαν. Και μετέτρεψε ένα συναίσθημα σε κοσμοθεωρία.
Το TikTok βέβαια δεν εφηύρε αυτή τη λογική, απλώς την έφερε στο φως. Τρία χρόνια νωρίτερα, η Frances Haugen είχε ήδη καταθέσει στο Κογκρέσο εσωτερικά έγγραφα της Meta για το Instagram, που έλεγαν ακριβώς το ίδιο πράγμα. Ανάμεσά τους, έγινε viral ένα slide από εσωτερική παρουσίαση του 2019 με μια φράση που σόκαρε: «κάνουμε τα θέματα εικόνας σώματος χειρότερα για μία στις τρεις έφηβες». Η εταιρεία αμφισβήτησε τη διατύπωση, το μοτίβο όμως έμεινε. Όταν το σύστημα εντόπιζε ότι κάποια ένιωθε άσχημα με τον εαυτό της, δεν της έδειχνε κάτι που θα τη βοηθούσε να νιώσει καλύτερα. Αντίθετα, της έδειχνε περισσότερα από αυτά που την ενοχλούσαν όπως αψεγάδιαστα και γυμνασμένα σώματα, αυστηρές δίαιτες, συμβουλές για να χάσει κιλά. Όχι γιατί κάποιος μηχανικός το είχε σχεδιάσει έτσι, αλλά γιατί η αλληλεπίδραση αυξάνεται όταν το περιεχόμενο πατάει σε πληγές που πονάνε.
Από την ιδιωτικότητα στην αυτονομία
Το παράδειγμα του Instagram με τις έφηβες δεν είναι ένα μεμονωμένο ατυχές γεγονός όπως κάποιοι το χαρακτήρισαν. Είναι συμπτώμα μιας βαθύτερης μετατόπισης στον τρόπο που σκεφτόμαστε τι σημαίνει προστασία στον ψηφιακό κόσμο. Για χρόνια, η δημόσια συζήτηση γύρω από τα δεδομένα περιστρεφόταν γύρω από την ιδιωτικότητα. Ποιος βλέπει τα στοιχεία μου, τι μπορώ να αποκρύψω, πώς κατεβάζω τα προσωπικά μου δεδομένα από το Facebook. Αυτά τα ερωτήματα δεν έχουν πάψει να είναι σημαντικά, απαντούν όμως σε μια παλιότερη μορφή απειλής, εκείνη της παρακολούθησης και της καταγραφής.
Η σημερινή απειλή είναι πιο αθόρυβη και πολύ πιο δύσκολο να την εντοπίσεις, γιατί δεν αφορά τι γνωρίζει κάποιος για εσένα, αλλά τι γίνεσαι μέσα από τον τρόπο που σου παρουσιάζεται ο κόσμος. Αν το σύστημα αποφασίσει ότι είσαι έφηβος με ανασφάλειες για την εμφάνισή σου, το feed σου δεν θα σε καθρεφτίσει, θα σε σπρώξει πιο βαθιά μέσα στην εκδοχή σου που ήδη υποφέρει. Δεν σου λέει ποιος είσαι, σε κατασκευάζει προς αυτή την κατεύθυνση.
Ο Cheney-Lippold περιγράφει αυτή τη δυναμική ως control of allocation. Όχι η εξουσία του Big Brother που παρακολουθεί κάθε κίνησή σου και ενίοτε τιμωρεί, αλλά η εξουσία του curator που αποφασίζει τι μπαίνει στη βιτρίνα. Κάθε feed είναι μια έκθεση που έχει ανοίξει αποκλειστικά για σένα, με επιλογές που δεν έχεις εγκρίνει, από έναν curator που δεν γνωρίζεις.
Και εδώ γεννιέται το πιο πολύπλοκο ερώτημα, αυτό που δεν έχει ξεκάθαρη απάντηση. Πόσο από αυτό που νομίζουμε ότι είμαστε, τα ενδιαφέροντά μας, τις γνώμες μας, ακόμα και την αισθητική μας, ανήκει πραγματικά σε εμάς;
Υπάρχει κάτι που δεν προσομοιώνεται
Η απάντηση δεν είναι εύκολη, αλλά ίσως αξίζει να την ψάξουμε. Αν δεν είσαι ιδιαίτερα καχύποπτος από τη φύση σου, όλα αυτά μοιάζουν με ατύχημα. Παράπλευρη συνέπεια μιας αγοράς όπου η ακρίβεια της πρόβλεψης μεταφράζεται σε έσοδα. Το engagement άλλωστε δεν είναι ιδεολογία, είναι μετρικός στόχος. Κανείς δεν κάθισε να γράψει κώδικα με σκοπό να μας αλλάξει. Απλώς έγραψαν κώδικα που μας μελετά, και αυτές οι αλλαγές ήρθαν άκλητες.
Κάθε swipe, κάθε δευτερόλεπτο που περνά σε ένα βίντεο, κάθε like που αφήνουμε γίνεται δεδομένο εκπαίδευσης. Η ταυτότητά μας χτίζεται σε πραγματικό χρόνο από τα ίχνη μας, και μετά μας επιστρέφεται πιο λεία, πιο ευανάγνωστη, πιο έτοιμη να καταναλωθεί. Κάποιος θα μπορούσε να πει ότι δεν είμαστε πια οι χρήστες, είμαστε το υλικό. Και το πιο περίεργο είναι πως αυτό το υλικό δεν το παραδίδουμε εκβιαστικά, το παραδίδουμε με ενθουσιασμό κάθε μέρα που βρισκόμαστε στο διαδίκτυο.
Η πίστη, το ένστικτο, το ταλέντο, η επιθυμία για υπέρβαση και όλα αυτά που δεν μετριούνται με μαθηματικές εξισώσεις, έγραψαν ιστορία εκεί που οι αριθμοί είχαν ήδη βγάλει την ετυμηγορία τους.
Η ποπ κουλτούρα το είχε ψυλλιαστεί αρκετά χρόνια πριν. Το Minority Report του 2002 μας έδειξε έναν κόσμο όπου ένα σύστημα πρόβλεψης μπορούσε να πει με “ακρίβεια” ποιος θα διαπράξει φόνο πριν καν το σκεφτεί. Ο Tom Cruise, επικεφαλής της μονάδας που συλλάμβανε τους μελλοντικούς δολοφόνους, βλέπει μια μέρα το όνομά του να εμφανίζεται στη λίστα. Το σύστημα είχε αποφανθεί ότι θα σκότωνε έναν άγνωστο. Το σύστημα, φυσικά, έκανε λάθος. Γιατί κανένας αλγόριθμος, όσο ακριβής και αν γίνει, δεν μπορεί να υπολογίσει το μόνο πράγμα που μας κάνει ανθρώπους: τη βούληση να αλλάξουμε γνώμη ακόμα και την τελευταία στιγμή.
Και εδώ αξίζει να γυρίσουμε πίσω στο Hang the DJ, γιατί το επεισόδιο κρύβει ένα απρόσμενα ανθρώπινο δώρο στο τέλος. Ο αλγόριθμος είχε υπολογίσει ότι οι δύο πρωταγωνιστές απλώς θα συναντιούνταν και θα χώριζαν. Εκείνοι όμως διάλεξαν κάτι που καμία εξίσωση δεν μπορούσε να προβλέψει με ακρίβεια, να ακολουθήσουν την καρδιά τους. Και η καρδιά, όσο και αν κάνει λάθη, όσο και αν μπερδεύεται, όσο και αν επιμένει σε επιλογές που κανένα μοντέλο δεν θα πρότεινε ως βέλτιστες, παραμένει το πιο απρόβλεπτο κομμάτι μας ως ανθρώπινα όντα.
Και εκεί ίσως να κρύβεται η αλήθεια. Αν οι υπερυπολογιστές, τα στατιστικά και οι εξισώσεις είχαν πάντα δίκιο, η Ελλάδα δεν θα σήκωνε ποτέ το Euro του 2004 με απόδοση 150 προς 1. Το Τείχος του Βερολίνου δεν θα έπεφτε το 1989, ένα γεγονός που καμία από τις πιο ισχυρές υπηρεσίες πληροφοριών του πλανήτη δεν είχε δει να έρχεται. Και ο Garry Kasparov δεν θα νικούσε ποτέ το Deep Blue της IBM το 1996 στη Φιλαδέλφεια, κόντρα σε μια μηχανή που υπολόγιζε εκατομμύρια κινήσεις το δευτερόλεπτο. Η πίστη, το ένστικτο, το ταλέντο, η επιθυμία για υπέρβαση και όλα αυτά που δεν μετριούνται με μαθηματικές εξισώσεις, έγραψαν ιστορία εκεί που οι αριθμοί είχαν ήδη βγάλει την ετυμηγορία τους. Γιατί στο τέλος, ο άνθρωπος παραμένει το μόνο πλάσμα που κρατά στα χέρια του την τελευταία λέξη για τις ιδέες και τις πράξεις του, ακόμα κι όταν η τεχνολογία έχει αποφανθεί ότι το παιχνίδι έχει τελειώσει.
- Soft biopolitics: είναι η εξουσία που δεν σου απαγορεύει τίποτα αλλά καθορίζει σιωπηλά τι σου εμφανίζεται ως διαθέσιμο, ορατό ή πιθανό.
- Filter bubble: είναι η κατάσταση όπου ο αλγόριθμος σου δείχνει μόνο περιεχόμενο που ταιριάζει στις προηγούμενες επιλογές σου, απομονώνοντάς σε σταδιακά από ιδέες και απόψεις που θα σε προκαλούσαν.
- Slide: είναι μια σελίδα μιας παρουσίασης PowerPoint, με τίτλο, κείμενο ή εικόνες πάνω της.
- Control of allocation: είναι η εξουσία που καθορίζει ποιες επιλογές, πληροφορίες και δυνατότητες σου παρουσιάζονται ως διαθέσιμες, χωρίς να σου απαγορεύει τίποτα ρητά.
- Curator: είναι αυτός που επιλέγει τι θα εκτεθεί, τι θα παρουσιαστεί και με ποια σειρά, σε οποιοδήποτε περιβάλλον όπου κάποιος αποφασίζει τι αξίζει να δει το κοινό.
- Swipe: είναι η κίνηση που κάνεις με το δάχτυλο πάνω σε οθόνη κινητού για να μετακινηθείς από μια εικόνα ή περιεχόμενο στο επόμενο, συνήθως σέρνοντας αριστερά ή δεξιά.
