Κάποιος ανοίγει το laptop του και γράφει: «Αναζητώ εκείνο το μήνυμα που είχα στείλει όταν είχα παραιτηθεί». Δεν θυμάται ακριβώς πότε. Ούτε τι ακριβώς είχε γράψει.
Το σύστημα δεν ανακτά ούτε σερβίρει μόνο το email. Επιστρέφει το draft που είχε σβήσει, τα μηνύματα της ίδιας ημέρας, το ημερολόγιο με τη λέξη «burnout» σημειωμένη δύο εβδομάδες πριν. Και μια σύνοψη: «Βίωνες αβεβαιότητα αλλά ήσουν και αποφασισμένος. Ήσουν ήδη “έξω”».
Αυτό που μέχρι τώρα ονομάζαμε απλή αναζήτηση ξεθωριάζει. Η μνήμη αρχίζει να μοιάζει με υπηρεσία: κάτι που συμβαίνει «αλλού» και επιστρέφει σ’ εσένα ως αποτέλεσμα.
Η μνήμη δεν ήταν ποτέ ουδέτερη
Η ανθρώπινη μνήμη αποθηκεύει. Παράλληλα, όμως, ανακατασκευάζει. Κάθε φορά που ανακαλούμε ένα γεγονός, δεν ανοίγουμε ένα αρχείο· το ξαναγράφουμε ελαφρώς, επηρεασμένοι απ’ όσα έχουμε έκτοτε μάθει και από αυτό που θέλουμε να πιστεύουμε ότι συνέβη.
Ο Daniel Schacter, σε ένα από τα πιο επιδραστικά έργα για τη μνήμη, περιέγραψε τις «επτά αμαρτίες της μνήμης»· με λίγα λόγια, τις χαρακτηριστικές αστοχίες της μνήμης, οι οποίες δεν είναι απλώς σφάλματα αλλά μέρος της ίδιας της λειτουργίας της. Η μνήμη μας αποτυγχάνει με προβλέψιμους, ολωσδιόλου ανθρώπινους τρόπους: ξεθωριάζει, μπλοκάρει, παραποιεί, μπερδεύει πηγές, ενσωματώνει υποβολές.
Η Elizabeth Loftus έδειξε πόσο εύκολα η μνήμη μπορεί να επηρεαστεί, να τροποποιηθεί ή να γίνει ανακριβής. Η μνήμη είναι κάτι περισσότερο από φωτογραφική αποτύπωση· είναι, κυρίως, αφήγηση που αλλάζει όταν την ξαναδιαβάζεις.
Η προσπάθεια, η αβεβαιότητα και το κενό ανάμεσα στο «ξέρω ότι υπάρχει κάπου» και στο «το βρήκα» ήταν δικά μας. Τώρα αυτό το κενό κλείνει αυτόματα.
Αυτή η αστάθεια φαίνεται ως αδυναμία, εντούτοις είναι το συστατικό που κάνει τη μνήμη ζωντανή, ικανή να αποκτά νέο νόημα καθώς αλλάζουμε κι εμείς. Η λήθη, από την άλλη, δεν είναι μόνον απώλεια. Είναι και μορφή ελευθερίας.
Στο μυθιστόρημα «Η αστυνομία της μνήμης» (μτφρ. Χίλντα Παπαδημητρίου, εκδ. Πατάκη, 2020) της Yoko Ogawa, τα πράγματα εξαφανίζονται ένα ένα και οι άνθρωποι ξεχνούν ότι υπήρξαν. Κι όλα αυτά χωρίς πόνο και, εν πολλοίς, δίχως αντίσταση. Αυτό που κάνει το βιβλίο ανησυχητικό είναι ότι κανείς δεν αποφασίζει τι εξαφανίζεται. Απλώς συμβαίνει.
Όλα δείχνουν ότι το ερώτημα που ανοίγει το βιβλίο –ποιος αποφασίζει τι αξίζει να ξεχαστεί– είναι σήμερα λιγότερο αλληγορικό απ’ όσο πιστεύαμε όταν το βιβλίο είχε πρωτοεκδοθεί.
Όταν η μνήμη γίνεται υποδομή
Όπως μας εξηγεί ο Βασίλης Βασσάλος, καθηγητής Πληροφορικής στο Οικονομικό Πανεπιστήμιο Αθηνών και ανώτερος διευθυντής AI στην Automation Anywhere, δεν συνομιλούμε ποτέ απευθείας με ένα LLM. Τα AI assistants δεν είναι ενιαίες οντότητες νοημοσύνης, αλλά συνδυασμοί foundation models και software modules που οργανώνουν την αλληλεπίδραση.
Η μνήμη είναι ένα από αυτά τα modules. Ένα σύστημα δημιουργεί μνήμες, ένα άλλο τις συμπιέζει, ένα τρίτο αποφασίζει ποιες είναι σχετικές, ένα τέταρτο τις ανακαλεί όταν γράφουμε ένα νέο prompt. Ο χρήστης μιλά σε μία διεπαφή. Πίσω της, διαφορετικά συστατικά αποφασίζουν τι αξίζει να θυμάται το σύστημα γι’ αυτόν.
Τον Μάιο του 2024, η Microsoft παρουσίασε το Recall με μια απλή υπόσχεση: φωτογραφική μνήμη για τον υπολογιστή μας. Η λειτουργία σχεδιάστηκε ώστε να καταγράφει στιγμιότυπα της οθόνης σε τακτά διαστήματα, να τα αναλύει τοπικά και να τα κάνει αναζητήσιμα με φυσική γλώσσα. Ρωτάς «τι συζητούσα με τον συνάδελφό μου την Τρίτη;» και το σύστημα επιστρέφει το slack thread, το email και το αρχείο που ήταν ανοιχτά εκείνη τη στιγμή.
Αυτή η δυνατότητα, όμως, που μοιάζει με υπόσχεση, κούμπωσε πάνω σε πολύ συγκεκριμένες ανησυχίες. Ερευνητές ασφαλείας και φορείς προστασίας δεδομένων έδειξαν ότι η πρώτη εκδοχή του Recall δημιουργούσε σοβαρούς κινδύνους ιδιωτικότητας και ασφάλειας, αρκετούς ώστε η Microsoft να το αναβάλει και να το επανασχεδιάσει. Η δεύτερη εκδοχή ήρθε με τοπική αποθήκευση και αυστηρότερους περιορισμούς πρόσβασης.
Το Recall δεν αποτελεί εξαίρεση. Είναι, βέβαια, η πιο ορατή εκδοχή μιας ευρύτερης μετατόπισης: τα συστήματα δεν αρκούνται πια να αποθηκεύουν – ερμηνεύουν. Το Apple Intelligence συνδέει εμπειρίες και ενέργειες ανάμεσα σε emails, μηνύματα, φωτογραφίες και ημερολόγια, με στόχο να απλοποιεί την πρόσβαση σε πληροφορίες και να αυτοματοποιεί μέρος της αναζήτησης. Το Google Ask Photos επιχειρεί να απαντά σε ερωτήσεις για το προσωπικό φωτογραφικό αρχείο με φυσική γλώσσα. Και τα εταιρικά AI assistants συνοψίζουν συναντήσεις, αρχεία και χρονικές περιόδους εργασίας.
Η δυνατότητα-υπόσχεση επιφέρει λιγότερη γνωστική φθορά: λιγότερος χρόνος στην αναζήτηση, περισσότερος στην απόφαση. Αλλά αυτό είναι το πρώτο κρατούμενο. Το δεύτερο κρατούμενο είναι ότι κάθε σύστημα που μειώνει την προσπάθεια αποκτά σταδιακά και εξουσία πάνω στο τι θεωρείται σημαντικό. Και φθείρει μακροπρόθεσμα τις γνωσιακές μας λειτουργίες, όπως, εξάλλου, σημειώνει στην κουβέντα που είχαμε ο Διομήδης Σπινέλλης, καθηγητής Μηχανικής Λογισμικού στο Οικονομικό Πανεπιστήμιο Αθηνών και στο Πολυτεχνείο του Ντελφτ.
Για δεκαετίες, τα ψηφιακά εργαλεία αποθήκευαν όσα εμείς αναζητούσαμε. Η προσπάθεια, η αβεβαιότητα και το κενό ανάμεσα στο «ξέρω ότι υπάρχει κάπου» και στο «το βρήκα» ήταν δικά μας. Τώρα αυτό το κενό κλείνει αυτόματα.
Και μαζί του ανοίγει ένα άλλο ερώτημα: τι συμβαίνει με το δικαίωμά μας να μη θυμάται κανείς;
Το δικαίωμα στη λήθη
Το άρθρο 17 του GDPR κατοχυρώνει το δικαίωμα διαγραφής προσωπικών δεδομένων. Σε νομικό επίπεδο, η ιδέα είναι σαφής: ο άνθρωπος δεν πρέπει να ορίζεται για πάντα από κάτι που έγραψε, έπαθε ή υπήρξε.
Αλλά το νομικό πλαίσιο είχε γραφτεί με βάσεις δεδομένων στο μυαλό, όχι με γλωσσικά μοντέλα.
Σε μια βάση δεδομένων, διαγράφεις μια εγγραφή. Σε ένα γλωσσικό μοντέλο, τα δεδομένα μπορεί να έχουν ήδη διαχυθεί μέσα στις παραμέτρους του συστήματος. Η διαγραφή είναι επανεκπαίδευση. Για πρώτη φορά, το πρόβλημα δεν είναι αν κάτι διαγράφεται, αλλά αν μπορεί ποτέ πραγματικά να ξεχαστεί.
Το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων έχει ήδη αναγνωρίσει ότι τα μοντέλα AI που εκπαιδεύονται σε προσωπικά δεδομένα δεν είναι αυτομάτως ανώνυμα και ότι η διαγραφή σε τέτοια συστήματα δεν είναι απλή υπόθεση. Το ρήγμα δεν είναι μόνο νομικό. Είναι αρχιτεκτονικό. Το δικαίωμα υπάρχει, αλλά το σύστημα συχνά το προσπερνά.
Και το κρίσιμο δεν είναι μόνο ότι τα συστήματα δημιουργούν μνήμες, αλλά ότι αποφασίζουν ποιες αξίζει να ανακληθούν. Αυτή η διαδικασία, μάλιστα, παραμένει σε μεγάλο βαθμό αόρατη. «Δεν ξέρουμε πώς γίνεται αυτή η επιλογή και κανείς δεν πρόκειται να μας το πει», λέει ο Βασίλης Βασσάλος. Το πιο ανησυχητικό ίσως δεν είναι ότι τα συστήματα θυμούνται. Είναι ότι αποφασίζουν μόνα τους τι αξίζει να θυμούνται.
Ο συνομιλητής μας περιγράφει αυτά τα memory modules ως σχετικά αυτόνομα συστατικά των assistants, δηλαδή μηχανισμούς που λειτουργούν αόρατα για τον χρήστη. Για πρώτη φορά, μηχανισμοί επιλογής μνήμης αρχίζουν να μεταφέρονται έξω από τον ανθρώπινο έλεγχο, σε αδιαφανή software systems, που προσπερνούν δημόσιους θεσμούς και προσωπικές ή συλλογικές διαδικασίες.
Ο θάνατος της αναζήτησης
Υπάρχει κάτι που δύσκολα παρατηρεί κανείς όταν αναζητεί κάτι στο διαδίκτυο: ότι δεν ξέρει ακριβώς τι ψάχνει. Ξεκινά με μια λέξη, τη διορθώνει, αλλάζει σύνταξη, ακολουθεί ένα σύνδεσμο που δεν περίμενε. Συχνά, αυτό που έβρισκε άλλαζε και το ίδιο το ερώτημα. Η αβεβαιότητα ήταν μέρος της διαδικασίας. Ήταν γνωστική εργασία.
Η έρευνα των Sparrow, Liu και Wegner έδειξε πως, όταν γνωρίζουμε ότι μπορούμε να ξαναβρούμε μια πληροφορία αργότερα, τείνουμε να αποθηκεύουμε λιγότερο το ίδιο το περιεχόμενο και περισσότερο το πού θα το βρούμε. Δεν αποθηκεύουμε μόνο τη γνώση· αποθηκεύουμε τη διαδρομή προς αυτήν.
Αυτό που χάνεται δεν είναι η ικανότητα να βρίσκουμε, αλλά η συνήθεια να αναζητούμε.
Ο Nicholas Carr είχε περιγράψει νωρίτερα αυτή τη μετατόπιση: όχι ότι το Google μας κάνει απλώς πιο γρήγορους, αλλά ότι μας εκπαιδεύει να περιμένουμε άμεση απάντηση. Σε αυτό το πλαίσιο, η εποχή του AI recall πηγαίνει ένα βήμα παραπέρα· δεν ρωτούμε με λέξεις-κλειδιά, ρωτούμε με πρόθεση και δεν παίρνουμε αποτελέσματα, σερβιριζόμαστε συμπεράσματα.
Αυτό που χανόταν στο ενδιάμεσο –η αναθεώρηση, η έκπληξη, η ανακάλυψη του παράπλευρου– απλώς παύει να συμβαίνει. Αυτό που χάνεται, κοντολογίς, δεν είναι η ικανότητα να βρίσκουμε, αλλά η συνήθεια να αναζητούμε.
Ο Διομήδης Σπινέλλης βλέπει αυτή τη μετατόπιση ως συνέχεια μιας μακρύτερης γνωσιακής αλλαγής που ξεκίνησε ήδη από τις μηχανές αναζήτησης. «Πλέον γνωρίζουμε πού να βρούμε κάτι και δεν ξέρουμε τι ξέρουμε πραγματικά», λέει.
Η εξωτερική ανάθεση της μνήμης, πέραν της αλλαγής του τρόπου που θυμόμαστε, φαίνεται ότι αλλάζει σταδιακά και τον τρόπο που σκεφτόμαστε.
Η μνήμη ως ερμηνεία
«Οι agents δημιουργούν μνήμες», επισημαίνει ο Βασίλης Βασσάλος. Όχι με ανθρώπινο τρόπο, αλλά μέσω συμπιεσμένων αναπαραστάσεων του ιστορικού αλληλεπίδρασης. Περιλήψεις που ανακαλούνται αργότερα όταν το σύστημα αποφασίζει τι είναι σχετικό.
Οι μνήμες των AI systems δεν είναι πλήρη αρχεία του παρελθόντος. Είναι συμπιέσεις του. Περιλήψεις, στατιστικές αφαιρέσεις και μηχανισμοί σχετικότητας που αποφασίζουν τι αξίζει να επιβιώσει μέσα στο context ενός χρήστη.
Δύο προτάσεις, ίδια δεδομένα. Η πρώτη: «Στις 14 Μαρτίου έστειλες email στον Νίκο. Δεν απάντησε». Η δεύτερη: «Τον Μάρτιο, μετά από περίοδο αυξημένου άγχους, επικοινώνησες με τον Νίκο για επαγγελματικές αλλαγές. Η συνομιλία δεν συνεχίστηκε». Η δεύτερη κάνει αυτό που κάνει κάθε μνήμη: ερμηνεύει. Η διαφορά είναι ότι το κάνει με αρχείο, interface και αίσθηση αντικειμενικότητας.
Τα συστήματα που βασίζονται σε γλωσσικά μοντέλα παράγουν συχνά πιο συνεκτικές αφηγήσεις απ’ ό,τι οι άνθρωποι, ωστόσο όχι απαραίτητα πιο αληθινές. Μπορούν να οργανώσουν ένα υλικό σε μορφή που μοιάζει ψυχολογικά λογική ακόμα κι όταν παραμορφώνει τον τόνο.
Η ιστορία μπορεί να είναι σωστή. Απλώς υπάρχει η πιθανότητα να μην είναι δική σου. Σε αυτό το σημείο οι δύο καθηγητές συγκλίνουν σχεδόν απόλυτα. Ο Σπινέλλης προειδοποιεί ότι η ανθρώπινη μνήμη είναι ήδη ευεπίφορη στο να δημιουργεί πειστικές αλλά ανακριβείς αφηγήσεις. Ο Βασσάλος επιμένει ότι τα συστήματα αυτά δεν γνωρίζουν έναν «πραγματικό» εαυτό, αλλά μόνο την εκδοχή που τους δίνουμε.
H μνήμη ήταν πάντα ερμηνεία. Η διαφορά είναι ότι τώρα η ερμηνεία παράγεται συλλογικά, στατιστικά και σε βιομηχανική κλίμακα.
«Προτού σκεφτούμε τα biases του AI, πρέπει να σκεφτούμε τα δικά μας», λένε σχεδόν με μια φωνή. Αν χρησιμοποιούμε έναν assistant μόνο για τη δουλειά μας, θα σχηματίσει μια επαγγελματική εκδοχή μας. Αν του μιλάμε μόνο σε στιγμές άγχους, θα θεωρήσει ότι το άγχος είναι η κανονική μας κατάσταση.
Πολλές φορές, τελικά, δεν παραμορφώνεται μόνο η μνήμη του συστήματος. Παραμορφώνεται ήδη το υλικό που του δίνουμε.
Σε ορισμένα συστήματα, οι χρήστες μπορούν ήδη να δουν ή να διορθώσουν τις μνήμες που δημιουργούνται γι’ αυτούς. Το πρόβλημα, λέει ο Βασσάλος, είναι ότι οι περισσότεροι δεν το κάνουν ποτέ. Αφήνουν το εργαλείο να αποφασίζει μόνο του τι είναι σημαντικό, τι είναι σχετικό και τελικά ποια εκδοχή τους αξίζει να διατηρηθεί.
Η ανθρώπινη μνήμη, όμως, διαμορφώνεται από μια ζωή: απ’ όσα έχουμε ζήσει, ξεχάσει, αισθανθεί, καταπιέσει. Τα AI systems λειτουργούν διαφορετικά. Δεν θυμούνται μέσα από εμπειρία αλλά μέσα από training data, τεράστιες ποσότητες ανθρώπινων κειμένων, καταγεγραμμένων αλληλεπιδράσεων και αφηγηματικών μοτίβων.
Όταν ένα AI system επιστρέφει μια εκδοχή του παρελθόντος μας, το κάνει μέσα από στατιστικές συσχετίσεις χτισμένες πάνω σε εκατομμύρια άλλες ιστορίες. Δεν επιστρέφει απλώς την ανάκτηση αυτού που έχουμε ζήσει· μας επιστρέφει αυτό που μοιάζει πιθανό να σημαίνει.
Όπως σημειώνει ο Σπινέλλης, τα προσωπικά δεδομένα που μοιραζόμαστε με τέτοια συστήματα παραμένουν «σταγόνα στον ωκεανό» μπροστά στον όγκο των δεδομένων πάνω στα οποία έχουν εκπαιδευτεί. Η μνήμη που δημιουργούν για εμάς δεν είναι βιογραφική με ανθρώπινους όρους. Είναι στατιστική.
Βέβαια, η μνήμη ήταν πάντα ερμηνεία. Η διαφορά είναι ότι τώρα η ερμηνεία παράγεται συλλογικά, στατιστικά και σε βιομηχανική κλίμακα.
Το 1998, μάλιστα, οι Andy Clark και David Chalmers δημοσίευσαν μια θεωρία που τότε έμοιαζε φιλοσοφική πρόκληση και σήμερα μοιάζει σχεδόν περιγραφική: το μυαλό δεν τελειώνει στα όρια του κρανίου. Ένα ημερολόγιο, ένας χάρτης, ένα σημειωματάριο μπορούν να γίνουν μέρος του γνωστικού μας συστήματος.
Στη σημερινή εκδοχή της εξωτερίκευσης, όμως, δεν αναθέτουμε μόνο αποθήκευση· αναθέτουμε επιλογή, σύνθεση και ερμηνεία. Ό,τι δεν χρειάζεται να θυμόμαστε αρχίζουμε σταδιακά να μην το παρατηρούμε καν.
Κι έτσι, δεν είναι ότι θα ξεχνάμε περισσότερα, αλλά ότι θα παρατηρούμε διαφορετικά. Και αθόρυβα θα παράγουμε λιγότερο υλικό που αξίζει να θυμόμαστε.
Η ασυμμετρία της τέλειας μνήμης
Η τέλεια μνήμη δεν είναι καθολική δυνατότητα. Προϋποθέτει σύγχρονες συσκευές, συγκεκριμένα λειτουργικά, subscriptions και συνεχή πρόσβαση σε υποδομές που δεν είναι ισότιμα διαθέσιμες παντού. Με άλλα λόγια, δεν είναι ανθρώπινο χαρακτηριστικό. Είναι προνόμιο με τιμή.
Ένας εργαζόμενος με AI meeting summaries και searchable meetings κινείται μέσα στην εβδομάδα του διαφορετικά από κάποιον που κρατά screenshots και χειρόγραφες σημειώσεις. Ο ένας ανακαλεί με φυσική γλώσσα. Ο άλλος προσπαθεί να θυμηθεί.
«Θα βρεθούμε ενώπιον βοηθών μνήμης που θα βλέπουν, θα ακούν και θα διαβάζουν τα πάντα από εμάς. Και αυτό θα μας οδηγήσει σε μια σούπερ μνήμη».
Άλλοι αποκτούν πρόσβαση σε μια πιο συνεκτική, searchable εκδοχή του εαυτού τους. Άλλοι βασίζονται αποκλειστικά στη βιολογική τους μνήμη με όλη την ατέλεια και την ελευθερία που αυτό συνεπάγεται. Με απλά λόγια, κάπου, κάποιος διαβάζει σύνοψη της εβδομάδας του. Κάπου αλλού, κάποιος άλλος προσπαθεί να θυμηθεί μόνος του. Και οι δύο ξεχνούν. Αλλά μόνον ο ένας έχει κάτι που θυμάται για αυτόν.
Ο Σπινέλλης περιγράφει αυτή τη μετάβαση ως την αρχή μιας «σούπερ μνήμης». «Θα βρεθούμε ενώπιον βοηθών μνήμης που θα βλέπουν, θα ακούν και θα διαβάζουν τα πάντα από εμάς», λέει. «Και αυτό θα μας οδηγήσει σε μια σούπερ μνήμη».
Το πρόβλημα είναι ότι δύσκολα μπορούμε να προβλέψουμε τις μακροσκοπικές επιπτώσεις μιας τέτοιας μετατόπισης, όπως ακριβώς συνέβη και με τα social media, σύμφωνα με τον συνομιλητή μας, ο οποίος κάνει λόγο για ζητήματα ανθρώπινων συμπεριφορών, ακόμα και μεταλλάξεων στις δημοκρατίες μας.
Ίσως οι συνέπειες αυτής της σούπερ μνήμης να γίνουν ορατές όταν θα έχουν ήδη αλλάξει τον τρόπο που θυμόμαστε, εργαζόμαστε και αντιλαμβανόμαστε τον εαυτό μας.
Κι ενώ για χιλιάδες χρόνια η ανθρώπινη κοινωνία οργανώθηκε γύρω από ένα δεδομένο, ότι οι άνθρωποι ξεχνούν· ενώ οι σχέσεις, οι θεσμοί, η πολιτική, ακόμα και η συγχώρεση βασίζονταν εν μέρει στη φθορά της μνήμης, σε λίγο καιρό ίσως η σούπερ μνήμη που περιγράφουν οι ερευνητές είναι η πρώτη στιγμή στην Ιστορία όπου η λήθη παύει να θεωρείται φυσικό όριο.
Ποιος κατέχει το παρελθόν σου;
Η αφήγηση δεν είναι φρουφρού κι αρώματα επί των γεγονότων. Είναι, κατά βάσιν, ο τρόπος που ο χρόνος γίνεται ζωή. Άλλωστε, για το μεγαλύτερο μέρος της ανθρώπινης ιστορίας, αυτή η αφήγηση ήταν εσωτερική υπόθεση. Την κατασκευάζαμε εμείς, με μνήμη ατελή και λήθη επιλεκτική. Ακόμα και όταν ήταν λανθασμένη, ήταν δική μας.
Ίσως γι’ αυτό ο Βασίλης Βασσάλος επιμένει ότι το πρόβλημα δεν είναι αποκλειστικά τεχνολογικό. «Κανείς δεν ξέρει κανέναν», λέει. Οι βιογράφοι, όπως σημειώνει ο ίδιος, ξοδεύουν ολόκληρη τη ζωή τους προσπαθώντας να καταλάβουν τη ζωή κάποιου άλλου· και πάλι αποτυγχάνουν μερικώς.
Η διαφορά είναι ότι τώρα αυτή η ατελής διαδικασία αποκτά αυτοματοποίηση, ταχύτητα και αίσθηση αντικειμενικότητας. Η μνήμη δεν είναι πλέον μόνο ό,τι ζήσαμε· είναι και το πώς ένα σύστημα αποφάσισε να μας το επιστρέψει.
Στο μεταξύ, ο άνθρωπος με το laptop της αρχής αυτού του κειμένου διαβάζει ξανά τη σύνοψη: «Βίωνες αβεβαιότητα αλλά ήσουν και αποφασισμένος. Ήσουν ήδη “έξω”». Σταματά. Προσπαθεί να θυμηθεί αν αυτό ισχύει. Δεν μπορεί να πει με βεβαιότητα, επειδή δεν γνωρίζει πλέον ποια εκδοχή είναι η δική του και ποια η ανακτημένη.
Κι ίσως αυτό είναι το βαθύτερο σημείο ρήξης. Η ανθρώπινη μνήμη αμφιβάλλει συνεχώς για τον εαυτό της. Τα AI systems όχι, παρά τα καταγεγραμμένα hallucinations, που ακόμα κι αυτά μοιάζουν γεμάτα αυτοπεποίθηση. Επιστρέφουν αφηγήσεις με τη βεβαιότητα της υπολογιστικής συνέπειας, ακόμα κι όταν το νόημα παραμένει ασταθές και παρά τα ψιλά γράμματα των disclaimers· ακόμα κι όταν αυτό το νόημα παράγεται από ένα σύστημα που δεν έχει εμπειρία αμφιβολίας.
