«Η τεχνητή νοημοσύνη μάς δίνει απαντήσεις, αλλά κινδυνεύουμε να χάσουμε τις ερωτήσεις»: Ο Χαράλαμπος Τσέκερης έρχεται στο ραντεβού μας στην Εθνική Πινακοθήκη ως πρόεδρος -πλέον- της Εθνικής Επιτροπής Βιοηθικής & Τεχνοηθικής. Θέτει διαρκώς διεθνή ερωτήματα, προσαρμόζοντάς τα στην εγχώρια σφαίρα. Δεν βλέπει την AI αποκλειστικά ως τεχνικό ζήτημα, αλλά ως ζήτημα πολιτισμού και διαπιστώνει ότι «ζούμε σε ένα κενό».
Δεν ανήκει ούτε στους καταστροφολόγους ούτε στους άκριτους θιασώτες της AI. Βλέπει τις τεράστιες δυνατότητές, αλλά προειδοποιεί ότι η μεγαλύτερη απειλή ίσως δεν είναι η ίδια η τεχνολογία, αλλά η σταδιακή εκχώρηση της ανθρώπινης σκέψης. Μιλά για τη «γνωστικά καθιστική ζωή», για την υποχώρηση της πρωτοτυπίας στην επιστήμη, για ένα νέο τεχνοκοινωνικό συμβόλαιο και για το γιατί, όσο πιο έξυπνες γίνονται οι μηχανές, τόσο πιο επιτακτικό γίνεται να επαναπροσδιορίσουμε τι σημαίνει να είσαι άνθρωπος.
«Ο εθισμός στις εύκολες και γρήγορες απαντήσεις, ο εθισμός στην εκχώρηση σκέψης, αναπτύσσεται πιο γρήγορα από την ικανότητα για γνωστική αυτονομία, την ικανότητα να προσπαθούμε διανοητικά και να “ξεκλειδώνουμε” αλήθειες. Αυτός είναι ο μεγάλος κίνδυνος για τις νέες γενιές, τη “Generation Alpha”, τη “Generation Beta” και ούτω καθεξής».
«Κοινωνικά βιώνουμε όχι απλώς κόπωση μεγάλων αφηγήσεων, αλλά ένα βαθύ έλλειμμα μεγάλων αφηγήσεων, που παλαιότερα -αυτό που ο Λυοτάρ ονόμασε “grand narratives”- κινητοποιούσαν τον κόσμο». Κι επειδή αυτές οι αφηγήσεις δεν υπάρχουν πια, «ο κόσμος έχει κουραστεί από την υπερπληροφόρηση και, βυθισμένος σε μια κουλτούρα ευκολίας και έτοιμων, γρήγορων απαντήσεων, έχει πάψει να αναζητά την αλήθεια, έχει πάψει να εμπνέεται, έχει πάψει να επιθυμεί το διαφορετικό, το καινούργιο. Αυτό οδηγεί αυξητικά όχι μόνο στη σωματική παχυσαρκία και στην καθιστική ζωή, αλλά και στη διανοητική παχυσαρκία, στο διανοητικό “junk food”, στη γνωστικά καθιστική ζωή».
Η μεγάλη παγίδα
Μα (όλη) την αλήθεια δεν την έχουμε πλέον στο χέρι μας; Γιατί κατηγορούμαστε για καθιστική ζωή, τη στιγμή που η πληροφόρηση είναι πιο άμεση από ποτέ; «Αυτή είναι η μεγάλη παγίδα. Η βραχυπρόθεσμη ευκολία των γρήγορων απαντήσεων με μεγάλη ακρίβεια και ευστοχία, ακόμα και σε εξειδικευμένα επιστημονικά πεδία, οδηγεί ακριβώς στη μακροπρόθεσμη κατάρρευση των γνωστικών δομών του ατόμου και της κοινωνίας. Γιατί; Γιατί αυτή η εστίαση στις έτοιμες, ακριβείς, γρήγορες απαντήσεις μάς εθίζει αυξητικά σε μια γνωστικά καθιστική ζωή, μας εθίζει να μην προσπαθούμε διανοητικά να εισφέρουμε στη γνώση, γιατί την έχουμε έτοιμη».
Είναι πιο επικίνδυνο για εμάς, που μάθαμε αλλιώς -με βιβλία, με σημειώσεις- ή για τα νέα παιδιά που θα μάθουν έτσι εξαρχής; «Ειδικά για τους νεότερους. Ο εθισμός στις εύκολες και γρήγορες απαντήσεις, ο εθισμός στην εκχώρηση σκέψης, αναπτύσσεται πιο γρήγορα από την ικανότητα για γνωστική αυτονομία, την ικανότητα να προσπαθούμε διανοητικά και να “ξεκλειδώνουμε” αλήθειες. Αυτός είναι ο μεγάλος κίνδυνος για τις νέες γενιές, τη “Generation Alpha”, τη “Generation Beta” και ούτω καθεξής».
Δεν εξαιρεί όμως ούτε τους ειδικούς. «Αυτό που είναι επικίνδυνο ακόμα και για εμάς, ακόμα και για τους ειδικούς -και δεν το λέω μόνο εγώ, το λένε και πολύ ειδικότεροι, όπως ο νομπελίστας Ντάρον Ατζέμογλου- είναι ότι ακόμα και σε αυτά τα πεδία υψηλής εμπειρογνωμοσύνης τείνουμε να λαμβάνουμε έτοιμες, γρήγορες, όλο και πιο ακριβείς απαντήσεις, εθιζόμαστε σε αυτό, κάτι που αποδυναμώνει τη διανοητική προσπάθεια που απαιτείται για να εισφέρουμε στη γνώση».
Αυτό το έχουμε μετρήσει; Μιλάμε για φαινόμενο δύο-τριών χρόνων. «Υπάρχει επιστημονική βιβλιογραφία που δείχνει την υποχώρηση της γνωστικής ποικιλομορφίας στην επιστήμη, την υποχώρηση της πρωτοτυπίας. Όλα αυτά οφείλονται στο ότι παύουμε να προσπαθούμε διανοητικά και να δημιουργούμε» – ενώ η εκθετική αύξηση παραγωγής άρθρων και βιβλίων «συνδέεται σε μεγάλο βαθμό με το λεγόμενο “AI slop”».
Δεν παίρνουμε όμως ταυτόχρονα πολύ περισσότερες απαντήσεις, άρα μεγαλύτερη ποικιλία, ώστε να καταλήξουμε εμείς στο δικό μας συμπέρασμα; «Παίρνουμε περισσότερες γνώσεις, όχι περισσότερη ποικιλία γνώσεων. Και αυτές οι γνώσεις αντλούνται από μία δεξαμενή πληροφοριών η οποία έχει τα όριά της, αν δεν ανατροφοδοτείται». Ο ίδιος χρησιμοποιεί την παραγωγική τεχνητή νοημοσύνη «για συνόψεις, για περιλήψεις». Χτυπά όμως τον κώδωνα του κινδύνου για την κριτική σκέψη και την πρωτοτυπία: «Αν τα πάντα τα διεκπεραιώνει η AI, αν τη βιβλιογραφική έρευνα και τη θεωρητική παραγωγή την εκχωρούμε στην AI -που είναι πολύ εύκολο να το κάνουμε- αν και την εμπειρική ή την υπολογιστική έρευνα την εκχωρούμε για να έχουμε έτοιμα δεδομένα, τότε παίρνουμε δεδομένα από μια τεχνητή νοημοσύνη που λίγο-πολύ αναμασά τον εαυτό της, αναμασά τα δεδομένα με τα οποία έχει εκπαιδευτεί. Συρρικνώνονται τα μέλλοντα. Ο άνθρωπος προχώρησε γιατί πίστεψε, από τον Καντ και μετά, στα ανοιχτά και πολλαπλά εναλλακτικά μέλλοντα».
«Λελογισμένα αισιόδοξος»
Του θυμίζω τους γιατρούς-ερευνητές που λένε ότι η AI τούς βοήθησε να βρουν φάρμακα, να αναλύσουν σε μήνες ό,τι απαιτούσε δεκαετίες. Όλοι αυτοί είναι αισιόδοξοι. «Εγώ είμαι λελογισμένα και τεκμηριωμένα αισιόδοξος» απαντά, θυμίζοντας τα πρόσφατα Νόμπελ Φυσικής και Χημείας στον Τζέφρι Χίντον και τον Ντέμις Χασάμπις – «Νόμπελ όχι Φυσικής και Χημείας στην καρδιά τους, αλλά Νόμπελ της αλγοριθμικής τεχνοεπιστήμης, της AI». «Έχουμε αυτή τη θεαματική πρόοδο, την τεράστια επιστημονική εξέλιξη στην ιατρική, στη βιολογία, στη γενετική. Όμως αυτή η πρόοδος πρέπει να ανατροφοδοτείται διαρκώς από την ανθρώπινη δημιουργικότητα και φαντασία και την ανθρώπινη θέληση για διαφορετικά εναλλακτικά μέλλοντα».
«Ο άνθρωπος πάντοτε δημιουργούσε επιστημονική πρόοδο και η τεχνολογία ήταν ο εφαρμοστής της. Πλέον συγκλίνει η επιστήμη με την τεχνολογία και η τεχνολογία έρχεται και παράγει επιστήμη».
Ποιος το εμποδίζει αυτό; «Η AI μάς βυθίζει στις απαντήσεις της, σε έναν τρόπο σκέψης, σε μια μονοκαλλιέργεια επιστημονικής μεθοδολογίας που αφαιρεί από άλλες προσεγγίσεις. Και ο άνθρωπος διαρκώς έψαχνε διαφορετικές προσεγγίσεις για να παράξει γνώση, καινοτομία».
Αντιτείνω ότι θα μπορούσε κανείς να πει πως μας ανοίγει νέα παράθυρα: «Υπάρχουν και το ένα και το άλλο. Αλλά θα πρέπει να τονίσουμε τις ευκαιρίες και να εστιάσουμε και στα ρίσκα. Ο άνθρωπος πάντοτε δημιουργούσε επιστημονική πρόοδο και η τεχνολογία ήταν ο εφαρμοστής της. Πλέον συγκλίνει η επιστήμη με την τεχνολογία και η τεχνολογία έρχεται και παράγει επιστήμη».
Κι αν φτάσουμε στην AGI; «Ακριβώς – και κινούμαστε γρήγορα προς αυτή την κατεύθυνση. Άρα ο άνθρωπος πρέπει να παίρνει πρωτοβουλίες διανοητικές, να ορίζει στόχους. Ο άνθρωπος πρέπει να θέτει την ατζέντα – και η κοινωνία».
Το νέο τεχνοκοινωνικό συμβόλαιο
Εδώ φτάνει στον πυρήνα της σκέψης του: «Πρέπει να μιλήσουμε για ένα ιστορικό “deal”, ένα νέο κοινωνικό συμβόλαιο, τεχνοκοινωνικό συμβόλαιο, ανάμεσα στην κοινωνία και την τεχνολογία. Πέρα από το κοινωνικό συμβόλαιο όπως το συνηθίσαμε με τον Λοκ, τον Χομπς, τον Ρουσσώ, πρέπει να ξαναδούμε τα δικαιώματα και τις υποχρεώσεις μας, τις ιεραρχίες και τις μορφολογίες εξουσίας, την κατανομή του οφέλους της τεχνολογικής προόδου. Και σε αυτό το κοινωνικό παιχνίδι να συμμετέχουν όλοι και να μη μείνει κανείς πίσω».
«H τεχνολογία παρέχει ταχύτητα, αποτελεσματικότητα, προηγμένα εργαλεία για επιστημονική πρόοδο – μπορούν να σώσουν εκατομμύρια ζωές και αυτό ήδη κάνουν. Ο άνθρωπος παρέχει την κατεύθυνση, που είναι πιο σημαντική από την ταχύτητα. Αυτό δεν μπορεί και δεν πρέπει να το κάνει η τεχνολογία, γιατί δεν έχει αίσθηση σκοπού. Η δουλειά του ανθρώπου είναι να παρέχει εμπιστοσύνη στη δημοκρατία, να παρέχει αξίες. Η τεχνολογία δεν παράγει αξίες».
Πώς θα γίνει όμως αυτό, όταν πέντε μεγάλες εταιρείες έχουν χρηματιστηριακή αξία μεγαλύτερη από το ΑΕΠ πολλών χωρών μαζί – εταιρείες που έχουν και το μαχαίρι και το πεπόνι; «Αυτό βρίσκεται στην καρδιά του επιχειρήματος για ένα νέο κοινωνικό συμβόλαιο στην εποχή της τεχνητής νοημοσύνης. Βλέπουμε, και στην Αμερική και στην Κίνα με τον Τζακ Μα -που τον έθεσαν στο περιθώριο για έξι μήνες, τον “ρύθμισαν” και τον επανέφεραν στο παιχνίδι- την επίδραση που μπορεί να έχει το κράτος στο τεχνολογικό σύστημα. Όμως δημιουργούνται νέες μορφολογίες εξουσίας, στις οποίες συμφύρεται η πολιτική εξουσία με την τεχνολογική εξουσία των δεδομένων, των πλατφορμών, των αλγορίθμων, της επιρροής. Διαμορφώνεται μια νέα μορφή ισχύος, άνισα κατανεμημένη σε παγκόσμιο επίπεδο».
Τι κάνουμε; Μου μιλά για ένα paper σημαντικών επιστημόνων που υποστηρίζει ότι, «όπως τελικά βρέθηκε ένα “moratorium” για τα πυρηνικά όπλα, έτσι μπορεί να βρεθεί ένα “moratorium” και για την τεχνητή νοημοσύνη». Θυμίζω ότι οι μεγάλοι παίκτες σήμερα είναι ο Ντόναλντ Τραμπ από τη μία και ο Κινέζος γραμματέας του Κομμουνιστικού Κόμματος από την άλλη – και ότι τα πυρηνικά δεν τα βγάζουν ιδιωτικές εταιρείες. «Αυτοί είναι οι μεγάλοι παίκτες. Όμως θα αντιληφθούν ότι είναι τέτοια τα υπαρξιακά ρίσκα που διακυβεύονται, ώστε θα αναγκαστούν να φτάσουν σε ένα “moratorium” σαν κι αυτό των πυρηνικών. Είμαστε πιο κοντά από παλαιότερα, διότι βρισκόμαστε σε ένα σταυροδρόμι υπαρξιακής κρίσης για την ανθρωπότητα στο σύνολό της».
Το συμβόλαιο δεν αφορά μόνο την ανθρώπινη κοινωνία – αφορά τη σχέση μας με την ίδια την τεχνητή νοημοσύνη. «Όταν ιδρύθηκε η Εθνική Επιτροπή Βιοηθικής και Τεχνοηθικής το 2021, εν μέσω πανδημίας, στην πρώτη μου συνέντευξη μίλησα για συμβίωση των ανθρώπων με την τεχνητή νοημοσύνη και πολλοί παραξενεύτηκαν. Και τώρα όλοι μιλούν για συλλογική νοημοσύνη, για συνεξέλιξη και συνύπαρξη ανθρώπου-τεχνητής νοημοσύνης. Αυτό το νέο τεχνοκοινωνικό συμβόλαιο πρέπει να θέτει έναν συνολικό καταμερισμό ρόλων: η τεχνολογία παρέχει ταχύτητα, αποτελεσματικότητα, προηγμένα εργαλεία για επιστημονική πρόοδο – μπορούν να σώσουν εκατομμύρια ζωές και αυτό ήδη κάνουν. Ο άνθρωπος παρέχει κάτι άλλο: την κατεύθυνση, που, όπως είπε ο Σενέκας, είναι πιο σημαντική από την ταχύτητα. Δίνει κατεύθυνση στο “ποιο λιμάνι οδεύουμε”. Αυτό δεν μπορεί και δεν πρέπει να το κάνει η τεχνολογία, γιατί δεν έχει αίσθηση σκοπού. Η δουλειά του ανθρώπου είναι να παρέχει εμπιστοσύνη στη δημοκρατία, να παρέχει αξίες. Η τεχνολογία δεν παράγει αξίες».
Και προσθέτει μια διάκριση: «Αυτό που κάνει η τεχνολογία είναι το λεγόμενο “patterning”, να επεξεργάζεται μοτίβα. Ο άνθρωπος κάνει κάτι άλλο: κάνει το “mattering”. Είναι το ανθρώπινο ένστικτο που μας κάνει να δίνουμε αξία στον εαυτό μας και στους άλλους, να θέλουμε αυτό που κάνουμε να έχει νόημα».
Γιατί η AI δεν καταλαβαίνει όσα λέει
Τι διακυβεύεται, τελικά; «Σε μακροεπίπεδο, αυτό που διακυβεύεται είναι η δημοκρατία, η ευημερία, η ίδια μας η ύπαρξη. Και επειδή εμείς μπορούμε να βιώσουμε αυτό το διακύβευμα και όχι η τεχνητή νοημοσύνη, εμείς πρέπει να θέσουμε τα όρια και τα πλαίσια».
Το ότι ρωτάς το ChatGPT και σου λέει “εγώ πιστεύω” ή “νομίζω” είναι ψευδεπίγραφος πρώτος ενικός, γιατί δεν έχει εαυτό. Ο εαυτός είναι ένας συμβολικός και ηθικός χώρος που τον έχει μόνο ο άνθρωπος.
«Πολλοί λένε ότι η τεχνητή νοημοσύνη παράγει γλώσσα, άρα παράγει νόημα. Όχι. Παράγει γλώσσα χωρίς νόημα. Αυτό είναι ιστορικό διαζύγιο. Παράγει γλώσσα χωρίς κατανόηση, χωρίς πρόθεση και αποβλεπτικότητα, χωρίς συναισθήματα. Πολύ απλά διότι δεν νιώθει αίσθηση διακυβεύματος. Όπως έλεγε ο φιλόσοφος Τσαρλς Τέιλορ, για να έχει νόημα αυτό που κάνεις και αυτό που λες, πρέπει να έχεις ένα επίδικο. Η γλώσσα της τεχνητής νοημοσύνης δεν κουβαλάει κανένα νόημα, διότι η ίδια δεν διακινδυνεύει τίποτα και δεν διακυβεύει τίποτα».
Γιατί δεν έχει διακυβεύματα; «Γιατί δεν έχει σώμα να προστατεύσει, δεν έχει μεταβολισμό να ρυθμίσει, δεν έχει πληγή να αποφύγει, δεν έχει τραύμα να αποφύγει, δεν έχει φυσικές ανάγκες να ικανοποιήσει. Περιγράφει τις επιθυμίες χωρίς να έχει επιθυμία και περιγράφει φόβο χωρίς να νιώθει απειλή. Δεν νιώθει τίποτα και δεν νοιάζεται. Και όταν λέει “νοιάζομαι”, είναι ένα ψευδεπίγραφο “νοιάζομαι”, στο οποίο δεν υπάρχει σε πρώτο ενικό. Το ότι ρωτάς το ChatGPT και σου λέει “εγώ πιστεύω” ή “νομίζω” είναι ψευδεπίγραφος πρώτος ενικός, γιατί δεν έχει εαυτό. Ο εαυτός είναι ένας συμβολικός και ηθικός χώρος που τον έχει μόνο ο άνθρωπος. Άρα δεν έχει εαυτό, δεν έχει συνείδηση, δεν έχει συμβολικό πεδίο παραγωγής νοημάτων. Είναι πάρα πολύ σημαντικό να μη δημιουργούμε διασταλτικούς ορισμούς του εαυτού, της συνείδησης και της σκέψης». Και θυμίζει τον Βίκτορ Φρανκλ, «πατέρα του σύγχρονου υπαρξισμού»: «Ακόμα και στις δύσκολες στιγμές, ο άνθρωπος έχει δημιουργήσει μεγάλα νοήματα από μεγάλα διακυβεύματα».
Η οικονομία των συναισθηματικών συνάψεων
«Η οικονομία της προσοχής μετατρέπει την AI σε υποδομή συναισθηματικής χειραγώγησης. Αυτό δεν είναι ο αυτοσκοπός των LLMs, μην μπερδευόμαστε. Αυτοσκοπός των LLMs είναι το εμπορικό κέρδος, το οποίο είναι αδιαπραγμάτευτο», λέει και προσθέτει: «Πίσω από τη συναισθηματική χειραγώγηση που πράγματι κάνουν -το βλέπουμε στο πόσο θελκτικά είναι, ιδιαίτερα για τους νέους, σε μια εποχή επιδημίας κοινωνικής και συναισθηματικής μοναξιάς- υπάρχουν επιχειρηματικά μοντέλα που βασίζονται στην εκμετάλλευση της οικειότητας, μέσω σχεδιαστικών αποφάσεων που ευνοούν την κολακεία και τις σχέσεις χωρίς τριβή».
Τι προκαλεί εμπλοκή; «Η μεροληψία της κολακείας – είναι ανθρώπινη φύση, θέλουμε να μας κολακεύουν. Και σε κολακεύει το μηχάνημα. Όμως έτσι οδηγούμαστε πάρα πολύ συχνά στο “AI psychosis”, στην ψύχωση. Υπάρχουν εκατοντάδες τεκμηριωμένες περιπτώσεις ανθρώπων που βυθίζονται σε στρεβλές πεποιθήσεις της πραγματικότητας, γιατί ένα chatbot σε επιβεβαιώνει διαρκώς».
Το μεγάλο στοίχημα
Έχει περιγράψει μια νέα πραγματικότητα με υπαρξιακούς κινδύνους, που μας οδηγεί σε αναστοχασμό για το τι σημαίνει να είναι κανείς άνθρωπος, σε τι διαφέρουμε από τις μηχανές. Τι τον κάνει να νιώθει αισιόδοξος; «Για μένα το μεγάλο σταυροδρόμι είναι αν οδεύουμε σε μια κατάσταση “post-enlightenment”, μετά-διαφωτισμού -δηλαδή επιστροφής στο να πιστεύουμε απλώς και να μη μας ενδιαφέρει να σκεφτόμαστε αυτόνομα- ή αν πάμε σε έναν νέο Διαφωτισμό. Αυτό που ζούμε αυτή τη στιγμή τείνει στο πρώτο, μας επιστρέφει στην πίστη και στο δόγμα. Γιατί ούτε καν οι ειδικοί μπορούν να είναι σίγουροι ποια είναι η καταγωγή της γνώσης που παίρνουμε από τα LLMs. Άρα απλώς επαναπαυόμαστε στο να πιστεύουμε αυτό που λένε».
Η αισιοδοξία πού εντοπίζεται; «Η απάντηση βρίσκεται στην ιστορία – σε τέτοιες επαναστάσεις υπάρχει πάντα μια βραχυπρόθεσμη απόκλιση τεχνολογίας και εργασίας. Να θυμηθούμε τι έλεγε ο Κέινς για την τεχνολογική ανεργία, και κάτι παρόμοιο πίστευε και ο Αϊνστάιν τη δεκαετία του ’20. Και όμως, αναδρομικά αποδεικνύεται ότι είχαμε μια βραχυπρόθεσμη συρρίκνωση της εργασίας, αλλά μια μακροπρόθεσμη επέκταση της εργασίας και της ανθρώπινης ικανότητας και δημιουργικότητας. Αυτό το μοτίβο ισχύει εδώ και αιώνες: βραχυπρόθεσμη διατάραξη, μακροπρόθεσμη προσαρμογή και επέκταση».
Και καταλήγει: «Πάντοτε αυτές οι εντάσεις ανάμεσα σε τεχνολογία και εργασία, τεχνολογία και δημοκρατία, τεχνολογία και ανθρώπινες αξίες, οδηγούσαν σε έναν “ευτυχισμένο γάμο”, με τις ανθρώπινες αξίες να αποδεικνύονται πιο ισχυρές και πιο ανθεκτικές από ό,τι νομίζαμε. Βλέπω να έρχεται ένα νέο κοινωνικό συμβόλαιο που θα μας βάλει σε μια καλύτερη κατάσταση. Πιστεύω στην κατίσχυση των ανθρώπινων αξιών, γιατί είμαστε πιο προσαρμοστικοί στη διάρκεια της ιστορίας από ό,τι πιστεύεται. Μπορούμε να δημιουργήσουμε έναν νέο Διαφωτισμό με επαυξημένη την ανθρωπινότητά μας, με περισσότερη κριτική σκέψη, με περισσότερα εναλλακτικά μέλλοντα, με περισσότερη ελπίδα και αίσθηση προόδου. Ωστόσο αυτό δεν θα έρθει αυτόματα. Θέλει προσπάθεια και ενεργοποίηση της θέλησης για το καλύτερο, για το καινούργιο, για την πρόοδο και τη συλλογική ευημερία».
