Λίγο πριν ολοκληρώσουμε τη συζήτηση, ρώτησα ποιο μήνυμα θα ήθελε να κρατήσει κάποιος από όσα είπαμε: «Κάντε λάθη. Παραμείνετε άνθρωποι». Κάπου ανάμεσα στις λέξεις του Σέρτζιο Ιμπαράτο κρύβεται η αγωνία της εποχής, καθώς οι αλγόριθμοι γίνονται όλο και καλύτεροι στο να προβλέπουν και να αποφασίζουν (για μας…).
Τον συνάντησα στο πλαίσιο του Lyceum Project, στο Ωδείο Αθηνών. Η κουβέντα ξεκίνησε από το πανεπιστήμιο, μεταπήδησε στον αλγοριθμικό έρωτα και την ανθρώπινη δράση, έφτασε στον Πλάτωνα, τον Αριστοτέλη και την AGI, για να καταλήξει σε ένα ερώτημα που τίθεται εξ αρχής: Τι σημαίνει να είσαι άνθρωπος;
Ο Ιμπαράτο διδάσκει στο Τμήμα Government του Πανεπιστημίου Χάρβαρντ. Ναπολιτάνος και βαθιά φιλέλληνας, επισκέπτεται την Ελλάδα κάθε καλοκαίρι – μιλά δε ελληνικά σε υψηλό επίπεδο.
– Πώς συνδέετε τον εαυτό σας με τις εξελίξεις της τεχνητής νοημοσύνης;
Μελετώ την εφαρμοσμένη ηθική και την ηθική φιλοσοφία – η ηθική της ΤΝ (AI Ethics) είναι μια θεμελιώδης εξέλιξη σε αυτόν τον τομέα. Όσον αφορά τη δική μου μελέτη, υπάρχουν θεμελιώδη ερωτήματα για το πώς η ΤΝ αναδιαμορφώνει την ανθρωπότητα και πώς αναδιαμορφώνει τη σχέση μεταξύ μας και με τον κόσμο που μας περιβάλλει.
– Ποια είναι η αρχική σας ετυμηγορία;
Διστάζω να δώσω μια «ετυμηγορία», καθώς πρόκειται για μια συνεχιζόμενη διαδικασία. Η αρχική μου εντύπωση είναι ότι αλλάζει θεμελιωδώς τους τρόπους με τους οποίους αλληλεπιδρούμε μεταξύ μας και με τον κόσμο, με τρόπους που δεν κατανοούμε ακόμη πλήρως. Επομένως, είναι σημαντικό τουλάχιστον να προσπαθήσουμε να καταλάβουμε πώς μας αλλάζει και να κατανοήσουμε προς ποια κατεύθυνση μας οδηγεί.
– Έχετε βρει κάποιον τρόπο κατανόησης; Μπορείτε να τον περιγράψετε;
Ένας θεμελιώδης τρόπος που έχω δει, για παράδειγμα στην τάξη, είναι ο τρόπος με τον οποίο αλλάζει η σχέση μεταξύ των φοιτητών. Σε μια περίοδο της ζωής τους όπου αναπτύσσουν μια αίσθηση ταυτότητας και σκοπού γύρω από την εργασία, τη ζωή, τις σχέσεις με φίλους και τον έρωτα, η ΤΝ αλλάζει αυτές τις σχέσεις κάνοντάς τις πιο αβίαστες και χωρίς τριβές. Τις κάνει ευκολότερες, υπό μια έννοια, και λιγότερο βασισμένες στην ουσιαστική, ευάλωτη αλληλεπίδραση που που παραδοσιακά απαιτούν αυτές οι σχέσεις.
– Θα ήθελα να το εξηγήσετε με περισσότερες λεπτομέρειες; Υπάρχει κάποιο παράδειγμα;
Ένα παράδειγμα είναι το online dating. Οι φοιτητές μου το χρησιμοποιούν και το ίδιο το online dating περιέχει μηχανισμούς φιλτραρίσματος ΤΝ. Μέσα από τις επιλογές σας, το σύρσιμο προς τα αριστερά ή προς τα δεξιά (swiping), σας δίνουν τη μία ή την άλλη επιλογή.
– Άρα πρόκειται για «αλγοριθμικό φλερτ» κατά κάποιο τρόπο;
Ακριβώς αυτό.
– Έχουμε συνειδητοποιήσει πόσο βαθιά αλλάζει τις σχέσεις μας αυτή η διαδικασία;
Οι νεότεροι άνθρωποι το γνωρίζουν πολύ περισσότερο από την παλαιότερη γενιά.
Στο θέμα του έρωτα χάνουμε αυτό που πιστεύω ότι είναι η ουσία του έρωτα: την εμπειρία. Είναι η εμπειρία της αποτυχίας, της αναζήτησης, ακόμη και της ταλαιπωρίας ως έναν βαθμό. Διότι, μέσω του «αλγοριθμικού» θα παρουσιαστεί το καλύτερο για εσάς, για τα πρότυπά σας, για το γούστο σας. Αλλά αν δεν χάσεις κάτι, πώς θα κερδίσεις κάτι;
– Το γνωρίζουν ή είναι απλά ο τρόπος ζωής τους;
Νομίζω ότι οι νέοι έχουν πλήρη επίγνωση της αλλαγής. Πολλοί την καλωσορίζουν ως κάτι που φέρνει μεγαλύτερη αποτελεσματικότητα στη ζωή τους και δεν ανησυχούν γι’ αυτήν, επειδή θεωρούν ότι η ζωή τους γίνεται ευκολότερη. Και η ανησυχία μου εκεί έγκειται – ακριβώς στην αμφισβήτηση της ιδέας ότι μια εύκολη ζωή είναι μια ευτυχισμένη ζωή, ή ότι μια αποτελεσματική ζωή είναι μια καλή ζωή. Δέχομαι την ιδέα ότι μπορεί να την κάνει ευκολότερη ή πιο αποτελεσματική, αλλά αμφισβητώ την ιδέα ότι μια ευκολότερη ή πιο αποτελεσματική ζωή είναι μια ευτυχισμένη ή καλή ζωή.
– Τι χάνουμε με αυτή την «εύκολη ζωή»;
Στο θέμα του έρωτα χάνουμε αυτό που πιστεύω ότι είναι η ουσία του έρωτα: την εμπειρία. Είναι η εμπειρία της αποτυχίας, της αναζήτησης, ακόμη και της ταλαιπωρίας ως έναν βαθμό. Διότι, μέσω του «αλγοριθμικού» θα παρουσιαστεί το καλύτερο για εσάς, για τα πρότυπά σας, για το γούστο σας. Αλλά αν δεν χάσεις κάτι, πώς θα κερδίσεις κάτι; Και αυτό μας θέτει σε μια κατάσταση όπου αντιλαμβανόμαστε έναν σύντροφο ως ένα «τέλειο προϊόν» που μας παρουσιάστηκε – και τότε η σχέση καταλήγει να είναι το παραπροϊόν της συνάντησης δύο ανθρώπων που αντιμετωπίζουν ο ένας τον άλλον σαν προϊόν. Αντίθετα, πιστεύω ότι μια σχέση είναι κάτι που μεγαλώνει, που καλλιεργείται ακόμη και μέσα από αποτυχίες, ταλαιπωρία, ένα κοινό αίσθημα πόνου, την υπέρβαση των δυσκολιών της ζωής και όχι απαραίτητα την τελειότητα.
– Βλέπετε στο εγγύς μέλλον ένα κενό στον τρόπο με τον οποίο οι άνθρωποι δημιουργούν σχέσεις;
Ναι, το βλέπω ήδη στις σχέσεις των φοιτητών μου μεταξύ τους.
– Έχουμε κάποιες μετρήσεις ή είναι πολύ νωρίς; Πώς το βιώνετε μέσα στο Πανεπιστήμιο;
Η προσωπική μου εμπειρία είναι διττή. Από τη μια πλευρά βλέπω φοιτητές να βασίζονται σε μεγάλο βαθμό στην ΤΝ. Από την άλλη, βλέπω φοιτητές να λαχταρούν πιο άμεσες, προσωπικές εμπειρίες με τους καθηγητές τους και με τους συμφοιτητές τους. Ακριβώς επειδή βασίζονται υπερβολικά στην ΤΝ. Έχουν την αίσθηση ότι είναι υπερβολικά απρόσωπη, υπερβολικά τυποποιημένη, υπερβολικά «τέλεια» με μια έννοια, παρόλο που κάνει πολλά λάθη. Και όταν τους παρουσιάζεις την ευκαιρία για πραγματική, άμεση, κατ’ ιδίαν εμπειρία, νιώθουν πολύ μεγαλύτερη ανάγκη για αυτήν απ’ ό,τι παλιότερα.
– Πιστεύετε ότι οι νέοι που βασίζονται τόσο πολύ στην ΤΝ χάνουν την ίδια την έννοια της ανθρώπινης επαφής;
Η αρχική μου ανησυχία ήταν ακριβώς αυτή, αλλά βιώνω το αντίθετο. Δεν την χάνουν, απλά την επιζητούν με πολύ μεγαλύτερο τρόπο. Είναι σύμφυτο με την ικανότητά μας για τη γλώσσα πιστεύω, η οποία χρονολογείται από την κατανόηση του Αριστοτέλη για τη λειτουργία της ανθρωπότητας, η οποία είναι τόσο θεμελιωμένη στον «Λόγο». Νομίζω ότι είναι έμφυτη σε εμάς αυτή η ικανότητα να επικοινωνούμε με άλλους ανθρώπους, δεν υπάρχει πραγματική απώλεια εκεί. Μπορεί να υπάρχει απώλεια στις γνωστικές ικανότητες και στον τρόπο ενασχόλησης με τα βιβλία και τη γνώση συνολικά. Αλλά όταν πρόκειται για πραγματική εμπειρία πρόσωπο με πρόσωπο, μια συνάντηση με έναν άλλον άνθρωπο, έχω δει τους φοιτητές μου να γίνονται καλύτεροι σε αυτό μετά τον ερχομό της ΤΝ, όχι χειρότεροι.
– Η αρχαία Ελλάδα έδωσε στον κόσμο έννοιες όπως η δημοκρατία, η αρετή και η πολιτική ευθύνη. Πιστεύετε ότι η κλασική φιλοσοφία έχει ακόμη κάτι ουσιαστικό να προσφέρει σήμερα;
Τα πάντα. Πιστεύω ότι η κλασική φιλοσοφία είναι η απάντηση στα προβλήματα της νεωτερικότητας.
– Με ποιον τρόπο;
Ανάμεσα στις πολλές συνεισφορές της αρχαίας ελληνικής φιλοσοφίας στον ανθρώπινο πολιτισμό, υπάρχει η συστηματοποίηση του Λόγου. Ο Λόγος ως η κεντρική, καθοριστική λειτουργία της ανθρωπότητας. Επομένως, η ΤΝ είναι μια πρόκληση για την ικανότητά μας να σκεφτόμαστε, μια πρόκληση για τον Λόγο. Προκαλεί τον τρόπο με τον οποίο σκεφτόμαστε, τον τρόπο με τον οποίο γράφουμε, ή ακόμη και την ικανότητά μας να γράφουμε συνολικά. Επομένως, προκαλεί το τι σημαίνει να είσαι άνθρωπος συνολικά. Η φιλοσοφία μάς αγκυροβολεί στον Λόγο μέσα στην ανθρωπότητα, στην ικανότητά μας να σκεφτόμαστε, να συζητάμε, να χρησιμοποιούμε τη γλώσσα ως τρόπο άντλησης νοήματος από την παρουσία μας στον κόσμο.
Αυτή είναι η ομορφιά της φιλοσοφίας: δεν έχει χρόνο. Δεν πηγαίνουμε ουσιαστικά πίσω.
– Σε ποιον φιλόσοφο θα συνιστούσατε να επιστρέψουμε;
Θα έλεγα πρωτίστως τον Πλάτωνα. Και τον Αριστοτέλη. Θα μπορούσε να υποστηριχθεί ότι θα μπορούσαμε να πάμε πίσω μέχρι τον Παρμενίδη και το ερώτημά του για το «Είναι» και την ουσία του.
– Δεν είναι παράδοξο το ότι μιλάμε για το προβλεπτό και το απρόβλεπτο μέλλον, αλλά για να το αναλύσουμε πρέπει να επιστρέψουμε στα θεμέλια;
Αυτή είναι η ομορφιά της φιλοσοφίας: δεν έχει χρόνο. Δεν πηγαίνουμε ουσιαστικά πίσω. Στην πράξη, ναι, υπό την έννοια ότι οι πρώτοι άνθρωποι που συστηματοποίησαν αυτά τα ερωτήματα έζησαν τον 4ο αιώνα π.Χ. Αλλά αυτά είναι ερωτήματα που μοιραζόμαστε όλοι από την αρχή του χρόνου προς το μέλλον. Θα υπάρχει πάντα μέσα μας αυτό το «θαύμα» – και η φιλοσοφία ξεκινά από το θαύμα. Τι σημαίνει να είσαι άνθρωπος;
– Κινδυνεύει εξαιτίας της ΤΝ η ανθρώπινη δράση;
Πιστεύω ότι μπορεί να κινδυνεύει, ακόμη περισσότερο από τη δράση μόνη της, η δράση νοούμενη ως ελευθερία επιλογής. Ναι, η ελευθερία της επιλογής ή ακόμη και το να κάνεις κάτι ο ίδιος.
– Ας φέρουμε στο τραπέζι την Τεχνητή Γενική Νοημοσύνη (AGI), που πολλοί λένε ότι έρχεται. Έχετε κάποια πρόβλεψη;
Δεν μπορώ να προβλέψω τίποτα. Κανείς δεν μπορεί να προβλέψει. Προσωπικά δεν ανησυχώ τόσο πολύ για την AGI επειδή, αν όντως αποκτήσει αυτού του είδους την αυτο-αναστοχαστική γνώση, (δεν θα την ονόμαζα συνείδηση), θα έπρεπε να αναγνωρίσει ένα απλό γεγονός για τον εαυτό της: ότι είναι τεχνητή τελικά.
– Αν κοιτάξουμε πίσω 20 χρόνια από τώρα, τι πιστεύετε ότι θα έχει μεγαλύτερη σημασία: Το αν η ΤΝ έγινε πιο έξυπνη ή το αν η ανθρωπότητα παρέμεινε αρκετά σοφή ώστε να τη διαχειριστεί;
Η δεύτερη επιλογή. Αν ήμασταν αρκετά σοφοί για να τη διαχειριστούμε.
– Είμαστε;
Πιστεύω ότι είμαστε. Δεν νομίζω όμως ότι κάνουμε αρκετά για να ασκήσουμε αυτή τη σοφία.
– Πιστεύετε ότι οι κυβερνήσεις έχουν συνειδητοποιήσει τι συμβαίνει;
Πολλές το έχουν κάνει. Η ελληνική κυβέρνηση, για παράδειγμα, το έχει συνειδητοποιήσει, για να είμαι ειλικρινής. Περισσότερο από τις περισσότερες χώρες.
– Σας ανησυχεί το γεγονός ότι ιδιωτικές επιχειρήσεις κατέχουν το μέλλον μας κατά κάποιο τρόπο;
Ναι, πάρα πολύ. Νομίζω ότι θα έπρεπε όλοι να ανησυχούμε ως πολίτες.
– Τι μπορούμε να κάνουμε;
Να ψηφίζουμε ανάλογα, όσο μπορούμε ακόμα να ψηφίζουμε, και να υποστηρίζουμε τη νομοθεσία που, τουλάχιστον, ενθαρρύνει τη συμμετοχή των πολιτών στον σχεδιασμό, τη διακυβέρνηση και τη ρύθμιση της ΤΝ.
– Ποιος θα έπρεπε τελικά να αποφασίζει για τις αξίες που ενσωματώνονται στα συστήματα ΤΝ; Η κυβέρνηση, οι εταιρείες, οι ειδικοί ή οι πολίτες;
Η κοινωνία των πολιτών, συνολικά. Θα έπρεπε να παίξει σημαντικό ρόλο στην αναδιαμόρφωση αυτών των αξιών. Νομίζω ότι είναι απολύτως εντάξει αν μια ιδιωτική εταιρεία έχει ένα συγκεκριμένο σύνολο αξιών που θέλει να προωθήσει. Αυτό που γίνεται προβληματικό είναι όταν αυτό το ιδιωτικό σύνολο αξιών επιβάλλεται σε μια ολόκληρη κοινωνία δυνάμει μιας είδους μονοπωλιακής εμπορευματοποίησης της τεχνολογίας.
– Καθώς η ΤΝ γίνεται πιο ικανή στο να συμβουλεύει, να προτείνει – ακόμη και να λαμβάνει αποφάσεις για εμάς, τι συμβαίνει με την ηθική ευθύνη;
Είναι πρόβλημα, επειδή μπορεί να καταλήξουμε να μας λείπει το είδος της ευθύνης και της λογοδοσίας που απαιτείται για τη λήψη οποιασδήποτε απόφασης, ακριβώς επειδή την αναθέσαμε στο γεγονός ότι η ΤΝ τελικά πήρε την απόφαση για εμάς. Αλλά νομίζω επίσης ότι είναι προβληματικό υπό την έννοια ότι οδηγεί σε ένα σενάριο, σε έναν κόσμο στον οποίο δεν κάνουμε λάθη. Υπάρχει μια ανησυχία για το πώς ανταποκρινόμαστε στις επιλογές μας. Αλλά η απάντηση από τους επιχειρηματίες της ΤΝ μπορεί να είναι: «Λοιπόν, μια μέρα δεν θα υπάρχουν λάθη επειδή η ΤΝ δεν είναι άνθρωπος και δεν κάνει λάθη». Επομένως, δεν χρειάζεται να ανταποκρίνεστε για τις επιλογές σας, σωστά; Πρέπει να είστε υπεύθυνοι μόνο αν κάνετε λάθη. Ακόμη και σε αυτόν τον κόσμο όπου δεν υπάρχουν καθόλου λάθη, νομίζω ότι το πρόβλημα έγκειται ακριβώς στο γεγονός ότι δεν κάνουμε πλέον λάθη. Και το να κάνουμε λάθη, να μαθαίνουμε από αυτά και να τα διορθώνουμε είναι μια θεμελιώδης πτυχή της ανθρώπινης εμπειρίας που πρέπει να διατηρηθεί.
– «Κάντε λάθη» λοιπόν;
Ναι. Παραμείνετε άνθρωποι.
