«Δεν έχουμε βρει ακόμα πώς να αλληλεπιδράσουμε με κάτι που δεν είναι ούτε πρόσωπο ούτε αντικείμενο», λέει στο WIRED Greece η Δρ. Katie Evans, επίκουρη καθηγήτρια στο Πανεπιστήμιο της Σορβόννης και επικεφαλής της Ομάδας Εργασίας για το ΑΙ στην Οικονομική Επιτροπή των Ηνωμένων Εθνών για την Ευρώπη.
Σε μια συζήτηση που συχνά πολώνεται ανάμεσα στην άκρατη κινδυνολογία των ΜΜΕ και το hype των tech κολοσσών, η Evans προσφέρει μια απαραίτητη δόση ρεαλισμού. Με αφορμή την επικείμενη παρουσία της στο Lyceum Project στην Αθήνα, μάς προτρέπει να σταματήσουμε να προσωποποιούμε τις μηχανές και να εστιάσουμε στην ουσία: τη ρύθμιση του AI σε επίπεδο βιομηχανίας, την προστασία του δημόσιου χώρου και την ασφάλεια των δεδομένων μας.
Μπορούμε πράγματι να ρυθμίσουμε το AI, ειδικά σε επίπεδο βιομηχανίας. Άπαξ και μιλήσουμε για τη ρύθμιση της χρήσης του AI στην υγεία ή την κινητικότητα και όχι οριζόντια και γενικά, τότε η συζήτηση αυτόματα γίνεται λιγότερο σέξι.
Ξεκαθαρίζοντας, ωστόσο, ότι οι θέσεις της εκφράζουν αυστηρά την ίδια και δεν αντιπροσωπεύουν επίσημα τον ΟΗΕ, η Evans ξετυλίγει έναν ολιστικό οδικό χάρτη για το μέλλον της τεχνολογίας.
Από τα ρομποταξί στους δρόμους του Λονδίνου μέχρι το κόμικ που συνέγραψε για την UNESCO, μας εξηγεί πώς να πλοηγηθούμε με ασφάλεια στο νέο ψηφιακό περιβάλλον, αναλύοντας μάλιστα γιατί η ίδια η δομή της ελληνικής γλώσσας μάς δίνει ένα μοναδικό πλεονέκτημα να κατανοήσουμε την οντολογική φιλοσοφία των μηχανών.
– Οι μεγάλες εταιρείες τεχνολογίας εξελίσσονται με ταχύτατους ρυθμούς, ενώ οι ρυθμιστικοί φορείς όπως ο ΟΗΕ και η ΕΕ κινούνται πιο αργά. Ρυθμίζουμε πραγματικά το AI ή απλώς τρέχουμε να προλάβουμε τη Google και την OpenAI;
Στον ακαδημαϊκό χώρο, συζητάμε το ζήτημα των διαφορετικών ταχυτήτων εδώ και τουλάχιστον 25 χρόνια. Αν κοιτάξει κάποιος τα ΜΜΕ και δει όλες αυτές τις εξαιρετικά ανησυχητικές δηλώσεις σχετικά με το πού κατευθύνεται το ΑΙ μπορεί να σχηματίσει την εντύπωση ότι οι δημόσιοι φορείς και οι ρυθμιστικές αρχές, όπως ο ΟΗΕ, έχουν μείνει πολύ πίσω. Νομίζω ότι αυτό είναι λίγο άδικο.
Υπάρχει μια πολύ μεγάλη διαφορά μεταξύ του τι συμβαίνει με το AI γενικά και τη χρήση του σε πολύ συγκεκριμένους κλάδους, για παράδειγμα τον κλάδο των αυτόνομων οχημάτων (Autonomous Vehicles – AVs), οι οποίοι έχουν ήδη τη δική τους κουλτούρα και πλαίσιο ασφαλείας.
Η απάντησή μου είναι ότι μπορούμε πράγματι να ρυθμίσουμε το AI, ειδικά σε επίπεδο βιομηχανίας. Άπαξ και μιλήσουμε για τη ρύθμιση της χρήσης του AI στην υγεία ή την κινητικότητα και όχι οριζόντια και γενικά, τότε η συζήτηση αυτόματα γίνεται λιγότερο σέξι.
Στην άτυπη Ομάδα Εργασίας για το AI, στο πλαίσιο της Ομάδας Εργασίας 29 (WP.29 Για την Εναρμόνιση των Κανονισμών για τα Οχήματα) της Οικονομικής Επιτροπής των Ηνωμένων Εθνών για την Ευρώπη (UNECE). υπάρχει μια καλή εικόνα για το πού κατευθύνεται η βιομηχανία και η υποστήριξη προς την ομάδα μας είναι ενθαρρυντική.
– Στον παγκόσμιο αγώνα για το AI, μήπως η Δύση παραμελεί την ηθική, μόνο και μόνο για να συμβαδίσει με την Κίνα;
Εξαρτάται ποιον ρωτάς. Το 2014, το Institute of Electrical and Electronics Engineers (IEEE) ήταν ένας από τους πρώτους οργανισμούς που αντιμετώπισε σοβαρά το ζήτημα δημιουργίας ενός τεχνικού αλλά και κοινωνικού προτύπου για το AI.
Ξανατονίζω ότι υπάρχει μεγάλη απόκλιση μεταξύ του hype γύρω από το AI και του τι συμβαίνει σε επίπεδο βιομηχανίας. Στη τελική, οι εταιρείες εξακολουθούν να θέλουν να υιοθετήσουν αξιόπιστα προϊόντα, αν και εφόσον ταιριάζουν σε ένα συγκεκριμένο κανονιστικό πλαίσιο. Επειδή η συζήτηση τείνει προς την απορρύθμιση, δεν σημαίνει ότι οι βιομηχανίες δεν θέλουν να είναι αξιόπιστες, υπεύθυνες και έμπιστες.
Η Σύμβαση-Πλαίσιο του Συμβουλίου της Ευρώπης ή οι Κατευθυντήριες Αρχές της ΟΟΣΑ (OECD) για το AI επιδιώκουν να αποφύγουν το προφανές κακό. Οι στόχοι σχετικά με την πρόοδο και τον ανταγωνισμό μπορεί να είναι διαφορετικοί, αλλά υπάρχει μια διεθνής συναίνεση που, σε μεγάλο βαθμό, εξακολουθεί να περιστρέφεται γύρω από την πρόληψη βλάβης.
Δες, για παράδειγμα, τι έχει συμβεί με τους νέους και τα μέσα κοινωνικής δικτύωσης. Υπάρχουν διαφορετικές κυβερνήσεις και θεσμοί σε όλο τον κόσμο που εφαρμόζουν αρκετά αυστηρές πολιτικές και κανονισμούς, όσον αφορά το ζήτημα της ηλικίας, αλλά όλοι συμφωνούμε ότι υπάρχει ένα γενικό κακό που θέλουμε να αποφύγουμε. Έτσι, ακόμα κι αν φαίνεται ότι κατευθυνόμαστε προς κάποια απορρύθμιση, η πραγματική εικόνα είναι πολύ πιο περίπλοκη.
– Το 2022, δημιουργήσατε ένα μυθιστόρημα σε μορφή κόμικ για την πρωτοβουλία της UNESCO σχετικά με την παιδεία για το AI. Μπορείτε να μου περιγράψετε τη διαδικασία της δημιουργίας του;
Έχω background στον κινηματογράφο και τη σεναριογραφία, και αυτό ήταν το πρώτο μου μεγάλο έργο μετά την ολοκλήρωση του διδακτορικού μου. Εκείνη την εποχή, δεν υπήρχαν πολλοί ειδικοί με δημιουργικό υπόβαθρο που να μπορούν να μιλήσουν για τις ηθικές επιπτώσεις του AI. Η ιδέα του να δημιουργήσω ένα κόμικ προήλθε εξ ολοκλήρου από τη Sasha Rubel, η οποία εργαζόταν στην UNESCO εκείνη την εποχή. Οφείλω λοιπόν να την ευχαριστήσω γι’ αυτό.
Όταν μιλάμε για το AI, οι περισσότεροι εξισώσουν την παιδεία με τον κώδικα. Αλλά είναι πολλά περισσότερα: «πώς σε περιγράφουν τα δεδομένα σου;», «ποια είναι η στάση σου απέναντι στα ψηφιακά περιβάλλοντα;», «πώς μπορούν οι άνθρωποι να χρησιμοποιήσουν το AI ως κριτικά σκεπτόμενοι πολίτες, και όχι ως επαγγελματίες που θέλουν απλά να κατανοήσουν έναν συγκεκριμένο κλάδο;». Τότε, η UNESCO είχε μόλις υιοθετήσει και τη «Σύσταση για την Ηθική της Τεχνητής Νοημοσύνης», οπότε πολλές από τις ιδέες για το περιεχόμενο του μυθιστορήματος προήλθαν από εκεί.
Πέρα από τη συνεργασία με μια ομάδα λαμπρών, γυναικών εικονογράφων, από όλο τον κόσμο, και τη δυσκολία του να περιγράψεις ένα φανταστικό σύμπαν σε ένα στενό deadline, η μεγαλύτερη πρόκληση για μένα ήταν να μην προσωποποιήσω το ΑΙ. Αυτό ήταν και μια πολιτική γραμμή της UNESCO στην οποία, ως ηθικολόγος, πίστευα πραγματικά.
Ήταν πολύ δύσκολο να μην μετατρέψω το AI σε χαρακτήρα. Άλλωστε, δεν είναι ένα αντικείμενο. Είναι μια έννοια. Η ιδέα μου ήταν να την παρουσιάσω το AI ως το σκηνικό της ιστορίας. Και αυτό με οδήγησε σε μια εντελώς διαφορετική οπτική. Υπάρχει τεράστια παιδαγωγική αξία στο να αντιμετωπίζει κανείς το AI ως έναν τόπο ή ένα περιβάλλον που μπορεί να εξερευνήσει και να αλληλεπιδράσει μαζί του, αντί για ένα άλλο άτομο που έχει τις δικές του απόψεις, δικαιώματα και αξίες. Ήμουν πολύ περήφανη που καταφέραμε να αποφύγουμε τον ανθρωπομορφισμό και την προσωποποίηση του AI σε αυτό το έργο.
Ως φιλόσοφος, το βρήκα αρκετά διασκεδαστικό να ρωτάω το ChatGPT για τον εαυτό του, γιατί είναι ένα από τα πράγματα για το οποίο γνωρίζει τα λιγότερα.
– Ανησυχείς που τα μεγάλα γλωσσικά μοντέλα (LLMs) έχουν σχεδιαστεί ώστε να μιμούνται την ανθρώπινη ενσυναίσθηση; Θα έπρεπε να υπάρχει κάποιο ρυθμιστικό πλαίσιο που θα επιβάλλει στο AI να μην προσποιείται ότι είναι άνθρωπος;
Πιστεύω ότι πρέπει να είμαστε προσεκτικοί όταν μιλάμε για επιβολή. Η τεχνολογία αυτή είναι τόσο καινούργια. Δεν έχουμε βρει ακόμα πώς να αλληλεπιδράσουμε με κάτι που δεν είναι ούτε πρόσωπο ούτε αντικείμενο. Ως φιλόσοφος, το βρήκα αρκετά διασκεδαστικό να ρωτάω το ChatGPT για τον εαυτό του, γιατί είναι ένα από τα πράγματα για το οποίο γνωρίζει τα λιγότερα. Αντιλαμβάνομαι ότι αυτός είναι ένας ανορθόδοξος τρόπος να ερευνήσεις το ζήτημα αυτό, αλλά έχω παρατηρήσει ότι όταν αυτά τα μοντέλα καλούνται να περιγράψουν τον εαυτό τους, δεν μιλάνε ποτέ για πρόσωπα.
Επίσης πιστεύω ότι είναι κάπως παράδοξο να λέμε ότι πρέπει να ρυθμίσουμε το AI ώστε να μην μιμείται την ανθρώπινη ενσυναίσθηση ή να απέχει από οποιαδήποτε επαφή, γιατί κι αυτό είναι μια μορφή χειραγώγησης. Αν ένα μοντέλο πει «έχω εκπαιδευτεί να μην κάνω αυτό και αυτό», τότε είναι σαν να ελέγχουμε έμμεσα την ανθρώπινη συμπεριφορά. Δεν πιστεύω σε κανένα από τα δύο άκρα, και θα χρειαστούμε χρόνο ως κοινωνία για να καταλάβουμε αυτόν τον περίεργο ενδιάμεσο κόσμο.
– Εδώ και χρόνια, στην ηθική των αυτόνομων οχημάτων (ΑVs) κυριαρχεί το «Δίλημμα του Τρένου», ένα υποθετικό ηθικό δίλημμα στο οποίο ένα αυτόνομο αυτοκίνητο βρίσκεται αντιμέτωπο με μια αναπόφευκτη σύγκρουση και ο αλγόριθμός του πρέπει να κάνει τη «λιγότερο βλαβερή» επιλογή. Ποιο είναι το πραγματικό ηθικό δίλημμα σήμερα που ίσως οι φιλόσοφοι δεν είχαν προβλέψει;
Πιστεύω ότι το «Δίλημμα του Τρένου» είναι ένα ατυχές επιχείρημα, που προήλθε από τον ακαδημαϊκό χώρο και στη συνέχεια υιοθετήθηκε και νομιμοποιήθηκε από τα ΜΜΕ. Ωστόσο, υπάρχουν ελάχιστα τεχνικά στοιχεία που να υποστηρίζουν ότι αποτελεί πραγματικό πρόβλημα.
Επίσης, ο τρόπος με τον οποίο συζητάμε το δίλημμα αυτό παραβλέπει εντελώς τα θεμελιώδη συνταγματικά δικαιώματα. Δεν υπήρχε περίπτωση ποτέ να δημιουργήσουμε έναν αλγόριθμο, που να κάνει διακρίσεις στους ανθρώπους με βάση τη θρησκεία τους, το βάρος τους ή την ηλικία τους. Δεν λειτουργούν έτσι οι φιλελεύθερες δημοκρατίες. Τα καλά νέα είναι ότι τώρα με το AI μπορούμε πραγματικά να δούμε πώς τα AVs θα ανταποκρίνονταν σε τέτοια ακραία υποθετικά σενάρια σε πραγματικό χρόνο. Δεν χρειάζεται να επινοήσουμε κάποιου είδους ηθικό αλγόριθμο.
Αυτό που πιστεύω ότι έχει πραγματική σημασία σήμερα είναι η ιδιωτικότητα. Πόσα από τα δεδομένα σου πρέπει να έχει το όχημα, ώστε να οδηγεί με ασφάλεια; Σε ποιο βαθμό είμαστε διατεθειμένοι να μετατρέψουμε τους δημόσιους χώρους μας σε χώρους για αυτόνομη οδήγηση; Και αυτό δεν είναι κάτι που η βιομηχανία δεν εξετάζει ήδη. Το καλύτερο πράγμα με τον τομέα της αυτοκινητοβιομηχανίας είναι ότι υπάρχει μια εξαιρετικά ισχυρή κουλτούρα ασφάλειας. Είναι πολύ διαφορετικό από το να εργάζεσαι στον καθαρά τεχνολογικό τομέα, ο οποίος δεν έχει σχεδόν κανένα ιστορικό ρύθμισης.
– Όταν ένα AV κάνει λάθος, ποιος φέρει την ευθύνη; Ο προγραμματιστής, ο κατασκευαστής ή το κράτος που το ρύθμισε;
Ποτέ δεν θα είναι μεμονωμένα ο προγραμματιστής. Μπορεί να τύχει κάποιος από την ομάδα να έκανε ένα λάθος ή να παρέβλεψε κάποια διαδικασία που οδήγησε σε μια βλάβη, αλλά γενικά, είναι ευθύνη του κατασκευαστή να εξασφαλίσει ότι η τεχνολογία είναι ασφαλής.
Σε κάθε περίπτωση, η απάντηση στο ερώτημα της ευθύνης εξαρτάται από το πλαίσιο και το επίπεδο αυτονομίας για το οποίο μιλάμε. Δεν νομίζω, όμως, ότι υπάρχει μεγάλο κενό στις τρέχουσες ρυθμιστικές συζητήσεις. Πρόκειται για ένα πρόβλημα που συζητάμε στο πλαίσιο νομικών και φιλοσοφικών ερευνών εδώ και τουλάχιστον 10 χρόνια. Ήδη υπάρχουν ορισμένες διατάξεις προς αυτή την κατεύθυνση στο Ηνωμένο Βασίλειο και τη Γερμανία.
Το πιο χαρακτηριστικό παράδειγμα αυτή τη στιγμή είναι τα ρομποταξί. Πριν λίγο καιρό, ξεκίνησαν να χρησιμοποιούνται στο Λονδίνο, μια συνεργασία μεταξύ της Uber και της βρετανικής τεχνολογικής startup, Wayve. Υπάρχουν και τα πλήρως αυτόνομα οχήματα της Tesla που έχουν εγκριθεί σε ορισμένες περιοχές της Ευρωπαϊκής Ένωσης. Έτσι, αρχίζουμε πλέον να βλέπουμε πώς αυτές οι τεχνολογίες θα αλληλεπιδρούν με το κοινό, είτε ως δημόσια υπηρεσία είτε ως χαρακτηριστικό ιδιωτικών οχημάτων. Πιστεύω ότι οι λεπτομέρειες και η κατανόηση αυτού του είδους των συστημάτων θα γίνουν πολύ σύντομα σαφείς για όλους.
Τα αγγλικά είναι μια πολύ φτωχή γλώσσα, με υποκείμενο και αντικείμενο. Υπάρχει μια ενέργεια και αυτός που την κάνει. Τα αγγλικά επίσης εγκλωβίζουν τη σκέψη στο χρόνο. Ως αγγλόφωνη, αυτό με ενοχλεί πολύ. Αντιθέτως, στα αρχαία ελληνικά αλλά και στα νέα, υπάρχει η μέση φωνή, η δυνατότητα του να μιλάς για μια ενέργεια, χωρίς κάποιον από πίσω.
– Αν μπορούσατε να ενσωματώσετε μια και μοναδική ηθική εντολή σε ένα οποιοδήποτε αυτόνομο σύστημα, ποια θα ήταν αυτή;
Θα εξαιρέσω τις στρατιωτικές εφαρμογές, καθώς πιστεύω ότι πρέπει να αντιμετωπιστούν με διαφορετικό τρόπο. Όσον αφορά όμως τις μη-στρατιωτικές εφαρμογές, πιστεύω ότι η τεχνολογία πρέπει να σχεδιάζεται έτσι ώστε να είναι όσο το δυνατόν πιο ακίνδυνη. Και με αυτό εννοώ ότι, όσο είναι δυνατόν, δεν πρέπει να απογοητεύει τις προσδοκίες του χρήστη της. Αν δεν μπορεί να ικανοποιήσει όλες τις προσδοκίες όλων όσων αλληλεπιδρούν μαζί της, θα πρέπει να το λέει ξεκάθαρα.
Επίσης, διαφωνώ έντονα με την ιδέα του να επιβάλλει η τεχνολογία στους ανθρώπους έναν συγκεκριμένο τρόπο συμπεριφοράς. Αυτό οδηγεί, εκούσια ή ακούσια, σε μια ύπουλη μορφή εξουσίας, και δεν νομίζω ότι αυτή είναι μια κατεύθυνση που θέλουμε να ακολουθήσουμε. Έτσι, θα προγραμμάτιζα ένα αυτόνομο αυτοκίνητο ή σύστημα να πηγαίνει με τα νερά του χρήστη, εκτός αν αυτά τα νερά είναι εξαιρετικά επικίνδυνα ή παράνομα.
Τέλος, αν μιλάμε για ένα πραγματικά αυτόνομο σύστημα, αλλά οι άνθρωποι που το αναπτύσσουν δεν μπορούν να εγγυηθούν ότι η συμπεριφορά του έχει οριοθετηθεί επαρκώς, ίσως το σύστημα αυτό να μην είναι ακόμα έτοιμο.
– Θα παρευρεθείτε στο Lyceum Project στην Αθήνα, όπου το AI συναντά την αρχαία φιλοσοφία. Ο Αριστοτέλης συγκεκριμένα μιλούσε για τη λογική. Μπορεί το AI να είναι ποτέ λογικό;
Όχι. Όχι από άποψη τεχνικής αδυναμίας αυτής καθεαυτής, αλλά από άποψη πρακτικότητας και επιθυμίας. Αυτό που θέλουμε από το AI δεν είναι ένας καθρέφτης, αλλά κάτι συμπληρωματικό σε εμάς, ένα εργαλείο που μας διευκολύνει. Δεν θέλουμε κάτι να ανταγωνιζόμαστε.
Πιστεύω, επίσης, ότι η αρχαία ελληνική γλώσσα είναι εξαιρετικά χρήσιμη για να σκεφτούμε αυτό το ερώτημα. Τα αγγλικά είναι μια πολύ φτωχή γλώσσα, με υποκείμενο και αντικείμενο. Υπάρχει μια ενέργεια και αυτός που την κάνει. Τα αγγλικά επίσης εγκλωβίζουν τη σκέψη στο χρόνο. Ως αγγλόφωνη, αυτό με ενοχλεί πολύ. Αντιθέτως, στα αρχαία ελληνικά αλλά και στα νέα, υπάρχει η μέση φωνή, η δυνατότητα του να μιλάς για μια ενέργεια, χωρίς κάποιον από πίσω.
Είμαστε εγκλωβισμένοι στην ιδιότητα του πράττοντα, επειδή δεν υπάρχει λογική γλωσσική εναλλακτική στα αγγλικά. Εσείς οι Έλληνες δεν έχετε αυτό το πρόβλημα. Και νομίζω ότι αυτό σας δίνει και μια ευθύνη να σκεφτείτε πιο σοβαρά τι σημαίνει οντολογικά αυτή η τεχνολογία, χρησιμοποιώντας έννοιες ή μηχανισμούς όπως τη μέση φωνή.
Επίσης, όταν μιλάμε για πολυμορφία ή συμπεριληπτικότητα, αναφερόμαστε πάντα στις διαφορετικές κουλτούρες και εθνικότητες. Και ενώ αυτό είναι πολύ σημαντικό, συνήθως όλοι λειτουργούμε μέσα στο ίδιο φιλοσοφικό πλαίσιο, σύμφωνα με το οποίο η τεχνολογική πρόοδος διέπεται από «οικουμενικές» αξίες. Δεν νομίζω ότι ισχύει αυτό. Πρέπει να σκεφτόμαστε και τη γλώσσα. Από την ιαπωνική έως την αρχαία ελληνική σκέψη και φιλοσοφία, υπάρχει ένας καλύτερος, καθαρότερος και πιο ολιστικός τρόπος να σκεφτούμε αυτό το θέμα, τον οποίο ελπίζω να αναδείξω κατά τη διάρκεια του Lyceum Project.
