«Θα μπορούσατε να πείτε ότι είμαι κάπως απαισιόδοξος, αλλά δεν είμαι καταστροφολόγος» λέει, μιλώντας στο WIRED Greece, o Peter J. Denning, διάσημος Αμερικανός επιστήμονας υπολογιστών και συγγραφέας, μεταξύ άλλων, του νέου «Turing’s Mistake: Escaping the Yoke of Unintelligent Machines» («Το σφάλμα του Turing: Αποφεύγοντας τον Ζυγό των Ανόητων Μηχανών»).
Γεννηθείς το 1942, ο Peter J. Denning ανήκει στη γενιά των επιστημόνων που διαμόρφωσαν την ίδια την επιστήμη των υπολογιστών. Είναι γνωστός για την πρωτοποριακή δουλειά του στην εικονική μνήμη (virtual memory) και στα λειτουργικά συστήματα, ενώ η ακαδημαϊκή του πορεία περιλαμβάνει το MIT, το Princeton, το Purdue, το NASA Ames Research Center και το George Mason University. Για 23 χρόνια δίδαξε και ερεύνησε στο Naval Postgraduate School (NPS), όπου ίδρυσε το Consortium for Intelligent Systems Education and Research (CISER) και διετέλεσε διευθυντής του Cebrowski Institute for Military Innovation. Αποσύρθηκε μόλις το 2026..
Ο Denning ασχολήθηκε με την τεχνητή νοημοσύνη πολύ πριν αυτή γίνει το τεχνολογικό και επενδυτικό φαινόμενο της τελευταίας δεκαετίας.
Με αφορμή το νέο του βιβλίο Turing’s Mistake, υποστηρίζει ότι ίσως κάνουμε ένα θεμελιώδες λάθος όταν συγχέουμε την ικανότητα μιας μηχανής να μιλά και να λύνει προβλήματα με την ανθρώπινη νοημοσύνη.
«Είμαι απαισιόδοξος για κάποιες από τις παρούσες τάσεις στο ΑΙ, μα νομίζω ότι μπορούν να διορθωθούν» λέει WIRED Greece ο κ. Denning, υπογραμμίζοντας πως «μπαίνουμε σε έναν κόσμο όπου θα υπάρχει πολύ ΑΙ, και πρέπει να μάθουμε να ζούμε μαζί του με ασφάλεια».
«Οι μεγάλες εταιρείες που φτιάχνουν τα μεγάλα μοντέλα μιλούν όλες για την ανάπτυξη γενικής τεχνητής νοημοσύνης (Artificial General Intelligence) και κάνουν προβλέψεις για το πότε θα την επιτύχουν», λέει, και φέρνει ως παράδειγμα τον Elon Musk: «Νομίζει πως μπορεί να επιτευχθεί σε πέντε χρόνια. Yπάρχουν όμως πολλές εφαρμογές που προτείνονται και δεν έχουν δοκιμαστεί επαρκώς ώστε να διασφαλιστεί πως λειτουργούν με τον τρόπο που προορίζονται», σημειώνει, και προειδοποιεί: «και υπάρχουν πολλοί κίνδυνοι που οι άνθρωποι δεν αντιλαμβάνονται».
Αυτό που τον απασχολεί κυρίως, όπως επισημαίνει, είναι ο λόγος για τον οποίο η κατεύθυνση του ΑΙ πρέπει να είναι η επιδίωξη της επίτευξης του AGI.
«Προσωπικά δεν πιστεύω ότι κάτι τέτοιο είναι δυνατό. Από την άλλη πλευρά, ακόμα και αν συμφωνεί κάποιος μαζί μου, αυτό δεν σημαίνει πως αυτό με το οποίο θα καταλήξουμε είναι ασφαλές. Το ερώτημα είναι, τι θα αποκτήσουμε;».
Το «τεστ του Turing», όπως το είχε προτείνει ο Alan Turing, θεωρεί νοήμονα μια μηχανή αν σε μια συνομιλία μπορεί να μιμηθεί την ανθρώπινη συμπεριφορά χωρίς ο συνομιλητής να καταλάβει ότι πρόκειται για μηχανή.
«Στο σύγχρονο ΑΙ, οι υπολογιστές μάς μιλούν. Όταν αλληλεπιδρούσαμε με υπολογιστές στο παρελθόν, αυτό γινόταν μέσω ενός interface, δεν υπήρχε ”συζήτηση”», λέει ο κ. Denning. «Εμείς είμαστε “ρυθμισμένοι” έτσι ώστε όταν κάποιος μπορεί να συζητά μαζί μας, αυτόματα θεωρούμε ότι στην άλλη πλευρά υπάρχει νοημοσύνη. Αυτό δεν είναι αλήθεια».
«Όσο περισσότερο ξεγελιέσαι, τόσο πιο πιθανό είναι να πεις ότι κάτι είναι νοήμον» σημειώνει ο κ. Denning, υποδεικνύοντας περισσότερο κάτι που η επιστημονική φαντασία έχει χαρακτηριστεί ως «simulated intelligence» (SI) παρά «AI».
«Και τότε και τώρα ουδείς έχει ακριβή ορισμό της σκέψης ή της νοημοσύνης. Οπότε δεν υπάρχει αντικειμενικός τρόπος να αξιολογήσουμε αν ένας υπολογιστής είναι νοήμων», προσθέτει, και αναφέρει την περίπτωση του Joseph Weizenbaum στο ΜΙΤ το 1966 ως μία από τις πιο χαρακτηριστικές περιπτώσεις διαφωνούντων.
Ο Weizenbaum είχε φτιάξει ένα πρόγραμμα ονόματι Eliza, που θα μπορούσε να χαρακτηριστεί ως μια πρώιμη έκδοση ενός chatbot. Οι απαντήσεις προσομοίωναν αυτές ενός ψυχοθεραπευτή: «Το έβρισκα πολύ έξυπνο, μα υπήρχαν άνθρωποι που πίστευαν ότι το πρόγραμμα ήταν πραγματικός ψυχοθεραπευτής. Και εδώ ήταν η αντίρρηση του Weizenbaum: Έφτιαξε το πρόγραμμα επειδή ήθελε να αποδείξει ότι το τεστ του Turing μπορούσε να περαστεί από ένα πρόγραμμα που κανένας δεν θα θεωρούσε νοήμον!», λέει ο κ. Denning.
Και εξηγεί πως ήταν περίπου 400 γραμμές κώδικα, και έκανε απλές αντιστοιχίσεις λέξεων-κλειδιών.
«Ο Weizenbaum έλεγε “πώς μπορείς να περάσεις κάτι τέτοιο για έναν επαγγελματία ψυχοθεραπευτή;” Μα πολλοί έλεγαν ότι ήταν ένας θαυμάσιος ψυχοθεραπευτής! Μας έλεγε την ιστορία της γραμματέα του, που της άρεσε να συζητά με το Eliza -του είπε να την αφήσει ήσυχη επειδή είχε μια προσωπική κουβέντα με τον ψυχοθεραπευτή της. Της είπε ότι δεν υπήρχε πραγματική νοημοσύνη και αυτή απάντησε “είναι καλός ψυχοθεραπευτής όμως”», προσθέτει.
«Στην πραγματικότητα έχουμε κάτι σαν έναν ταχυδακτυλουργό με ένα πολύ καλό τέχνασμα. Και σήμερα έχουμε την πολύ σύγχρονη έκδοση αυτού – τα large language models», αναφέρει. «Τους λες κάτι και σου δίνουν κείμενο που το πιθανότερο είναι να είναι το είδος κειμένου που θα ακολουθούσε αυτό που είπες, και το “πιθανότερο” καθορίζεται από τα δεδομένα στα οποία έχουν εκπαιδευτεί», συνεχίζει. «Και στον εγκέφαλό σου αυτό φαίνεται σαν ευφράδεια, επειδή δεν σε εκπλήσσει. Οπότε είναι εύκολο να πεις ότι έχεις μια συζήτηση με τη μηχανή».
Στη σημερινή εποχή, υπογραμμίζει ο κ. Denning, μιλάμε για την έξαρση αυτής της τάσης. Με το reinforcement learning με ανθρώπινο feedback, εξηγεί, τα μοντέλα δίνουν περισσότερο βάρος στις απαντήσεις που θεωρούνται πιο ικανοποιητικές στο ανθρώπινο κοινό: «Δεν είναι δύσκολο να προσομοιώσεις μια απλή συζήτηση στα αγγλικά, ή στα ελληνικά! Και αρκετοί θεωρούν πως κάτι είναι νοήμον αν μπορούν να συζητήσουν μαζί του».
Ο Αμερικανός ερευνητής υποδεικνύει και περιπτώσεις όπου ΑΙ πέρασαν τεστ εισαγωγής σε πανεπιστήμια. «Λένε πως κάτι είναι νοήμον αν μπορεί να περάσει εξετάσεις που έξυπνοι άνθρωποι δυσκολεύονται να περάσουν. Υπάρχει εδώ ένα συγκεκριμένο είδος νοημοσύνης – μαθηματικά προβλήματα, λογική, γλωσσική νοημοσύνη».
Αλλά, λέει, «υπάρχουν και άλλα είδη νοημοσύνης, όπως η κοινωνική και η συναισθηματική. Οι μηχανές αυτές δεν τα έχουν. Έχουν συζητησιακή νοημοσύνη, νοημοσύνη για τεστ IQ, μα δεν τα πάνε καλά με τις κοινωνικές σχέσεις, με την κατανόηση ανθρώπινων συναισθημάτων». Ο ερευνητής ρωτάει αν θα αναθέταμε σε ΑΙ την επίλυση δύσκολων διεθνών προβλημάτων, που χρειάζονται έξυπνους διπλωμάτες. «Στις μηχανές έχουμε πολύ “στενή” νοημοσύνη», δίνει την απάντηση.
Αυτό που διαφοροποιεί τον άνθρωπο από τη μηχανή, και αυτό που η μηχανή δεν μπορεί να αποκτήσει, κατά τον κ. Denning, είναι αυτό που αποκαλεί «tacit knowledge» -θα μπορούσαμε να το αποδώσουμε ως «αθόρυβη γνώση»: ο όγκος γνώσης που ένας άνθρωπος αποκτά κατά τη διάρκεια της ζωής του, μέσω και του σώματός του, και δεν μπορεί να εκφραστεί/κωδικοποιηθεί με τρόπο κατανοητό σε μια μηχανή. Αρκετοί θα μπορούσαν να το χαρακτηρίσουν ως «κοινή λογική», περιλαμβανομένων συναισθημάτων και πρακτικών και κοινωνικών δεξιοτήτων.
«Οι μηχανές μπορούν να κάνουν υπολογισμούς, μα δεν “πιάνουν” πράγματα που εμείς θεωρούμε ασαφή και δεν κατανοούμε καλά ούτε οι ίδιοι. Η κοινωνική νοημοσύνη μας δεν είναι υπολογιστική. Δύο άνθρωποι συζητούν στον δρόμο; Μπορείς να παρατηρήσεις τέτοιες κουβέντες και να τις προσομοιώσεις, μπορείς τις δεις, να τις καταγράψεις και να τις αναπαράγεις. Μα αυτό δεν σημαίνει πως κάτι είναι νοήμον».
«Έχω μια δεξιότητα σε κάτι, μα δεν μπορώ να περιγράψω ακριβώς πώς το κάνω αυτό, και για να το μάθει κάποιος γίνεται μαθητής μου. Αυτό είναι ένα ανθρώπινο χαρακτηριστικό. Δεν ξέρουμε πώς να περιγράψουμε αυτά τα πράγματα ουσιωδώς ώστε να πούμε σε μια μηχανή πώς να τα κάνει. Το ρομπότ δεν μπορεί να τα κάνει επειδή δεν έχει φυσικό, ανθρώπινο σώμα. Οπότε, θα ακολουθήσουν άλλη οδό», λέει ο ερευνητής.
Οι μηχανές, προσθέτει, μπορούν όμως να σχηματίσουν τη δική τους αντίστοιχη γνώση, «μιλώντας μεταξύ τους, μαθαίνοντας η μία από την άλλη. Στα νευρωνικά δίκτυα αναπτύσσουν τη δική τους “αθόρυβη γνώση”».
Ένα από τα μεγάλα θέματα του AI σήμερα, σημειώνει, είναι ότι δεν μπορούμε να καταλάβουμε τι τρέχει σε ένα νευρωνικό δίκτυο. «Το ζήτημα είναι πως η μηχανή είναι ακατανόητη σε εμάς και εμείς σε αυτήν, είναι σαν να είμαστε δύο διαφορετικά είδη όντων. Το ένα έχει φυσικό σώμα, το άλλο όχι».
Πρακτικά, οπότε υπάρχει ένα χάσμα. «Μπορεί να βγουν πράγματα από αυτά τα δίκτυα μηχανών που δεν θα μας αρέσουν», προειδοποιεί ο κ. Denning.
«Γνωρίζουμε από άλλους κλάδους της επιστήμης πως μπορεί να υπάρξουν δημιουργήματα που θα μας εξοντώσουν, πολλά που μπορούμε να φτιάξουμε και να βγουν εκτός ελέγχου».
Φέρνει ως παράδειγμα τα agentic δίκτυα μηχανών που ελέγχουν πλέον υποδομές ή τομείς όπως το customer service. «Μιλάτε με ένα ρομπότ που προσπαθεί να σας πείσει να μην ζητήσετε άνθρωπο, προσπαθώντας να απαντήσει στην ερώτησή σας μα τελικά πάλι ζητάτε να μιλήσετε με άνθρωπο. Κάποια στιγμή δεν θα υπάρχει άνθρωπος εκεί, αλλά το ρομπότ ίσως δεν θα μπορεί ακόμα να λύσει το πρόβλημά μου. Οπότε θα πρέπει να προσαρμοστώ σε αυτό ή να σταματήσω να χρησιμοποιώ αυτή την επιχείρηση, να συμμορφωθώ στους κανόνες της μηχανής». Αυτό είναι, λέει, «μια μορφή ελέγχου στον άνθρωπο»
«Και επίσης ας θυμόμαστε πως ό,τι κάνουμε με μηχανές καταγράφεται και πάει στο cloud και πωλείται σε διαφημιστές, ακόμα και αν δεν το θέλουμε», προσθέτει.
«Πρέπει να κάνουμε ένα βήμα πίσω και να αναρωτηθούμε: είναι σωστές κάποιες από τις μεγαλύτερες υποθέσεις μας;»
Μία από αυτές, λέει ο Denning, είναι η αντίληψη -που προέκυψε με τη Βιομηχανική Επανάσταση- ότι είμαστε κι εμείς μηχανές.
«Στις αρχές του 20ού αιώνα ο Φρέντερικ Τέιλορ μας είπε ότι μπορούσαμε να αυτοματοποιήσουμε εργοστάσια, εξετάζοντας τους εργάτες και τους χρόνους τους και δίνοντάς τους ακριβείς οδηγίες για το τι θα κάνουν -κατά κάποιον τρόπο μηχανοποιώντας αυτούς και τη δουλειά του εργοστασίου. Αυτό αποδείχτηκε επιτυχημένο, μα το πρόβλημα είναι πως αντιμετωπίζει τον άνθρωπο ως μηχανή, η νοημοσύνη του δεν αξιοποιείται».
Ο κ. Denning μάς φέρνει στο σήμερα με ένα ερώτημα: «Αυτή η αντίληψη έχει ενισχυθεί. Τα πάντα που κοιτάμε μας φαίνεται πως θα μπορούσε να τα κάνει μηχανή. Γιατί το αποδεχόμαστε αυτό;»
«Κάποιοι στο ΑΙ λένε ότι ο εγκέφαλός μας είναι μια μηχανή από σάρκα και ένας ψηφιακός υπολογιστής θα μπορούσε να κάνει την ίδια δουλειά με αυτόν», αναφέρει. «Γιατί αποδεχόμαστε αυτή την αντίληψη; Αυτό είναι το θέμα με το AGI».
Εμείς όμως, λέει, έχουμε δυνατότητες που οι μηχανές δεν έχουν: «Αναλαμβάνουμε ευθύνες, έχουμε ηθική κρίση, προβαίνουμε σε δεσμεύσεις. Για να ανακτήσουμε τον έλεγχο πρέπει να ξεπεράσουμε την ιδέα ότι είμαστε μηχανές και ότι το ΑΙ φέρνει καλύτερες μηχανές να μας αντικαταστήσουν. Πρέπει να καταλάβουμε ότι είμαστε διαφορετικοί από τις μηχανές και έχουμε δυνατότητες που αυτές δεν έχουν και δεν μπορούν να αποκτήσουν».
Κλείνοντας, ο κ. Denning θέτει το ζήτημα της αυθεντίας, την οποία οι μηχανές δεν θα μπορέσουν να αποκτήσουν, μα ίσως στερήσουν από εμάς. Τα ΑΙ, τονίζει, «κόβουν» κυρίως junior θέσεις εργασίας, και αυτό σημαίνει πως υπάρχουν νέοι που δεν θα έχουν τη δυνατότητα να αποκτήσουν εμπειρία και να «χτίσουν» την «αθόρυβη γνώση» που θα τους επιτρέψει να φτάσουν σε επίπεδα αυθεντίας.
«Η αυθεντία είναι προϊόν μιας μακράς συσσώρευσης αθόρυβης γνώσης που αποκτάται από την εμπειρία και την καινοτομία. Το ΑΙ δεν μπορεί να αντικαταστήσει τις αυθεντίες, μα μπορεί να εμποδίσει την εξέλιξή τους», καταλήγει.
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
