Στην αίθουσα της Συνόδου στο Βατικανό, ανάμεσα σε καρδινάλιους, θεολόγους και διπλωμάτες, καθόταν ο 33χρονος Christopher Olah, συνιδρυτής της Anthropic και ένας από τους σημαντικότερους ερευνητές στον κόσμο πάνω στην κατανόηση των νευρωνικών δικτύων. Δίπλα του, με τη λευκή ενδυμασία του, ο Πάπας Λέων ΙΔ΄.
Σπάζοντας την παράδοση αιώνων, ο Ποντίφικας επέλεξε να παρουσιάσει προσωπικά τη νέα του εγκύκλιο, «Magnifica Humanitas» («Μεγαλοπρεπής Ανθρωπότητα»), έχοντας ως επίσημο συνομιλητή έναν από τους ανθρώπους που χτίζουν τα ισχυρότερα συστήματα AI στον κόσμο.
Το διαδίκτυο γέμισε memes για «τον Πάπα που έπιασε δουλειά στην Anthropic ως prompt engineer». Ωστόσο, πίσω από την εικόνα κρύβεται κάτι πιο σοβαρό: μια σύγκλιση ανάμεσα στη θεολογία, την ηθική και το AI safety.
Η εργασία δεν είναι απλώς παραγωγή, αλλά κομμάτι της ανθρώπινης αξιοπρέπειας και ταυτότητας. Το Βατικανό προειδοποιεί για το «de-skilling» εργαζομένων που μετατρέπονται σε απλούς εκτελεστές οδηγιών αλγοριθμικών συστημάτων.
Η εγκύκλιος των 42.300 λέξεων δεν είναι μια γενική καταγγελία της τεχνολογίας, αλλά ένα πολιτικό και ανθρωπιστικό μανιφέστο για την εποχή της αυτοματοποίησης. Σε αυτή, ο Πάπας ξεκαθαρίζει ότι η τεχνητή νοημοσύνη «δεν είναι ηθικά ουδέτερη» και προειδοποιεί ότι η Silicon Valley κινδυνεύει να οικοδομήσει μια νέα ψηφιακή «Βαβέλ».
Ο Ποντίφικας χρησιμοποιεί δύο βιβλικές εικόνες για να περιγράψει τα δύο πιθανά μονοπάτια της τεχνολογικής μας εξέλιξης. Η αντίθεση «Βαβέλ» και «Ιερουσαλήμ» διατρέχει ολόκληρο το κείμενο. Από τη μία βρίσκεται η αλαζονεία της απόλυτης βελτιστοποίησης και της συγκέντρωσης ισχύος, από την άλλη, ένα μοντέλο τεχνολογίας που υπηρετεί τις ανθρώπινες σχέσεις, την κοινότητα και τη συλλογική ευθύνη.
Μεταανθρωπισμός, πόλεμος και εργασία
Το κείμενο ασκεί έντονη κριτική στον μεταανθρωπισμό και στη λογική που αντιμετωπίζει τον άνθρωπο ως «project προς βελτίωση». Όπως σημειώνει χαρακτηριστικά, για ένα ψηφιακό μοντέλο το λάθος είναι απλώς ένα σφάλμα. Για τον άνθρωπο, όμως, η αποτυχία μπορεί να γίνει πηγή αλλαγής, ωρίμανσης και λύτρωσης.
Ιδιαίτερα αιχμηρό είναι το σημείο όπου το Βατικανό στρέφεται στις αθέατες πλευρές της AI βιομηχανίας: τους κακοπληρωμένους εργαζόμενους του data labeling και του content moderation, την εξόρυξη σπάνιων γαιών και τη «ψηφιακή αποικιοκρατία» των δεδομένων. Η εγκύκλιος υποστηρίζει ότι πίσω από την υπολογιστική ισχύ κρύβεται μια νέα μορφή εκμετάλλευσης.
O Πάπας ζητά τον άμεσο «αφοπλισμό» της τεχνητής νοημοσύνης από τη νοοτροπία του γεωπολιτικού και στρατιωτικού ανταγωνισμού κυριαρχίας. Απορρίπτει τη μεταβίβαση του πολέμου σε αυτοματοποιημένα συστήματα απορρίπτεται ως ηθικά απαράδεκτη.
Το ίδιο ισχύει και για την εργασία. Η αυτοματοποίηση, σύμφωνα με το κείμενο, δεν μπορεί να αξιολογείται μόνο με βάση την αποδοτικότητα. Η εργασία δεν είναι απλώς παραγωγή, αλλά κομμάτι της ανθρώπινης αξιοπρέπειας και ταυτότητας. Το Βατικανό προειδοποιεί για το «de-skilling» εργαζομένων που μετατρέπονται σε απλούς εκτελεστές οδηγιών αλγοριθμικών συστημάτων. Eπέκρινε επίσης τον τρόπο με τον οποίο η τεχνητή νοημοσύνη επηρεάζει την πολιτική –όπως την παραποίηση εικόνων και βίντεο, κάτι που, όπως είπε, εκθέτει τους ανθρώπους σε μεροληπτικές ή παραπλανητικές απόψεις.
Παράλληλα, ο Πάπας ζητά τον άμεσο «αφοπλισμό» της τεχνητής νοημοσύνης από τη νοοτροπία του γεωπολιτικού και στρατιωτικού ανταγωνισμού κυριαρχίας. Απορρίπτει τη μεταβίβαση του πολέμου σε αυτοματοποιημένα συστήματα απορρίπτεται ως ηθικά απαράδεκτη. Η απόφαση ζωής και θανάτου, ισχυρίζεται, «δεν μπορεί να αναχθεί σε μαθηματικούς υπολογισμούς και να λαμβάνεται από αδιαφανή συστήματα».
Σε μια θεολογική μετατόπιση, η εγκύκλιος αναφέρει επίσης ότι η παραδοσιακή θεωρία του «Δίκαιου Πολέμου» (Just War Theory) είναι πλέον ξεπερασμένη, καθώς τα σύγχρονα τεχνολογικά όπλα καθιστούν αδύνατη την εκλογίκευση του ολέθρου.
Μάλιστα, πρόσφατα, υπήρξε ένταση μεταξύ του Αμερικανού αντιπροέδρου J.D. Vance και του Βατικανού, με φόντο τη γεωπολιτική προσέγγιση και την παραδοσιακή Θεωρία του Δίκαιου Πολέμου. Όταν ο Πάπας Λέων ΙΔ΄ αποδοκίμασε έντονα τις στρατιωτικές συγκρούσεις, δηλώνοντας ότι «ο Θεός δεν είναι ποτέ με το μέρος εκείνων που ρίχνουν βόμβες», ο Vance, καθολικός ο ίδιος, αντέδρασε δημόσια, καλώντας τον Ποντίφικα «να είναι πολύ προσεκτικός όταν μιλά για θέματα θεολογίας», υπενθυμίζοντας ότι υπάρχει μια παράδοση άνω των 1.000 ετών στη Θεωρία του Δίκαιου Πολέμου.
Οι δηλώσεις του Olah και η συνείδηση του ΑΙ
Η παρουσία του Christopher Olah στην παρουσίαση της «Magnifica Humanitas» δεν ήταν διακοσμητική. Η Anthropic, μια εταιρεία που ιδρύθηκε από πρώην ερευνητές της OpenAI με σημαία το «AI Safety», βρίσκεται αυτή τη στιγμή σε διαμάχη με την αμερικανική κυβέρνηση για τα ηθικά όρια της τεχνολογίας. Η στροφή της προς τη Ρώμη αποτελεί μια στρατηγική κίνηση αναζήτησης παγκόσμιων ηθικών ερεισμάτων.
Καθισμένος δίπλα στον Ποντίφικα, ο Olah προέβη σε μερικές παραδοχές. Δήλωσε ότι υπάρχει πραγματικός κίνδυνος μαζικής αντικατάστασης εργασίας από AI και ότι τα frontier labs λειτουργούν υπό εμπορικές και γεωπολιτικές πιέσεις που συχνά συγκρούονται με το κοινό καλό. Τόνισε επίσης ότι «το AI πρέπει να καθοδηγείται έξω από την Big Tech».
«Χρειαζόμαστε ηθικές φωνές που τα κίνητρα της αγοράς δεν μπορούν να λυγίσουν», τόνισε.
Στο κείμενο εντοπίζεται και θεολογική ένταση γύρω από την τεχνητή νοημοσύνη. Ενώ η βιομηχανία AI συζητά ολοένα περισσότερο για emergent συμπεριφορές και απρόβλεπτες ιδιότητες των μοντέλων, η Εκκλησία επιμένει ότι η ανθρώπινη συνείδηση παραμένει μοναδική και μη αναπαραγώγιμη.
Στην Παράγραφο 98 ο Πάπας παραδέχεται το γεγονός ότι ούτε οι ίδιοι οι δημιουργοί της AI κατανοούν πλήρως την εσωτερική λειτουργία των μοντέλων τους, ενώ στην Παράγραφο 99 σπεύδει να τραβήξει μια αδιαπραγμάτευτη κόκκινη γραμμή. Αποφαίνεται ότι τα συστήματα AI «δεν υποβάλλονται σε εμπειρίες, δεν αισθάνονται χαρά ή πόνο, δεν κατανοούν αυτό που παράγουν».
Μοιάζει με δογματική αναγκαιότητα, καθώς η Εκκλησία σπεύδει να κλείσει οποιοδήποτε παράθυρο στην πιθανότητα ένα LLM να αναπτύξει αυθεντική συνείδηση, καθώς κάτι τέτοιο θα απειλούσε τον πυρήνα της καθολικής οντολογίας (την αποκλειστικότητα της ανθρώπινης ψυχής και το Imago Dei).
Αυτή η διευθέτηση είναι βολική και για τις δύο πλευρές. Το Βατικανό διατηρεί τα όρια όταν μιλά για δημιουργία και συνείδηση, και η Silicon Valley γλιτώνει από ένα μελλοντικό σενάριο: αν τα μοντέλα AI αναγνωρίζονταν ως όντα με συνείδηση, η χρήση τους ως εργαλείων, η εμπορευματοποίησή τους ή η απενεργοποίησή τους θα έφερνε στο προσκήνιο νέες ηθικές προκλήσεις.
Αναφορές στην ποπ κουλτούρα και η συγγνώμη για τη δουλεία
Η συνάντηση στο Βατικανό δείχνει ότι το debate γύρω από το AI έχει αλλάξει επίπεδο. Η συζήτηση δεν περιορίζεται πλέον στα τεχνικά ζητήματα που αφορούν engineers, αλλά προσεγγίζεται ως πολιτικό, κοινωνικό και βαθιά ανθρωπιστικό ερώτημα.
Πάντως, η συνάντηση απέφυγε να θίξει τις δικές της γκρίζες ζώνες. Ενώ η εγκύκλιος καταδικάζει απερίφραστα τη χρήση AI στον πόλεμο, η τεχνολογία της Anthropic αναφέρθηκε πρόσφατα ως μέρος του υποστηρικτικού ψηφιακού μηχανισμού σε στρατιωτικά πλήγματα στη Μέση Ανατολή.
Η εγκύκλιος έχει ενδιαφέρον και λόγω της πολιτισμικής της γλώσσας. Ο Πάπας επιστρατεύει τον Γκάνταλφ του J. R. R. Tolkien, τον εβραϊκής καταγωγής ψυχίατρο Viktor Frankl, τη «Λίστα του Σίντλερ» και την «Γκερνίκα» για να υποστηρίξει ότι η τέχνη και η ανθρώπινη εμπειρία λειτουργούν ως ανάχωμα απέναντι στην απανθρωποποίηση.
Μια ακόμα ισχυρή στιγμή έρχεται όταν ο Πάπας ζητά συγγνώμη για την ιστορική καθυστέρηση της Καθολικής Εκκλησίας να καταδικάσει τη δουλεία. Το χρησιμοποιεί ως προειδοποίηση: η ανθρωπότητα δεν πρέπει να επαναλάβει το ίδιο λάθος απέναντι στις νέες μορφές «ψηφιακής σκλαβιάς».
