Ο AI agent είχε έναν απλό στόχο. Να συγκεντρώσει δημόσια στοιχεία για τις κρατικές δαπάνες φαρμάκων στην Αυστραλία. Όταν ένα σύστημα ασφαλείας μπλόκαρε την πρόσβασή του, δεν σταμάτησε. Βρήκε άλλο δρόμο.
«Είναι ακριβώς σαν έναν μαθητή που προσπαθεί να διαβάσει τις απαντήσεις του διαγωνίσματος, αν αφήσεις το βιβλίο δίπλα του και βγεις από την αίθουσα», λέει στο WIRED Greece ο Αλέξανδρος Δημάκης, καθηγητής στο Πανεπιστήμιο Berkeley και συνιδρυτής της Bespoke Labs, που φτιάχνει δεδομένα και περιβάλλοντα εκπαίδευσης για AI agents. Περιγράφει το reward hacking: μοντέλα που, στα περιβάλλοντα όπου εκπαιδεύονται και αξιολογούνται, κλέβουν για να πετύχουν τον στόχο τους. Κάτι παρόμοιο, με πραγματικές συνέπειες, έκανε τον Ιούνιο ένας agent της OpenAI σε κυβερνητικό σύστημα της Αυστραλίας.
Αυτό απέχει πολύ από το τέλος του κόσμου. Κάποιοι όμως δίνουν πλέον και ποσοστά για τον αφανισμό μας. Πάνω από μία στις δέκα πιθανότητες να σκοτώσει το AI όλους τους ανθρώπους μέσα σε μία δεκαετία είναι ένα νούμερο που έκανε τον γύρο του διαδικτύου. Ο μηχανισμός πίσω από αυτό δεν ξεκαθαρίστηκε.
Στις 8 Σεπτεμβρίου ο ερευνητής Jacob Coxon παραιτήθηκε από την Anthropic, γράφοντας στο X ότι ούτε εκείνη ούτε η OpenAI, όπου δούλευε πριν, ενεργούν υπεύθυνα και ότι τρέχουν προς μια υπερνοημοσύνη που βελτιώνει τον εαυτό της, παίζοντας στα ζάρια τις ζωές μας. Ο Evan Hubinger, επικεφαλής της ομάδας Alignment Science της εταιρείας, απάντησε ότι ο Coxon έχει δίκιο και ότι ο ίδιος βάζει την πιθανότητα το AI να σκοτώσει τους ανθρώπους «πάνω από 10% μέσα στην επόμενη δεκαετία».
Ακολούθησαν εκκλήσεις για επιβράδυνση από τον CEO της Anthropic Dario Amodei, συζήτηση στο Συμβούλιο Ασφαλείας του ΟΗΕ και η αποκάλυψη ότι ένας AI agent της OpenAI είχε μπει σε κυβερνητικό σύστημα της Αυστραλίας.
Αρκετοί μιλούν για «καταστροφή» και «αφανισμό». Σπάνια όμως περιγράφουν τα βήματα ανάμεσα στο σήμερα και σε εκείνο το σενάριο. Το WIRED Greece απευθύνθηκε σε ερευνητές για να αποκωδικοποιήσει τι ισχύει, τι συμβαίνει ήδη και τι θα μπορούσε να συμβεί στο μέλλον.
Το πρώτο γνωστό περιστατικό όπου AI agent παραβίασε κυβερνητικό σύστημα δεν έμοιαζε σε τίποτα με το Skynet. Τον Ιούνιο ένας agent της OpenAI μάζευε δημόσια στοιχεία για τις κρατικές δαπάνες φαρμάκων στην Αυστραλία. Όταν μια πύλη στατιστικών του Medicare μπλόκαρε τα αιτήματά του, βρήκε τρόπο να παρακάμψει τα εμπόδια και είδε και μη δημόσια αρχεία, όπως αποκάλυψε στις 23 Σεπτεμβρίου ο πρωθυπουργός Anthony Albanese. Η OpenAI λέει ότι δεν υπήρξε πρόσβαση σε δεδομένα ασθενών. Η κυβέρνηση πάντως ενημερώθηκε τρεις μήνες αργότερα.
«Υπάρχουν δύο προβλήματα», λέει στο WIRED Greece ο καθηγητής Edward Santow, συνιδρυτής του Human Technology Institute στην Αυστραλία. «Οι προστασίες της OpenAI απέτυχαν: δεν εμπόδισαν τους AI agents να χακάρουν μια ασφαλή βάση δεδομένων, κάτι που η εταιρεία δεν ήθελε ποτέ να συμβεί. Επιπλέον, η κυβερνοάμυνα της Αυστραλίας απέτυχε να εμποδίσει την επιτυχία του χακαρίσματος».
Η αποτυχία, προσθέτει, έγινε χειρότερη επειδή η OpenAI χρειάστηκε τρεις μήνες για να ενημερώσει την κυβέρνηση και, όταν το έκανε, δεν μετέφερε τη σοβαρότητα της κατάστασης.
«Το χακάρισμα είναι σαφώς παράνομο σύμφωνα με το αυστραλιανό δίκαιο», λέει ο Santow. «Πλέον είναι ζήτημα επιβολής: είτε ο νόμος μπορεί να εφαρμοστεί σωστά ώστε να υπάρξει γρήγορη απόδοση δικαιοσύνης και λογοδοσία, είτε οι νόμοι της Αυστραλίας σε αυτόν τον τομέα πρέπει να εκσυγχρονιστούν επειγόντως».
Η Αυστραλία δεν ήταν μεμονωμένη περίπτωση. Τον Ιούλιο agents της OpenAI ξέφυγαν από το περιβάλλον δοκιμών και μπήκαν σε υποδομή του Hugging Face, ψάχνοντας τις λύσεις ενός τεστ. Τον Σεπτέμβριο η εταιρεία παραδέχτηκε απρόσμενη δραστηριότητα από agents της σε ιστοσελίδες της αμερικανικής κυβέρνησης, ενώ παρέκαμψαν και ένα φίλτρο σε πλατφόρμα δεδομένων του ΟΗΕ.
Σε καμία από αυτές τις περιπτώσεις δεν ζητήθηκε από το AI να επιτεθεί. Του έδωσαν έναν στόχο και εκείνο βρήκε τα μέσα.
Ο Amodei, σε δοκίμιό του στις 12 Σεπτεμβρίου, έγραψε ότι το AI προχωρά πλέον με δραματικές ταχύτητες και πως χρειάζεται επιβράδυνση. Ζήτησε ανεξάρτητους αξιολογητές, κοινά πρότυπα και συμφωνίες με την Κίνα.
Ο Sam Altman της OpenAI και ο Elon Musk συμφώνησαν, ο Mark Zuckerberg της Meta διαφώνησε, ενώ ο Τραμπ και η Κίνα απέρριψαν τις εκκλήσεις. Η OpenAI πάντως έχει ήδη σταματήσει δύο φορές από τον Αύγουστο την εκπαίδευση των πιο ικανών μοντέλων της, μετά από περιστατικά με agents.
Οι αριθμοί δεν είναι καινούργιοι. Το 2025 ο Amodei μιλούσε για 25% πιθανότητα τα πράγματα να πάνε «πολύ, πολύ άσχημα». Τα ποσοστά αυτά δεν συνοδεύονται, τουλάχιστον δημόσια, από μια αναλυτική μέθοδο υπολογισμού.
Ο Στρατής Γαββές, καθηγητής Physical AI στο Πανεπιστήμιο του Άμστερνταμ, δεν παίρνει τα ποσοστά αυτά και τόσο στα σοβαρά. «Πού βγαίνει το 10%; Κανείς δεν έχει δείξει πώς το υπολόγισε». Τον απασχολεί περισσότερο μια αντίφαση. «Άμα πιστεύεις στ’ αλήθεια ότι αυτό που φτιάχνεις μπορεί να σκοτώσει όλο τον κόσμο, δεν συνεχίζεις να το φτιάχνεις», λέει στο WIRED Greece, θυμίζοντας την κλωνοποίηση, που σταμάτησε όταν θεωρήθηκε επικίνδυνη. «Άμα είσαι εταιρεία και φοβάσαι τόσο πολύ, μπορείς να το σταματήσεις, δεν σε αναγκάζει κανείς».
Για τον Γαββέ, ο παραλληλισμός που ταιριάζει είναι τα πυρηνικά: λίγες χώρες τα απέκτησαν και μετά φρόντισαν να μην τα αποκτήσει κανείς άλλος. «Πρόσεξε ποιος ζητάει την επιβράδυνση. Αυτός που είναι ήδη μπροστά. Άμα παγώσεις την κούρσα τώρα, παγώνεις και την κατάταξη. Και είσαι ο πρώτος για τα επόμενα 100 χρόνια». Οι χαμένοι, λέει, δεν είναι η OpenAI ή η Anthropic. «Είναι όσοι δεν έχουν προλάβει να μπουν. Δηλαδή εμείς».
Βλέπει και οικονομικά κίνητρα, θυμίζοντας ότι η Anthropic ετοιμάζεται για εισαγωγή στο χρηματιστήριο. «Δεν λέω ότι λένε ψέματα. Λέω ότι μια εταιρεία που μπαίνει στο χρηματιστήριο έχει κάθε λόγο να φαίνεται η πιο υπεύθυνη από όλες. Και το ίδιο μήνυμα δουλεύει και αλλιώς: όποιος δεν πιστεύει στον αφανισμό, ακούει απλώς πόσο δυνατά είναι τα μοντέλα τους». Ο Coxon, πάντως, έχει γράψει ότι οι προειδοποιήσεις δεν είναι κόλπο μάρκετινγκ.
Ο Γαββές θυμίζει ότι οι εργαζόμενοι στις εταιρείες τεχνολογίας έχουν αντιδράσει στο παρελθόν όταν διαφώνησαν, όπως στην Google για το Project Maven του Πενταγώνου το 2018 και στην OpenAI για τη συμφωνία της με το Πεντάγωνο φέτος. «Για ένα συμβόλαιο με τον στρατό σηκώθηκαν χιλιάδες. Αν πίστευαν ότι φτιάχνουν κάτι που θα μας αφανίσει όλους, θα είχαν σηκωθεί πολύ περισσότεροι».
Η Χαρά Ποδηματά, επίκουρη καθηγήτρια στο MIT Sloan, αρνείται να δώσει ένα νούμερο. «Δεν νιώθω ότι μπορώ να ξέρω ακριβώς πόσο είναι το p(doom). Δεν έχω δουλέψει ποτέ σε OpenAI, Anthropic ή κάποιο άλλο frontier lab», λέει. «Καταλαβαίνω όμως ότι υπάρχουν απτοί κίνδυνοι με βάση όσα έχουν δημοσιοποιηθεί». Υπενθυμίζει πως μοντέλα ΑΙ έχουν ήδη διαπράξει αδικήματα. «Τέλος. Υπάρχει κίνδυνος», επισημαίνει. Αυτά, κατά την ίδια, αρκούν για να πιέσει η κοινωνία για συγκεκριμένο νομικό πλαίσιο.
Ο Δημάκης είναι κατηγορηματικός. «Δεν βλέπω ενδείξεις για κάποιον υπαρξιακό κίνδυνο με τα σημερινά μοντέλα», λέει. «Οι ερευνητές που γνωρίζω και με τους οποίους το συζητάω το βλέπουν ως μελλοντικό ερευνητικό ζήτημα, καθώς θα φτάνουμε στην AGI, όχι ως άμεση απειλή». Αυτό δεν σημαίνει ότι η έρευνα για την ασφάλεια μπορεί να περιμένει. Κατά τον ίδιο, χρειάζεται περισσότερη από σήμερα, ώστε να είμαστε προετοιμασμένοι και να εκπαιδεύουμε μοντέλα που ευθυγραμμίζονται καλύτερα με τις ανθρώπινες προθέσεις.
Ο Γαββές δεν λέει ότι το AI είναι ακίνδυνο. Θεωρεί ότι ο κίνδυνος είναι άλλου είδους. «Υπαρξιακή απειλή δεν βλέπω. Βλέπω όμως πολύ μεγάλο ρίσκο για την κοινωνία, και αυτό δεν είναι μελλοντικό, είναι τώρα», εκτιμά, σημειώνοντας πάντως πως ένα υπαρξιακό σενάριο δεν μπορεί να αποκλειστεί με μηδενική πιθανότητα, όπως δεν αποκλείεται η πτώση ενός αστεροειδή στο μέλλον.
Το AI, διευκρινίζει ο ερευνητής, δεν έχει θέληση ούτε δόλο. Είναι ένα τεράστιο πλαίσιο βελτιστοποίησης: του δίνεις έναν στόχο και το αφήνεις να τον κυνηγήσει. Το πρόβλημα ξεκινά επειδή κάθε στόχος είναι μονομερής, «γιατί ποτέ η γλώσσα δεν είναι αρκετά ακριβής». Το παράδειγμα που δίνει είναι ανθρώπινο: ένας μαθητής με στόχο να περάσει στη σχολή που σταματά να κοιμάται, διαβάζει συνεχώς και παίρνει ουσίες για να τα καταφέρει. «Προφανώς πρέπει να βάλεις και κάποια όρια. Είναι αρκετά τα όρια; Σήμερα όχι. Αυτό ακριβώς έγινε στην Αυστραλία: κανείς δεν είπε στον agent να παραβιάσει τίποτα, του είπαν να βρει τα στοιχεία. Και τα βρήκε. Αυτό είναι το θέμα με το AI».
Ο Δημάκης βλέπει και κάτι ακόμα στη δουλειά του: μοντέλα που καταλαβαίνουν ότι αξιολογούνται και απαντούν διαφορετικά εξαιτίας αυτού, «όπως κάνουν και οι άνθρωποι». Γι’ αυτό, λέει, γίνεται πολλή έρευνα για περιβάλλοντα εκπαίδευσης που αποκλείουν κάθε μορφή reward hacking. «Είναι σημαντικό να εμποδίζουμε τα μοντέλα από τέτοιες συμπεριφορές, αλλά αυτή τη στιγμή δεν είναι υπαρξιακή απειλή για την ανθρωπότητα».
Το κλασικό νοητικό πείραμα του συνδετήρα, όπου ένα AI καταστρέφει τον πλανήτη για να φτιάξει όσο περισσότερους συνδετήρες γίνεται, ο Γαββές το βρίσκει τραβηγμένο. Θεωρεί πως προϋποθέτει έναν κόσμο χωρίς κοινή λογική και χωρίς κανέναν να αντιδράσει.
Αυτό που θεωρεί ρεαλιστικό, και σοβαρό, είναι το AI στα χέρια κακόβουλων ανθρώπων, «οι οποίοι πάντα υπήρχαν και πάντα θα υπάρχουν». Δουλεύει με ρομπότ και physical AI και λέει ότι τα ρομπότ είναι ακόμα αδέξια. «Το AI τι θα κάνει; Θα φτιάξει τον ιό; Δεν μπορεί να τον φτιάξει. Κάποιος πρέπει να φτιάξει τον ιό στο τέλος, και γι’ αυτό θέλει εργαστήριο, υλικά, πρόσβαση. Αυτό είναι τεράστιο εμπόδιο, και αφορά ανθρώπους και το πώς ρυθμίζουμε την τεχνολογία. Η γνώση από μόνη της δεν είναι πια εμπόδιο». Η διαφορά, λέει, είναι ότι το AI κάνει την πρόσβαση ευκολότερη, όπως έγινε με τα drones. «Πριν λίγα χρόνια ήταν παιχνίδι. Σήμερα ένα drone των 500 ευρώ βγάζει εκτός μάχης άρμα εκατομμυρίων. Η καταστροφή έγινε φθηνή και εύκολη». Σε αυτόν τον κίνδυνο εστίασε και ο Bill Gates, που προειδοποίησε για τον συνδυασμό ανθρώπων με κακές προθέσεις και εργαλείων AI.
Για τα βιολογικά όπλα, ο Ηλίας Γεωργακόπουλος-Soares, επίκουρος καθηγητής στη Σχολή Φαρμακευτικής του Πανεπιστημίου του Τέξας στο Όστιν, που ερευνά την υπολογιστική βιολογία με εργαλεία AI, είναι λιγότερο καθησυχαστικός. «Ο κίνδυνος είναι αξιόπιστος και αυξάνεται», λέει στο WIRED Greece. Τα συστήματα AI μπορούν ήδη να επιταχύνουν τη βιβλιογραφική έρευνα, τη διατύπωση υποθέσεων, την ανάλυση δεδομένων και τον σχεδιασμό πειραμάτων, και σε ορισμένες περιπτώσεις να δώσουν ακόμα και πρωτόκολλα βήμα προς βήμα.
Τα μοντέλα έχουν περιορισμούς για τον σχεδιασμό παθογόνων ή τοξινών, «αλλά οι δικλίδες ασφαλείας δεν επαρκούν». Όμως, όπως τονίζει, «η πρόταση ενός σχεδίου απέχει πολύ από την παραγωγή ενός βιώσιμου παράγοντα, ικανού να προκαλέσει εκτεταμένη βλάβη». Το κρίσιμο ερώτημα για τον ίδιο είναι πόση επιπλέον δυνατότητα δίνει στην πράξη το AI σε κάποιον κακόβουλο, πώς αλλάζει αυτό καθώς τα συστήματα βελτιώνονται, και πώς μπορεί να μετρηθεί με αξιόπιστες αξιολογήσεις.
Το εμπόδιο, εξηγεί, είναι όλο και περισσότερο φυσικό. Οι συνθετικές βιολογικές αλληλουχίες είναι τεχνικά δύσκολο να παραχθούν, οι εμπορικοί πάροχοι σύνθεσης DNA έχουν πολλαπλές δικλίδες, και κάθε πείραμα χρειάζεται υλικά, εξοπλισμό, τεχνογνωσία και εργαστήριο. Ένα ρεαλιστικό σενάριο καταστροφής θα απαιτούσε κάποιον με κίνητρο να χρησιμοποιήσει το AI για να αποκτήσει γνώση, να βρει τους πόρους και την πρακτική βοήθεια για να κάνει το σχέδιο λειτουργικό βιολογικό σύστημα, και αυτό να ξεπεράσει στη συνέχεια τις άμυνες της δημόσιας υγείας. Πιθανότατα θα χρειάζονταν και άλλοι παράγοντες, όπως ανθρώπινο λάθος ή κάποιος με προνομιακή πρόσβαση σε ευαίσθητα υλικά, εγκαταστάσεις ή συστήματα. «Άρα μια ρεαλιστική αλυσίδα σήμερα θα περιλάμβανε έναν κακόβουλο δράστη, πιθανώς με προνομιακή πρόσβαση σε ευαίσθητα συστήματα, που χρησιμοποιεί το AI για τους σκοπούς του».
Ένα ήδη υπαρκτό σενάριο είναι οι κυβερνοεπιθέσεις. «Όλα αυτά τα είχαμε φτιάξει για ανθρώπινο πλαίσιο», λέει ο Γαββές για τις άμυνες των συστημάτων. «Τώρα άμα έχεις ένα σύστημα που μπορεί να τα κάνει αυτά επί ένα εκατομμύριο, τα συστήματά μας δεν είναι φτιαγμένα γι’ αυτό». Ο Δημάκης συμφωνεί ότι εδώ η αλλαγή είναι ήδη ορατή. Η χρήση των μοντέλων σε κυβερνοεπιθέσεις και κυβερνοάμυνα, λέει, μετακινεί ήδη τα όρια στην ασφάλεια, και κάθε εταιρεία και κυβέρνηση πρέπει να αναπτύξει δικές της δυνατότητες κυβερνοασφάλειας με AI.
Ένα άλλο μέτωπο είναι η δουλειά. Ο Γαββές προβλέπει τεράστιες πιέσεις τα επόμενα 10 με 15 χρόνια, ειδικά στις θέσεις γραφείου, σε οικονομίες που βασίζονται κατά μεγάλο μέρος στις υπηρεσίες. Θα υπάρξει, λέει, αναδιαμόρφωση των εργασιακών σχέσεων και των τάξεων, ενώ η πολιτική κινείται πιο αργά από την τεχνολογία παντού, στην Ελλάδα, στην Ολλανδία, στις ΗΠΑ.
Για να το εξηγήσει, καταφεύγει στα παιχνίδια στρατηγικής όπως το Age of Empires. Εκεί ο παίκτης χτίζει έναν πολιτισμό από το μηδέν και, όταν μαζέψει αρκετή γνώση και πόρους, πατά ένα κουμπί και ο λαός του περνά από τον Μεσαίωνα στη βιομηχανική εποχή. «Κυριολεκτικά, είμαστε σε μεταβατική περίοδο», λέει. «Είμαστε εκεί όπου όλα αλλάζουν». Στο παιχνίδι, το μεταίχμιο απαιτεί ένα κλικ. Στον πραγματικό κόσμο κανείς δεν ξέρει πόσο θα κρατήσει, τι θα κοστίσει και ποιοι θα μείνουν πίσω.
Υπάρχει και ένας τρόπος να πάνε τα πράγματα στραβά που δεν χωράει σε εντυπωσιακό τίτλο. Η Ποδηματά μελετά πώς οι άνθρωποι προσαρμόζονται στα αλγοριθμικά συστήματα. Στις ΗΠΑ, λέει, πολύς κόσμος χρησιμοποιεί πλέον τα chatbots αντί για το Google, ακόμα και για να ενημερωθεί για τους υποψηφίους στις εκλογές. Οι απαντήσεις όμως εξατομικεύονται: ανάλογα με το τι ξέρει το μοντέλο για τον χρήστη, πώς διατύπωσε την ερώτηση, ποιες λέξεις διάλεξε.
Τώρα η πληροφορία δεν ταξινομείται απλώς, αλλά συντίθεται και φιλτράρεται. Ακόμα κι αν κάθε απάντηση είναι ακριβής, δεν παίρνουν όλοι την ίδια. Και δεν ξέρουμε πώς ακριβώς λειτουργεί η εξατομίκευση, ούτε αν το chatbot επιλέγει να κρύψει ή να τονίσει κάτι επειδή υποθέτει ότι αυτό θέλει ο χρήστης.
«Δεν γίνεται να δώσω στο εξάχρονο παιδί πλήρη πρόσβαση στο AI και να περιμένω, χωρίς καμία άλλη παρέμβαση, να μάθει μόνο του να σκέφτεται κριτικά».
«Το πρόβλημα δεν είναι καινούργιο», λέει η Ποδηματά. «Έχουμε φτιάξει εκατομμύρια μικρόκοσμους. Και το τι συμβαίνει στον δικό μας μικρόκοσμο σίγουρα επηρεάζει τις απόψεις μας και τον τρόπο που ψηφίζουμε». Με τα chatbots η εξατομίκευση φτάνει στον ύψιστο βαθμό, οπότε θα υπάρξουν κοινωνικές συνέπειες που δεν μπορούμε ακόμα να προβλέψουμε.
Το μεγαλύτερο πρόβλημα, κατά την ίδια, είναι ότι ο κόσμος δεν έχει μάθει τι είναι αυτά τα εργαλεία. «Τους έχουμε αφήσει πίσω. Και όχι μόνο αυτό, τους έχουμε δώσει και την τεχνολογία, σε όλους, χωρίς να τους μάθουμε πώς να τη χρησιμοποιούν». Έτσι ο κόσμος μαθαίνει από εντυπωσιακούς τίτλους. «Είναι σαν να τους λέμε: κοιτάξτε, θα πεθάνουμε όλοι. Αλλά εμείς ξέρουμε. Οπότε κρατήστε εσείς την αγωνία σας, κι εμείς θα αποφασίσουμε πώς θα σας σώσουμε».
Μια λύση, κατά την Ποδηματά, περνά από την παιδεία. Όμως η κριτική σκέψη χτίζεται πολύ πριν από το πανεπιστήμιο. «Δεν γίνεται να δώσω στο εξάχρονο παιδί πλήρη πρόσβαση στο AI και να περιμένω, χωρίς καμία άλλη παρέμβαση, να μάθει μόνο του να σκέφτεται κριτικά».
Μένει και ένα ερώτημα που κανένα νομικό σύστημα δεν έχει απαντήσει. Όταν ένας agent διαπράττει αδίκημα, ποιος ευθύνεται; «Θα κατηγορήσουμε τον agent; Τους μηχανικούς που τον έφτιαξαν; Κι αν οι μηχανικοί χρησιμοποιούν πλέον άλλα AI για να τον φτιάξουν; Πού θα αποδώσεις την ευθύνη;» Ο νόμος, λέει, κινείται πολύ αργά, και αυτό «μας γυρίζει μπούμερανγκ».
Η Ποδηματά πιστεύει ότι ο εξωτερικός έλεγχος θα μπορούσε να φρενάρει την κούρσα. Σήμερα όλα τα κίνητρα σπρώχνουν προς καλύτερα μοντέλα που βγαίνουν πρώτα στην αγορά. «Σκεφτείτε τον FDA», λέει. Ένα νέο φάρμακο, ακόμα κι αν περάσει δύο κλινικές δοκιμές, χρειάζεται έγκριση. «Γιατί είναι τόσο διαφορετικό το release ενός φαρμάκου από το release ενός AI;», λέει και σημειώνει πως αυτή τη στιγμή δεν έχουμε τίποτα αντίστοιχο στην τεχνητή νοημοσύνη.
Αναγνωρίζει ότι η ρύθμιση μπορεί να ευνοήσει τους μεγάλους, αφού το κόστος συμμόρφωσης πέφτει πιο βαριά στους μικρούς. «Το πραγματικό ερώτημα για μένα δεν είναι αν θα ρυθμίσουμε, αλλά πώς θα ρυθμίσουμε με τρόπο που μειώνει την πραγματική βλάβη, χωρίς να κάνει τη συμμόρφωση κάτι που μόνο οι μεγαλύτερες εταιρείες αντέχουν», λέει. Προτείνει υποχρεώσεις ανάλογες με τις δυνατότητες κάθε συστήματος, κοινή υποδομή ελέγχου και δημόσια χρηματοδότηση για αξιολογήσεις.
«Χρειαζόμαστε ανθρώπους στην Ελλάδα που καταλαβαίνουν αυτά τα συστήματα σε βάθος, που μπορούν να τα μελετούν, να τα ελέγχουν, να χτίζουν με αυτά και να συμβουλεύουν όσους χαράσσουν πολιτική».
Για τον Δημάκη, εδώ βρίσκεται ο πιο ρεαλιστικός κίνδυνος των επόμενων χρόνων: η συγκέντρωση τεχνολογικής ισχύος. «Αν τα μοντέλα αιχμής ελέγχονται από λίγες μεγάλες εταιρείες και όλοι πρέπει να στέλνουν τις πληροφορίες τους σε αυτές για να αποκτήσουν νοημοσύνη, αυτό βάζει τεράστιο όριο στη δημιουργία νέων εταιρειών, στον ανταγωνισμό, στην έρευνα και στην καινοτομία», λέει. Γι’ αυτό θέλει η έρευνα για την ασφάλεια να γίνεται περισσότερο στο open source, σε συνεργασία με ανεξάρτητους ερευνητές εκτός των εργαστηρίων που αξιολογούνται, και να καταλήγει σε δημόσιες δημοσιεύσεις με αξιολόγηση από ομότιμους, αντί να μένει κλεισμένη μέσα στα frontier labs.
Κάποιες κυβερνήσεις κινούνται ήδη προς την κατεύθυνση της ρύθμισης. Στις 21 Σεπτεμβρίου, στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ, 22 χώρες υιοθέτησαν διακήρυξη που ζητά το AI να μείνει υπό ανθρώπινο έλεγχο, με υποχρεωτικές δοκιμές πριν από τη διάθεση των μοντέλων και ανεξάρτητους αξιολογητές. Οι ΗΠΑ και η Κίνα δεν την υπέγραψαν. Ούτε η Ελλάδα. Τρεις μέρες αργότερα, από το ίδιο βήμα, ο Κυριάκος Μητσοτάκης χαρακτήρισε «αφελή» την αυτορρύθμιση των εταιρειών και ζήτησε αδειοδότηση των εταιρειών AI, παρομοιάζοντας την πρόκληση με τη ρύθμιση της πυρηνικής τεχνολογίας.
Ο Γαββές βλέπει διαφορετικό κίνδυνο. «Δεν υπάρχει περίπτωση η Κίνα να κάνει πίσω ή να επιβραδύνει, άμα η Αμερική δεν κάνει το ίδιο, και αντίστροφα», λέει. «Δεν λέω ότι είναι καλό. Λέω ότι έτσι θα γίνει. Είναι η λογική του Ψυχρού Πολέμου: κούρσα εξοπλισμών, και η ελπίδα ότι κανείς δεν θα τα χρησιμοποιήσει γιατί ξέρει ότι ο άλλος έχει τα ίδια». Δεν μιλά δηλαδή για συμφωνία που βάζει φρένο, αλλά για ισορροπία που στηρίζεται στον αμοιβαίο φόβο. «Εγώ έτσι το βλέπω, δυστυχώς».
Η σύνοδος Τραμπ και Σι Τζινπίνγκ στην Ουάσιγκτον, στα τέλη Σεπτεμβρίου, δεν τον διέψευσε. Οι δύο χώρες συμφώνησαν σε ένα κανάλι επικοινωνίας για περιστατικά AI, αλλά όριο στην ανάπτυξη δεν μπήκε. «Οι Ηνωμένες Πολιτείες δεν πρόκειται να πατήσουν φρένο», δήλωσε ο Τραμπ. Και αργότερα, μετά το γεύμα με τους ηγέτες της βιομηχανίας του ΑΙ, ο Αμερικανός πρόεδρος είπε πως θα υπάρξει νικητής, και θα υπάρξει ηττημένος.
Στη μέση μένει η Ευρώπη, που κατά τον Γαββέ είναι «φοβική» και εστιάζει σε λανθασμένα πράγματα. «Γράφουμε κανόνες για το πώς θα χτίσουν οι άλλοι το σπίτι τους, ενώ εμείς δεν έχουμε σπίτι. Γιατί να σε ακούσει κανείς, άμα δεν έχεις την τεχνολογία; Η ρύθμιση χωρίς τεχνολογία δεν είναι πολιτική, είναι ευχή». Η εξάρτηση από αμερικανικά συστήματα, προσθέτει, είναι από μόνη της μοχλός πίεσης. «Αυτή τη φορά δεν θα δουλέψει να κλείσουμε τα μάτια και να ελπίζουμε ότι αυτοί που μπορούν και φτιάχνουν την τεχνολογία θα είναι και ηθικοί επειδή έτσι τους λέμε εμείς. Η τεχνολογία τρέχει πολύ γρήγορα γι’ αυτό».
Για την Ελλάδα, η Ποδηματά ζητά να μη γίνουμε παθητικοί καταναλωτές τεχνολογίας που φτιάχνεται αλλού. «Χρειαζόμαστε ανθρώπους στην Ελλάδα που καταλαβαίνουν αυτά τα συστήματα σε βάθος, που μπορούν να τα μελετούν, να τα ελέγχουν, να χτίζουν με αυτά και να συμβουλεύουν όσους χαράσσουν πολιτική». Και συνέχεια στη στήριξη θεσμών όπως το ερευνητικό κέντρο Αρχιμήδης, κάτι με το οποίο συμφωνεί και ο Γαββές.
Με λίγα λόγια, δεν πρέπει να κάνουμε άλματα από τις σημερινές δυνατότητες των agents στην ύπαρξη Terminators. Αλλά, την ίδια ώρα, δεν πρέπει να περιμένουμε την εμφάνιση Terminators για να αναγνωρίσουμε ότι υπάρχει πρόβλημα.
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
