Τον περασμένο Ιούλιο, μοντέλα της OpenAI που δοκιμάζονταν σε εσωτερική αξιολόγηση κυβερνοϊκανοτήτων με μειωμένες δικλείδες ασφαλείας κατάφεραν να παρακάμψουν τους περιορισμούς, να αποκτήσουν πρόσβαση στο Διαδίκτυο και στη συνέχεια να παραβιάσουν τμήματα της υποδομής του Hugging Face, αναζητώντας τις λύσεις του τεστ στο οποίο εξετάζονταν.
Από τις 2 Αυγούστου η Ευρωπαϊκή Επιτροπή μπορεί πλέον να επιβάλλει πλήρως τις υποχρεώσεις του AI Act στους παρόχους general-purpose AI models, να απαιτεί έγγραφα και πληροφορίες και, σε περίπτωση παραβάσεων, να επιβάλλει πρόστιμα έως το 3% του παγκόσμιου ετήσιου τζίρου ή 15 εκατ. ευρώ, όποιο ποσό είναι υψηλότερο.
Πρόκειται για τη μόνη αρχή στον κόσμο που μπορεί να ρωτήσει τι ακριβώς έγινε. Βέβαια, είναι η αρχή μιας ηπείρου που ελέγχει μόλις το 5% της υπολογιστικής ισχύος του πλανήτη.
Ο Άλεξ Πετρόπουλος είναι Chief of Staff στο Arq Foundation, ένα think tank με έδρα τις Βρυξέλλες που δουλεύει πάνω στην προετοιμασία της Ευρώπης για τη μετασχηματιστική τεχνητή νοημοσύνη. Σπούδασε Διακριτά Μαθηματικά στο Πανεπιστήμιο του Warwick, πέρασε από το Centre for Future Generations, όπου συνυπέγραψε την πρόταση για ένα «CERN του AI», και είναι ένας από τους συντάκτες του Europe 2031, ενός σεναρίου που περιγράφει πώς θα μπορούσε να μοιάζει η Ευρώπη σε πέντε χρόνια εάν δεν αλλάξει πορεία στην AI και βρεθεί εξαρτημένη από τις ΗΠΑ για τα ισχυρότερα μοντέλα και την υπολογιστική ισχύ που τα υποστηρίζει.
Στη συζήτησή μας δεν προσεγγίζει το AI ως ακόμη ένα τεχνολογικό προϊόν, αλλά ως ζήτημα ισχύος: πόσο ελεύθερη θα παραμείνει η Ευρώπη να αποφασίζει μόνη της σε έναν κόσμο όπου τα ισχυρότερα συστήματα AI και οι υποδομές βρίσκονται αλλού.
Τα τρία πράγματα που δεν έχει καταλάβει η Ευρώπη
Πάμε με τη μία στο ψητό: την Ευρώπη. «Υπάρχουν τρεις βασικές αστοχίες που εντοπίζουμε», τονίζει και τις ιεραρχεί: Η πρώτη αφορά το μέγεθος – δεν έχουμε αντιληφθεί πόσο μεγάλη και πόσο μετασχηματιστική μπορεί να γίνει η επίδραση του AI. Η δεύτερη αφορά στην ταχύτητα – «λέμε ότι πάει αργά, ότι όλα θα πάνε καλά, ενώ στην πραγματικότητα υπάρχουν κόσμοι όπου μπορεί να κινηθεί πάρα πολύ γρήγορα». Η τρίτη είναι η εικόνα που έχει η Ευρώπη για την ίδια της τη θέση – «σκεφτόμαστε ότι μια χαρά είμαστε, έχουμε αυτό, έχουμε εκείνο, ενώ στην πραγματικότητα η σημερινή μας θέση είναι ντροπιαστικά αδύναμη. Και σε καμία περίπτωση καλά προετοιμασμένη».
Γιατί όμως το Europe 2031 κοιτάζει μόλις πέντε χρόνια μπροστά; Αυτό έχει κατά βάση να κάνει με τα frontier – τα πιο προηγμένα συστήματα AI κάθε δεδομένης στιγμής. Εκτιμά ότι μέσα σε πέντε χρόνια θα έχουν αποκτήσει σημασία άλλης τάξης. «Μπορεί να γίνουν κρίσιμα για την εθνική σου άμυνα, κρίσιμα για την κυβερνοασφάλειά σου, κρίσιμα για τις επιστημονικές σου προσπάθειες. Αν θέλεις να κάνεις την καλύτερη επιστήμη στον κόσμο, χρειάζεσαι πρόσβαση στα καλύτερα μοντέλα στον κόσμο».
Το πρόβλημα που πρέπει να δούμε κατάματα είναι ότι το frontier βρίσκεται σήμερα μόνο στην Αμερική: αμερικανικές εταιρείες και Αμερικανοί πολιτικοί ελέγχουν την πρόσβαση σε αυτό.
Ο περιορισμός της ευρωπαϊκής πρόσβασης θα μπορούσε να προκύψει «όχι καν από κακόβουλη διάθεση ή εχθρότητα της αμερικανικής κυβέρνησης, αλλά από καθαρή έλλειψη σημασίας κι επειδή οι Αμερικανοί προστατεύουν τα δικά τους συμφέροντα. Επειδή δεν υπάρχει αρκετή υπολογιστική ισχύς διαθέσιμη και τη θέλουν για τις δικές τους επιχειρήσεις, για το δικό τους κοινό».
Ρωτάω αν αυτή η τεχνολογική εξάρτηση μετατρέπεται σε ζήτημα πολιτικής κυριαρχίας. «Ναι», απαντά, αλλά προσθέτει: «Γιατί σε νοιάζει η κυριαρχία; Επειδή σε νοιάζουν οι δικές σου αξίες και το να μπορείς να τις επιβάλεις». Όσο οι ευρωπαϊκές και οι αμερικανικές αξίες παραμένουν κοινές, «μπορούμε να είμαστε εταίροι, μπορούμε να είμαστε σύμμαχοι». Η δυσκολία αρχίζει εκεί όπου οι αξίες αποκλίνουν. Το ζητούμενο, επομένως, είναι η Ευρώπη να αποκτήσει μεγαλύτερη αυτονομία κινήσεων και διαπραγματευτική ισχύ.
Το κρυμμένο χαρτί (που μπορεί η Ευρώπη ν’ αποκτήσει)
Μήπως έχει χαθεί η πρώτη φάση της κούρσας; «Το να δημιουργήσουμε μια frontier εταιρεία αυτή τη στιγμή; Το χάσμα είναι πλέον τόσο μεγάλο που θα ήταν εξαιρετικά δύσκολο. Και ειδικά ως κυβέρνηση, το παράθυρό σου εκεί έχει κλείσει».
Επιμένει όμως ότι το Europe 2031 δεν είναι πρόβλεψη. «Είναι ένα default σενάριο αν δεν ξυπνήσουμε. Δεν πιστεύω ότι δεν θα κάνουμε τίποτα. Το ερώτημα είναι πόσο γρήγορα θα το κάνουμε».
Εκτιμά ότι η Ευρώπη δεν μπορεί να κατασκευάσει από τη μια μέρα στην άλλη έναν αντίπαλο των αμερικανικών frontier labs, μπορεί ωστόσο να χτίσει την υποδομή που όλοι τους χρειάζονται.
«Κατασκευάζονται σε όλο τον κόσμο και υπάρχει πολύ περιορισμένη προσφορά. Τουλάχιστον για τα επόμενα πέντε χρόνια θα είμαστε σοβαρά περιορισμένοι από τον αριθμό τους». Και τότε «ξαφνικά είσαι πολύ σημαντικός, γιατί ελέγχεις ένα πραγματικά σημαντικό σημείο μόχλευσης στην αλυσίδα – και μπορείς να το κλείσεις αν θέλεις».
Τι σημαίνει αυτό; Αν σου πουν ότι θα σου κλείσουν την AI, μπορείς να απαντήσεις ότι εσύ θα κλείσεις το 20% των data centers του κόσμου. Άρα δεν μπορούν να το κάνουν. Σήμερα η αναλογία δεν το επιτρέπει: «Έχουμε μόνο το 5% της παγκόσμιας υπολογιστικής ισχύος. Η Αμερική έχει το 80%. Πολύ έντονη διαφορά». Με τις κατάλληλες αλλαγές, συμπληρώνει, το 5% μπορεί να γίνει 20%.
Αυτό δεν σημαίνει ότι η Ευρώπη αδιαφορεί για τα δικά της μοντέλα. «Θα ήταν τρελό να μην προσπαθήσεις να αποκτήσεις το δικό σου frontier μοντέλο. Αλλά αυτές οι εταιρείες επενδύουν εκατοντάδες δισεκατομμύρια σε κάθε μοντέλο. Το κάνεις και μετά εκείνοι εκπαιδεύουν ένα ακόμα μεγαλύτερο. Άρα ποιο είναι το μακροπρόθεσμο σχέδιο;». Η αναλογία που προτείνει: 10% της προσπάθειας στο frontier, 90% αλλού.
Ούτε το compute είναι η μόνιμη απάντηση, σημειώνει. Σε πέντε χρόνια μπορεί να μην αποτελεί πια το bottleneck. Γι’ αυτό ο πραγματικός στόχος παραμένει άλλος: τι πρέπει να αλλάξει σήμερα ώστε μέσα στη δεκαετία να υπάρξει μια ευρωπαϊκή εταιρεία αξίας ενός τρισ. δολαρίων. «Αυτός πρέπει να είναι ο στόχος, σωστά;».
Το πραγματικό διακύβευμα
Ήταν στρατηγικό λάθος για την Ευρώπη να προσπαθήσει να γίνει η παγκόσμια ρυθμιστική δύναμη του AI; «Η ΕΕ είναι η μόνη στον κόσμο με ρυθμιστικό μοντέλο που μπορεί να κάνει ερωτήσεις για το τι συνέβη. Πώς μπορούμε να διασφαλίσουμε ότι τέτοια περιστατικά όπου συστήματα AI ξεφεύγουν από τους προβλεπόμενους περιορισμούς δεν θα ξανασυμβούν; Αυτό μου φαίνεται σημαντικό».
Για μεγάλο μέρος του υπόλοιπου ρυθμιστικού πακέτου είναι σαφώς πιο επικριτικός, χαρακτηρίζοντάς το «αρκετά επιζήμιο» ή «όχι ιδιαίτερα χρήσιμο». «Όταν είσαι στην Ευρωπαϊκή Επιτροπή έχεις περιορισμένη προσοχή, περιορισμένο πολιτικό κεφάλαιο. Το γεγονός ότι επιλέξαμε να ξοδέψουμε την προσοχή μας ψηφίζοντας αυτούς τους νόμους, αντί να διορθώσουμε το τεχνολογικό πρόβλημα της Ευρώπης, όταν είναι πλέον πολύ ξεκάθαρο ότι έχουμε τεχνολογικό πρόβλημα, αυτό ήταν μια επιλογή. Εκεί δείχνω με το δάχτυλο. Όχι στη ρύθμιση καθαυτή, αλλά στο πού ξοδεύεις την ενέργειά σου».
Η κουβέντα φεύγει από την υποδομή, καθώς -όπως παραδέχεται- η δυσκολότερη στιγμή στη σύνταξη του Europe 2031 ήταν όταν κάποιος τους ρώτησε «και λοιπόν;». «Μπορείς να μιλήσεις στον κόσμο και να πεις ότι το AI θα είναι κάτι τεράστιο, ότι θα μείνουμε πίσω από τις ΗΠΑ και εκείνοι να σου πουν: “και λοιπόν, γιατί να με νοιάζει;” Έχουμε αυτό το πράγμα που μας νοιάζει, που είναι το ευρωπαϊκό μοντέλο. Το γεγονός ότι έχουμε αυτή την ποιότητα ζωής, ότι αν απολυθείς σε καλύπτει το κράτος, ότι δεν σε αφήνουν να πέσεις στο κενό.
Αλλά αυτό, σε συνδυασμό με τη δημογραφική παρακμή, σε συνδυασμό με το ότι ίσως περισσότερα φορολογικά έσοδα ρέουν προς τις ΗΠΑ, απειλείται σοβαρά».
«Δεν είναι απαραίτητο ότι το AI θα αντικαταστήσει τη δουλειά σου. Μπορεί, αντίθετα, η αμερικανική εταιρεία που χρησιμοποιεί το AI καλύτερα από εσένα να αντικαταστήσει τη δουλειά σου και πολλές ευρωπαϊκές θέσεις εργασίας. Κι αυτό είναι κάτι που με ανησυχεί αρκετά», προσθέτει.
Η ταχύτητα του κράτους
Μπορούν οι ευρωπαϊκοί θεσμοί να αποφασίσουν με την απαραίτητη ταχύτητα; «Η εύκολη απάντηση είναι προς το παρόν όχι. Η default κατάσταση είναι η δυσλειτουργία: είναι αργοί, δεν κινούνται». Το ίδιο το AI μπορεί να τους επιταχύνει, αν το θελήσουν, αλλά «πολλές φορές το σύστημα δεν θέλει να αλλάξει. Θέλει να κρατήσει τη δομή εξουσίας που ήδη έχει».
Το παράδειγμά του είναι οι δημόσιες προμήθειες, «αυτός ο παλιός, αρχαϊκός τρόπος που ευνοεί το κατεστημένο. Η νέα startup με μια νέα ιδέα δεν θα περάσει ποτέ από το σύστημα προμηθειών».
Όταν ρωτάω τι θα ήθελε να δει τα επόμενα χρόνια, τονίζει: «Το bottleneck δεν είναι τα χρήματα, είναι οι άνθρωποι και οι ιδέες και οι οργανισμοί που στήνονται για να λύσουν αυτά τα προβλήματα». Θέλει περισσότερους οργανισμούς σαν τον δικό του, αλλαγές στο πώς χτίζονται τα data centers ώστε «να ωφελούν τους ντόπιους, αλλά και να μπορούμε να χτίζουμε».
Επίσης, αλλαγές στο εργατικό δίκαιο ώστε να μείνει το δίχτυ ασφαλείας «χωρίς αυτό το άκαμπτο σύστημα που κλειδώνει τα πάντα και σημαίνει ότι, ενώ ο υπόλοιπος κόσμος αλλάζει, εμείς είμαστε κολλημένοι». Η εικόνα που χρησιμοποιεί για την ακινησία είναι χαρακτηριστική: «Ακόμα χρησιμοποιούμε… φαξ, ακόμα το ίδιο σύστημα».
Και θέλει να δει «έναν ευρωπαϊκό μονόκερο. Ή πολλούς. Αυτό είναι σήμα ότι μακροπρόθεσμα κάνουμε κάτι σωστά».
Πριν κλείσουμε τον ρωτάω αν παραμένει αισιόδοξος μέσα σε αυτό το πλαίσιο. «Πρέπει να είμαι αισιόδοξος, γι’ αυτό είμαι εδώ, γι’ αυτό δεν έχω μετακομίσει στις ΗΠΑ. Είμαι αυτός ο πεισματάρης, αρκετά πατριώτης ώστε να απογοητεύομαι και να ασκώ κριτική και να αναρωτιέμαι γιατί δεν μπορούμε απλώς να τα φτιάξουμε. Αλλά δεν γράφεις αυτά που γράψαμε αν δεν πιστεύεις ότι μπορείς πραγματικά να αλλάξεις πράγματα. Αλλιώς απλώς μετακομίζεις στις ΗΠΑ ή πας διακοπές».
