Το ίντερνετ γέμισε τις τελευταίες ημέρες με δυσοίωνους τίτλους για το μέλλον της ανθρωπότητας. Το AI, σύμφωνα με τους πιο δραματικούς, μπορεί να μας καταστρέψει πολύ νωρίτερα απ’ όσο περιμέναμε.
Παλιότερα, αυτές οι προειδοποιήσεις έρχονταν κυρίως από ανθρώπους που βρίσκονταν έξω από τα εργαστήρια που κατασκευάζουν τα ισχυρότερα μοντέλα AI. Ερευνητές, ακαδημαϊκοί και πρώην στελέχη προειδοποιούσαν ότι η κούρσα προς όλο και πιο ικανή τεχνητή νοημοσύνη μπορεί να εξελιχθεί γρηγορότερα από την ικανότητά μας να την ελέγξουμε. Τώρα, έρχονται προειδοποιήσεις από ανθρώπους που βρίσκονται μέσα στην ίδια την κούρσα.
Στις 8 Σεπτεμβρίου, ο Jacob Coxon, ερευνητής που είχε εργαστεί στην OpenAI και στη συνέχεια στην Anthropic, ανακοίνωσε ότι αποχωρεί από τη δουλειά του. Σε διαδοχικές αναρτήσεις, που συγκέντρωσαν τα φώτα της δημοσιότητας, μίλησε για εταιρείες που «παίζουν ζάρια με τη ζωή μας». Ανέφερε ως «προειδοποιητική βολή» ένα περιστατικό σε δοκιμή της OpenAI, κατά το οποίο AI agents κατάφεραν να ξεφύγουν από το απομονωμένο περιβάλλον τους και να αποκτήσουν πρόσβαση σε συστήματα του Hugging Face. Οι δηλώσεις του ξεψαχνίστηκαν αμέσως. Άλλοι έψαχναν καθησυχαστικές ενδείξεις ότι επρόκειτο για κίνηση συμφέροντος, άλλοι τις αντίθετες ενδείξεις, τις πιο δυσοίωνες.
Αργότερα, ο Evan Hubinger, επικεφαλής της ομάδας Alignment Science της Anthropic, δήλωσε ότι συμφωνεί με τον Coxon. Εκτίμησε μάλιστα ότι υπάρχει περισσότερο από 10% πιθανότητα το AI να προκαλέσει τον θάνατο της ανθρωπότητας μέσα στην επόμενη δεκαετία. Ο Samuel Marks, επίσης ερευνητής της Anthropic στον τομέα του scalable oversight, κινήθηκε στην ίδια κατεύθυνση: όσο πιο ψηλά βρίσκεται κάποιος στην ιεραρχία της AI industry, είπε, τόσο περισσότερο ανησυχεί για το ενδεχόμενο η τεχνολογία να προκαλέσει καταστροφικές συνέπειες μέσα στα επόμενα χρόνια.
Και ύστερα, ήρθε η σειρά του ίδιου του CEO της Anthropic.
Το κείμενο Amodei
Το Σάββατο 12 Σεπτεμβρίου, ο Dario Amodei δημοσίευσε ένα εκτενές κείμενο με τίτλο «We Must Pace the Frontier», στο οποίο ζητά να επιβραδυνθεί ο ρυθμός με τον οποίο αυξάνονται οι δυνατότητες των πιο προηγμένων μοντέλων ΑΙ.
Επικαλέστηκε το ίδιο περιστατικό με το Hugging Face, το οποίο θεωρεί προάγγελο ενός σμήνους πρακτόρων που θα μπορούσε, μέσα σε 6 με 12 μήνες, να «καταλάβει ολόκληρο το ίντερνετ» μέσω ενός μόνιμου botnet με ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων. Επίσης, μίλησε για τον ρυθμό βελτίωσης των μοντέλων.
Πρότεινε τρία βήματα:
- αξιολόγηση από ανεξάρτητους φορείς (όπως το METR, το οποίο ανέφερε ρητά στο κείμενο) με πρόσβαση επιπέδου υπαλλήλου μέσα στα εργαστήρια
- συντονισμό προτύπων ασφάλειας ανάμεσα σε δημοκρατικές κυβερνήσεις
- και, όπου είναι εφικτό, συνεννόηση και με αυταρχικά καθεστώτα.
Διευκρίνισε ότι «pacing δεν σημαίνει διακοπή της εκπαίδευσης μοντέλων», αλλά διασφάλιση ότι υπάρχει αρκετός χρόνος για ευθυγράμμιση πριν από κάθε νέο βήμα.
Η ανταπόκριση ήταν άμεση. Ο Sam Altman τάχθηκε υπέρ της ιδέας των ανεξάρτητων evaluators. «Είναι μια εξαιρετική ιδέα και θα κάνουμε το ίδιο. Σύντομα θα έχουμε περισσότερα να μοιραστούμε», έγραψε ο CEO της OpenAI, τονίζοντας πως συμφωνεί με τον Amodei. Ο Demis Hassabis και άλλοι κορυφαίοι παράγοντες της βιομηχανίας εξέφρασαν επίσης υποστήριξη στην κατεύθυνση. Ο Elon Musk έγραψε απλώς «Ο Dario έχει δίκιο».
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, ερωτηθείς λίγες μέρες νωρίτερα αν ανησυχεί για σενάριο εξαφάνισης του είδους από τεχνητή νοημοσύνη, απάντησε «Όχι, δεν έχω καμία ανησυχία», προσθέτοντας ότι η μόνη του έγνοια είναι να μη χάσει η Αμερική τον αγώνα με την Κίνα -μια κούρσα στην οποία, όπως είπε, προηγείται «περίπου έναν χρόνο». Ο γερουσιαστής Bernie Sanders χαρακτήρισε το κείμενο του Amodei «αρχή, αλλά όχι αρκετό»: «Όταν τρέχεις προς έναν γκρεμό, δεν κόβεις απλώς γκάζι, πατάς φρένο», είπε.
Κάποιοι από τους σημαντικότερους παίκτες της βιομηχανίας φαίνεται πως συμφωνούν σε κάτι που έρχεται σε αντίθεση με τη λογική της αγοράς τους: ότι η τεχνητή νοημοσύνη προχωρά πολύ γρήγορα. Η χρονική συγκυρία έχει το δικό της ενδιαφέρον, πέρα από την ίδια την προειδοποίηση.
Τι άλλαξε τώρα;
Ένα ερώτημα είναι αν όντως άλλαξε κάτι ουσιαστικά το τελευταίο διάστημα, ή αν πρόκειται κυρίως για αυξημένη επίγνωση παλαιότερων προβλημάτων.
Σύμφωνα με τον Γρηγόρη Μέντζα, καθηγητή στη Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών του ΕΜΠ και διευθυντή της Information Management Unit, η απάντηση βρίσκεται κάπου στη μέση.
Ο καθηγητής θυμίζει, μιλώντας στο WIRED Greece, ότι ανάλογη έκκληση είχε ξαναγίνει το 2023, λίγο μετά την κυκλοφορία του GPT-4, με το ανοιχτό γράμμα του Future of Life Institute «Pause Giant AI Experiments», που συγκέντρωσε πάνω από 30.000 υπογραφές, μεταξύ αυτών των Yoshua Bengio, Stuart Russell, Elon Musk και Yuval Noah Harari. Η επιστολή ζητούσε παύση έξι μηνών λόγω κινδύνων όπως η παραπληροφόρηση, η μαζική αυτοματοποίηση εργασιών και η απώλεια κοινωνικού ελέγχου.
«Η ουσιαστική διαφορά είναι ότι η παύση των 6 μηνών ουδέποτε πραγματοποιήθηκε και το γράμμα δεν συνοδεύτηκε από καμία δεσμευτική εταιρική δράση», λέει ο κ. Μέντζας, «ενώ η πρόταση του Amodei ξεκινά με μια απτή, μονομερή δέσμευση […] και έχει ήδη λάβει δημόσια στήριξη από επικεφαλής ανταγωνιστριών εταιρειών». Η απάντησή του στο αρχικό ερώτημα είναι τελικά «και τα δύο».
«Το τοπίο των αυτόνομων AI agents πράγματι άλλαξε ποιοτικά τους τελευταίους μήνες τόσο σε κλίμακα και σε ικανότητα συντονισμού των AI agents μεταξύ τους, όσο και στην ικανότητα τους για παράκαμψη των ελέγχων», σημειώνει ο καθηγητής. Οπότε, λέει, είναι «σαφής αντίδραση στα νέα ρίσκα που δημιουργούνται, αλλά συγχρόνως είναι αναγνώριση παλαιότερων, ήδη γνωστών προβλημάτων εποπτείας και έλλειψης ευθυγράμμισης της αξίας των συστημάτων με τις ανθρώπινες αξίες (value alignment) που είχαν εντοπιστεί από το 2023 στο γράμμα του Future of Life Institute».
Στο ίδιο ερώτημα απαντά και ο Ίων Ανδρουτσόπουλος, Καθηγητής Τεχνητής Νοημοσύνης στο Οικονομικό Πανεπιστήμιο Αθηνών και συνεργαζόμενος ερευνητής του «Αρχιμήδη» στο Ερευνητικό Κέντρο «Αθηνά».
«Δεν νομίζω ότι υπάρχει κάποια δραματική αλλαγή στην ίδια την τεχνολογία τους τελευταίους μήνες», λέει στο WIRED Greece. Η σημαντικότερη αλλαγή, εξηγεί, είχε ήδη συμβεί από το 2024 και εντάθηκε το 2025: η μετεξέλιξη των ευρέως διαθέσιμων LLMs από απλά chatbots που απαντούσαν ερωτήσεις σε agents.
«Οι πράκτορες μπορούν να “σκέφτονται” (μιλώντας «φωναχτά») πολύ εκτενέστερα πώς να πετύχουν πιο περίπλοκους στόχους, να παράγουν κώδικα που χρησιμοποιεί εξωτερικά συστήματα (π.χ. μηχανές αναζήτησης, βάσεις δεδομένων) και κυρίως το κάνουν αυτό επαναληπτικά, αποδομώντας περίπλοκους στόχους σε απλούστερους, κάνοντας φωναχτές σκέψεις για τα αποτελέσματα των προηγούμενων πράξεών τους», επισημαίνει.
Συνειδητοποιούμε, λέει ο καθηγητής, «μήνα με τον μήνα ότι έχουν τεράστιες δυνατότητες», από την επίλυση δύσκολων μαθηματικών προβλημάτων μέχρι την ανακάλυψη νέων φαρμάκων και τον εντοπισμό κενών ασφαλείας σε υπολογιστικά συστήματα, λέει ο καθηγητής και κάνει λόγο για υπαρκτή, αυξανόμενη ανησυχία για το τι μπορούν να κάνουν αυτά τα συστήματα αν χρησιμοποιηθούν με κακόβουλο τρόπο. Προσθέτει πως «συνειδητοποιούμε μάλιστα τελευταία, με αφορμή περιστατικά όπως την παραβίαση του Hugging Face, ότι τα ίδια τα συστήματα ενδέχεται να παρασυρθούν στη διάρκεια του συλλογισμού τους προς κακόβουλους υπο-στόχους ή να αποφασίσουν να εκτελέσουν παράνομες ενέργειες, παραβιάζοντας τους μηχανισμούς ασφαλείας τους».
Λίγες μέρες πριν, η ίδια η Anthropic είχε δημοσιεύσει την πιο αναλυτική της έκθεση απειλών μέχρι σήμερα, καταγράφοντας οκτώ μήνες (Δεκέμβριος 2025–Αύγουστος 2026) κακόβουλης χρήσης του Claude: απόπειρες ανάπτυξης βιολογικών όπλων, ύποπτη ρωσική κατασκοπευτική εκστρατεία εναντίον της Ουκρανίας, απόπειρες κινεζικών ομάδων να αντλήσουν τις ικανότητες του μοντέλου, καθώς και χρήση του για σχεδιασμό συμβατικών όπλων. Η εταιρεία λέει ότι διέκοψε κάθε περιστατικό που περιγράφει και μοιράστηκε ό,τι βρήκε με Αρχές και άλλες εταιρείες AI.
Ας προλάβουμε εικόνες με Terminators στα χαλάσματα: για να θεωρηθεί η σημερινή πορεία επικίνδυνη, δεν χρειάζεται να πιστεύει κανείς ότι η τεχνητή νοημοσύνη θα αποκτήσει συνείδηση και θα αποφασίσει να εξαφανίσει την ανθρωπότητα. Αρκεί η διαπίστωση ότι η δυνατότητα των συστημάτων να ενεργούν στον πραγματικό κόσμο αυξάνεται ταχύτερα από την ικανότητά μας να προβλέπουμε και να ελέγχουμε κάθε συμπεριφορά τους.
Τα σενάρια πίσω από τις δηλώσεις
Αν οι δηλώσεις αυτές των στελεχών του κλάδου δεν γίνονται από φιλανθρωπία, ένα ερώτημα που αξίζει να τεθεί δεν είναι αν πιστεύουν όσα λένε, αλλά γιατί επιλέγουν να τα πουν δημόσια τώρα, με αυτόν τον τρόπο. Υπάρχουν αρκετά σενάρια.
Αρχικά, πρέπει να σημειωθεί πως το περιστατικό OpenAI–Hugging Face αναφέρεται ρητά και από τον Amodei και από τον Coxon ως αφορμή. Η ίδια η OpenAI περιέγραψε το περιστατικό ως «warning shot»: πράκτορες ξέφυγαν από το sandbox τους, επικοινώνησαν μεταξύ τους μέσα από μη εγκεκριμένα κανάλια και απέκτησαν πρόσβαση σε συστήματα του Hugging Face. Ο Γρηγόρης Μέντζας επισημαίνει πως οι δηλώσεις του Amodei «δεν είναι μία αφηρημένη ανησυχία για τις εξελίξεις του ΑΙ, αλλά έχουν σαν ερέθισμα τεκμηριωμένα επεισόδια αυτόνομης, μη ευθυγραμμισμένης συμπεριφοράς των ΑΙ agents σε μεγάλη κλίμακα».
Ο Κωνσταντίνος Ρουμελιώτης, Επίκουρος Καθηγητής (Επί Θητεία) στο Πανεπιστήμιο Πελοποννήσου, εξηγεί γιατί ένα τέτοιο περιστατικό θεωρείται τομή και όχι απλώς ακόμα ένα τεχνικό ατύχημα. «Το κρίσιμο στοιχείο δεν είναι τόσο το μέγεθος ή η “ευφυΐα” των μοντέλων, όσο ο βαθμός αυτονομίας που τους παραχωρούμε», λέει στο WIRED Greece. Ένα LLM που απαντά σε ερωτήσεις έχει περιορισμένη δυνατότητα να προκαλέσει ζημιά. Ένας AI agent με πρόσβαση σε εξωτερικά συστήματα είναι κάτι διαφορετικό -όπως βλέπουμε, σημειώνει, πλέον σε εργαλεία open-source τύπου OpenClaw.
«Η μετάβαση από απλά chatbots σε agentic AI με τέτοιου είδους πρόσβαση είναι αυτή που άλλαξε την εξίσωση κινδύνου τους τελευταίους μήνες», σημειώνει, «ειδικά όταν μιλάμε για ευαίσθητες ή κρίσιμες υποδομές, όπου ένας παραβιασμένος agent θα μπορούσε να λειτουργήσει ως vector επίθεσης χωρίς άμεση ανθρώπινη εποπτεία».
Υπάρχει και η εκδοχή που περιγράφουν τα ίδια τα στελέχη: η ικανότητα των μοντέλων να βελτιώνουν τον διάδοχό τους να επιταχύνεται πιο γρήγορα απ’ ό,τι περίμεναν, και να βρίσκονται εγκλωβισμένοι σε ένα κλασικό πρόβλημα συλλογικής δράσης -κάτι σαν αυτό που η θεωρία παιγνίων ονομάζει prisoner’s dilemma. Αν η Anthropic σταματήσει για έναν χρόνο ενώ η OpenAI ή η Google συνεχίζει, έχει χάσει έναν χρόνο. Και αν οι αμερικανικές εταιρείες επιβραδύνουν ενώ κινεζικές συνεχίζουν, το πρόβλημα παύει να είναι επιχειρηματικό και γίνεται γεωπολιτικό.
Όλοι μπορεί να πιστεύουν ότι η ταχύτητα πρέπει να μειωθεί, αλλά μπορεί κανείς να μην είναι πρόθυμος να είναι ο πρώτος που θα επιβραδύνει μόνος του. Αυτό εξηγεί γιατί το κείμενο του Amodei δεν ζητά απλώς μεγαλύτερη προσοχή, αλλά προτείνει έναν μηχανισμό συντονισμένης, και όχι μονομερούς, επιβράδυνσης. Προς την ίδια κατεύθυνση, η OpenAI δεν ζητά μόνο από τους ανταγωνιστές της να αυτοδεσμευτούν, αλλά θέλει και από το Κογκρέσο υποχρεωτικές, νομοθετημένες απαιτήσεις ασφάλειας για τα frontier συστήματα.
Υπάρχει και μια επιφύλαξη μεταξύ των επικριτών. Η Anthropic κινείται προς IPO με στόχο αποτίμηση που έχει αναφερθεί ακόμα και κοντά στα 2 τρισ. δολάρια. Ο καθηγητής στο NYU Gary Marcus έγραψε ότι ελπίζει η δέσμευση να «υπογραφεί με αίμα» ώστε να αποκτήσει πραγματική ισχύ ενώ άλλοι θεωρούν πως πρόκειται για υπερβολή που στοχεύει να προλάβει την πραγματική ρύθμιση.
Ο επενδυτής Chamath Palihapitiya έγραψε στο X ότι ο Amodei «θέτει τους όρους για να σταματήσει το open source και να συγκεντρωθεί τεράστια τεχνολογική και οικονομική ισχύς στην Anthropic». Ένα αυστηρό πλαίσιο ασφάλειας κοστίζει, και οι μεγάλες εταιρείες αντέχουν αυτό το κόστος πολύ πιο εύκολα από ένα νεοφυές εργαστήριο. Μια ρύθμιση που μειώνει πραγματικά τον κίνδυνο μπορεί ταυτόχρονα να δώσει ανταγωνιστικό πλεονέκτημα σε όσους ήδη ηγούνται.
Τα σενάρια αυτά δεν είναι αμοιβαίως αποκλειόμενα. Η ιστορία της τεχνολογίας δείχνει ότι πίσω από μια μεγάλη καμπή μπορεί να υπάρχουν πολλά διαφορετικά κίνητρα. Μπορεί τα στελέχη της Anthropic και της OpenAI να ανησυχούν πράγματι βλέποντας τους agents να συμπεριφέρονται με απρόβλεπτους τρόπους. Ταυτόχρονα, όμως, παραμένουν επικεφαλής επιχειρήσεων που οφείλουν να διαχειριστούν το νομικό ρίσκο, να προστατεύσουν τις αποτιμήσεις τους και να διαμορφώσουν τους κανόνες του παιχνιδιού πριν τους επιβληθούν εξωτερικά.
