Στις 12 Οκτωβρίου, η Frontier Red Team της Anthropic, η ομάδα που ψάχνει επικίνδυνες ικανότητες στα μοντέλα τεχνητής νοημοσύνης, δημοσίευσε έρευνα των William Zhou και Daniel Freeman με ένα συμπέρασμα που ακούγεται σαν σενάριο ταινίας: μικρά μοντέλα AI ίσως απέχουν λίγους μήνες από το να μπορούν να αντιγράφουν τον εαυτό τους σε συσκευές IoT, όπως έξυπνους φούρνους και φτηνά Android TV boxes.
Το φαινόμενο λέγεται autonomous replication and adaptation (ARA): ένα σύστημα που μπορεί να αντιγράφει και να προσαρμόζει τον εαυτό του χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε βήμα. Η κυβερνοασφάλεια έχει όνομα για κάτι παρόμοιο εδώ και δεκαετίες: worm, δηλαδή πρόγραμμα που περνά από υπολογιστή σε υπολογιστή χωρίς ανθρώπινη παρέμβαση. Η διαφορά είναι ότι, σε ένα τέτοιο σενάριο, το «φορτίο» που μεταφέρεται από συσκευή σε συσκευή θα μπορούσε να είναι είναι τα ίδια τα βάρη (weights) του μοντέλου, τα οποία εγκαθίστανται και τρέχουν πάνω στη νέα συσκευή.
Κανένα τέτοιο σύστημα δεν κυκλοφορεί σήμερα. Η Anthropic όμως γράφει ότι μοντέλα έως 30 δισεκατομμυρίων παραμέτρων ήδη ολοκληρώνουν πολλά από τα επιμέρους βήματα, αν και κάνουν λάθη όταν πρέπει να τα συνδέσουν από την αρχή ως το τέλος.
Οι ερευνητές αγόρασαν 15 Android TV boxes χωρίς επώνυμη μάρκα, περίπου 55 δολάρια το ένα, τα συνέδεσαν σε δίκτυο και μοίρασαν πάνω τους το μοντέλο Gemma4-26B-A4B της Google, έτσι ώστε όλα μαζί να μπορούν να το τρέξουν.
Το σύνολο έβγαζε 0,39 tokens το δευτερόλεπτο: εξαιρετικά αργά, αλλά λειτουργικά.
Στη συνέχεια έλεγξαν το βήμα που, κατά την Anthropic, έχει μελετηθεί λιγότερο: αν ένα μικρό μοντέλο μπορεί να στήσει μόνο του inference σε hardware που δεν έχει ξαναδεί. Ένα μοντέλο 9 δισ. παραμέτρων, το Qwen3.5-9B, τα κατάφερε σε 8 από τους 9 τύπους hardware, από ένα Jetson Nano μέχρι Mac.
Το τελευταίο τεστ ήταν ο πλήρης κύκλος. Σε ένα κλειστό δίκτυο οκτώ εξομοιωμένων συσκευών Android, το μοντέλο έπρεπε να βρει στόχους, να μπει, να μεταφέρει το φορτίο και να ξεκινήσει να τρέχει εκεί. Το κομμάτι της διάρρηξης ήταν σκόπιμα εύκολο, μια ανοιχτή θύρα ADB χωρίς κωδικό. Άρα το πείραμα δεν δείχνει ότι ένα AI μπορεί σήμερα να εισβάλει σε τυχαίες συσκευές στο διαδίκτυο. Δείχνει ότι, όταν του δοθεί ένας εύκολος τρόπος εισόδου, ένα αρκετά ικανό μοντέλο μπορεί να αυτοματοποιήσει μεγάλο μέρος της διαδικασίας.
Από τα open-weight μοντέλα που δοκιμάστηκαν, μόνο το GLM-5.2 ολοκλήρωσε τον κύκλο, φτάνοντας και στους οκτώ κόμβους σε τέσσερις από τις πέντε δοκιμές. Για να είναι δίκαιη η σύγκριση, τα μοντέλα έστηναν ένα μικρό Llama3.1-8B κι όχι τον εαυτό τους.
Η Anthropic θεωρεί αυτά τα αποτελέσματα ανώτατο όριο για τον πραγματικό κόσμο. Θυμίζει όμως ότι το botnet Mirai εξαπλωνόταν απλώς δοκιμάζοντας τους προεπιλεγμένους κωδικούς των κατασκευαστών, οπότε η πραγματική ασφάλεια των συσκευών IoT ίσως δεν είναι πολύ δυσκολότερη από το απλοποιημένο τεστ.
Η αυτοαναπαραγωγή θεωρείται εδώ και χρόνια μία από τις «κόκκινες γραμμές» του AI. Ερευνητές του Πανεπιστημίου Fudan υποστήριζαν ήδη από το 2024 ότι μεγάλα μοντέλα την είχαν περάσει σε εργαστηριακές συνθήκες. Η νέα έρευνα μετατοπίζει το ερώτημα από τα data centers στις συσκευές του σπιτιού.
Ο πρώτος λόγος ανησυχίας είναι ότι ένας τέτοιος replicator δεν θα έχει απαραίτητα κεντρικό σημείο για να τον σβήσεις.
Ο δεύτερος, ότι ένα κλασικό botnet γράφεται για συγκεκριμένο τύπο συσκευής, ενώ ένα AI worm μπορεί να καταλάβει μόνο του hardware που δεν γνωρίζει.
Ο τρίτος είναι ότι μπορεί να χρησιμοποιεί την εμπειρία των προηγούμενων προσπαθειών του. Σε ένα πείραμα, κάθε «γενιά» του Qwen3.5-9B κρατούσε σημειώσεις για ό,τι δοκίμασε και ό,τι απέτυχε και τις παρέδιδε στην επόμενη. Το ποσοστό επιτυχίας ανέβηκε από 45% στην πρώτη γενιά σε 61% έως 84% στις επόμενες, σύμφωνα με τα διαγράμματα της έρευνας που δημοσίευσε η Anthropic.
Το χρονοδιάγραμμα βγαίνει από την καμπύλη βελτίωσης των μικρών μοντέλων. Αν συνεχίσουν με τον ίδιο ρυθμό, η Anthropic εκτιμά ότι θα φτάσουν το επίπεδο του GLM-5.2 ως το τέλος του 2026, με τους πρώτους μικρούς replicators να ακολουθούν «σύντομα μετά». Η ίδια η εταιρεία σημειώνει ότι ο δείκτης που χρησιμοποιεί μετρά γενικές ικανότητες, όχι ειδικά την αναπαραγωγή, άρα η εκτίμηση είναι χοντρική.
Με την ταχύτητα των TV boxes, το Qwen3.5-9B θα χρειαζόταν από 28 έως 51 ώρες για να στήσει inference σε μία νέα συσκευή. Ο χρόνος διπλασιασμού θα μετριόταν σε μέρες.
Η Anthropic έκανε και έναν υπολογισμό με βάση το Kimwolf, botnet που μόλυνε πάνω από δύο εκατομμύρια συσκευές, κυρίως Android TV boxes. Αν κάθε 15 κουτιά έτρεχαν ένα αντίγραφο του μοντέλου 26 δισ. παραμέτρων, θα υπήρχαν περίπου 133.000 αντίγραφα, με συνολική υπολογιστική ισχύ το πολύ όσο 40 κάρτες Nvidia H100. Το σενάριο είναι υποθετικό. Οι ερευνητές το παρομοιάζουν με βλεννομύκητα ή σμήνος από μυγάκια, οργανισμούς που πολλαπλασιάζονται μέσα σε μέρες.
Οι αμυνόμενοι έχουν κάποια πλεονεκτήματα. Μεταφορές αρχείων πολλών gigabytes και συνεχής κίνηση ανάμεσα σε συσκευές που κανονικά δεν μιλούν μεταξύ τους θα φαίνονταν στην παρακολούθηση των παρόχων. Όσο πιο γρήγορα απλώνεται ο replicator, τόσο περισσότερο θόρυβο κάνει. Στην περίπτωση του Mirai, όταν ένας πάροχος έβαλε σε καραντίνα τους μολυσμένους συνδρομητές και τους ειδοποίησε, το 92% των μολύνσεων καθαρίστηκε μέσα σε 14 ημέρες, έναντι 74% χωρίς ειδοποίηση. Η άλλη άμυνα περνά από τους κατασκευαστές: στη Βρετανία, οι προεπιλεγμένοι κωδικοί σε έξυπνες συσκευές δεν επιτρέπονται πλέον.
Ο στόχος, γράφει η Anthropic, μοιάζει με αυτόν σε μια επιδημία: να πέσει ο δείκτης R₀ κάτω από το 1, ώστε ο replicator να σβήσει αντί να γίνει ενδημικός. Η έρευνα κλείνει πάντως χωρίς υποσχέσεις. Πρέπει, γράφουν οι Zhou και Freeman, να θωρακίσουμε τα συστήματα ώστε να δυσκολέψει η εξάπλωση τέτοιων replicators, «αλλά και να προετοιμαστούμε για έναν κόσμο όπου ήρθαν για να μείνουν».
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
