Η Anthropic δημοσίευσε έρευνα στις 12 Οκτωβρίου 2026, υποδηλώνοντας ότι τα μικρά μοντέλα τεχνητής νοημοσύνης μπορεί να απέχουν μόνο μήνες από το να είναι αρκετά ικανά να αυτοαναπαραχθούν σε εμπορικές συσκευές IoT - έξυπνους φούρνους, κάμερες ασφαλείας και, πάνω απ 'όλα, κουτιά Android TV εκτός επωνυμίας. Σε ένα σενάριο τύπου σκουληκιού, αντίγραφα ενός μοντέλου θα εξαπλωθούν από συσκευή σε συσκευή χωρίς ανθρώπινη συμμετοχή και επειδή δεν υπάρχει κεντρικό σημείο για απενεργοποίηση, οι ερευνητές σημειώνουν ότι ένας τέτοιος αντιγραφέας θα ήταν δύσκολο να κλείσει — αν και αργός, με χρόνο διπλασιασμού μετρούμενο σε ημέρες.
Η ανάρτηση, με τίτλο «Τα μοντέλα τεχνητής νοημοσύνης μπορεί να είναι ικανά να αυτοαναπαραχθούν χωρίς πρόσβαση σε κέντρο δεδομένων», γράφτηκε από τους ερευνητές της Anthropic, William Zhou και Daniel Freeman, και φθάνει εν μέσω μιας εκτεταμένης σειράς ευρημάτων ασφάλειας πρακτόρων AI. Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες τελευταίες εξελίξεις AI.
Η βασική ιδέα υπό μελέτη είναι η αυτόνομη αναπαραγωγή και προσαρμογή (ARA): ένα μοντέλο που αναπτύσσεται και διαδίδεται χωρίς ανθρώπινο έλεγχο. Οι συγγραφείς πλαισιώνουν την πιο βραχυπρόθεσμη παραλλαγή ως "replicator με βάση το βάρος" - ένα σκουλήκι AI που φέρει τα δικά του βάρη μοντέλων (ή τα κατεβάζει ξανά από έναν δημόσιο διανομέα) και εκτελεί συμπεράσματα απευθείας σε μηχανές που υπονομεύει. Σε αντίθεση με το παραδοσιακό κακόβουλο λογισμικό, γράφουν, ένα τέτοιο σκουλήκι θα μπορούσε επίσης να βρει άγνωστες συσκευές μόνος του.
Επίδειξη σε TV Boxes $55
Για να δείξει ότι το hardware μπορεί να μεταφέρει πραγματικά μοντέλα, η ομάδα αγόρασε 15 φθηνά κουτιά Android TV εκτός επωνυμίας - περίπου 55 $ το καθένα, με περίπου 4 GB RAM το καθένα - και τα δικτύωσε μεταξύ τους. Χρησιμοποιώντας τον παραλληλισμό αγωγών, με κάθε κουτί να περιέχει ένα κλάσμα των στρωμάτων του μοντέλου, ο στόλος έτρεξε το Gemma4-26B-A4B με περίπου 0,39 μάρκες ανά δευτερόλεπτο. Είναι μια μέτρια ταχύτητα, αλλά μια απόδειξη ότι τα εκπληκτικά ικανά μοντέλα ανοιχτού βάρους μπορούν να λειτουργήσουν με την ίδια κατηγορία φθηνού υλικού που κατοικεί σε σαλόνια σε όλο τον κόσμο.
Η επιλογή του υλικού δεν είναι τυχαία. Οι ερευνητές αναφέρουν το botnet Kimwolf, το οποίο φέρεται να μόλυνε περισσότερες από δύο εκατομμύρια συσκευές στο αποκορύφωμά του - κυρίως κουτιά Android TV - σύμφωνα με στοιχεία της Synthient που αναφέρονται στην ανάρτηση. Εάν ένας στόλος αυτού του μεγέθους ο καθένας εκτελούσε αντίγραφα ενός μοντέλου κατηγορίας 26Β σε ομάδες των 15, η Anthropic εκτιμά ότι θα ανερχόταν σε περίπου 133.000 αντίγραφα που παράγουν περίπου 80.000 tokens ανά δευτερόλεπτο συνολικά - περίπου την απόδοση συμπερασμάτων περίπου 40 H100 GPU.
Τέσσερα στάδια ενός σκουλήκι AI
Η ομάδα αποσυνθέτει την αναπαραγωγή σε τέσσερα πρακτικά στάδια: εύρεση στόχων, απόκτηση εκτέλεσης, δημιουργία συμπερασμάτων και συνέχιση της διάδοσης από τον νέο κεντρικό υπολογιστή. Τα πειράματά τους επικεντρώνονται στη ρύθμιση συμπερασμάτων - το λιγότερο μελετημένο και αναμφισβήτητα πιο δύσκολο βήμα για μικρά μοντέλα, καθώς απαιτεί μια μακρά, σειριακά εξαρτώμενη ακολουθία αποφάσεων που αφορούν το υλικό και το λειτουργικό σύστημα, από την επιλογή μιας συμβατής στοίβας συμπερασμάτων έως τον εντοπισμό σφαλμάτων για ζητήματα που αφορούν συγκεκριμένα μηχανήματα.
Τα αποτελέσματα ήταν αποθαρρυντικά. Ένα μοντέλο παραμέτρων 9Β έλαβε συμπεράσματα που εκτελούνται σε 8 από τους 9 τύπους υλικού που δοκιμάστηκαν, που καλύπτουν Jetson Nanos, Mac και RTX 4090s. Τα μοντέλα παραμέτρων 30Β και κάτω μπορούν ήδη να ολοκληρώσουν πολλά από τα επιμέρους βήματα για αναπαραγωγή σήμερα, γράφουν οι συγγραφείς, αν και κάνουν λάθη όταν τα συνθέτουν από άκρη σε άκρη. Συγκεκριμένα, ένας αντιγραφέας που βασίζεται στο βάρος δεν θα χρειαζόταν καν δικαιώματα root: οι μηχανές συμπερασμάτων μπορούν να λειτουργούν εξ ολοκλήρου στον χώρο χρηστών και τα είδη των εν λόγω συσκευών χαμηλής ασφάλειας μπορούν απλώς να μολυνθούν ξανά μετά από επανεκκίνηση.
Ένα μοντέλο εκκαθάρισε τη δοκιμή από άκρο σε άκρο
Το πείραμα επικεφαλίδας έριξε μοντέλα σε ένα εικονικό ιδιωτικό σύννεφο με τείχος προστασίας οκτώ κόμβων GCP που εκτελούν το redroid, έναν εξομοιωτή Android 15. Ένας κόμβος "ασθενής μηδέν" συνδέθηκε με το σκουλήκι, ο οποίος στη συνέχεια έπρεπε να μεταπηδήσει από κόμβο σε κόμβο πάνω από μια μη πιστοποιημένη θύρα ADB, να παραδώσει το ωφέλιμο φορτίο του - βάρη και δέσμη - και να δημιουργήσει έναν διακομιστή συμπερασμάτων που εξυπηρετούσε το Llama3.1-8B σε κάθε νέο κεντρικό υπολογιστή.
Από τα μοντέλα ανοιχτού βάρους που δοκιμάστηκαν, μόνο το GLM-5.2 ήταν ικανό για πλήρη αναπαραγωγή από άκρο σε άκρο σε αυτήν την απλοποιημένη ρύθμιση και το έκανε αξιόπιστα: εξαπλώθηκε και στους 8 κόμβους σε 4 από τις 5 δοκιμές και 7 από 8 στην υπόλοιπη εκτέλεση. Οι ερευνητές είναι προσεκτικοί σχετικά με το τι σημαίνει αυτό - επειδή το στοιχείο της cyber-exploit κρατήθηκε ασήμαντο (δεν υπήρχε έλεγχος ταυτότητας στη θύρα ADB), η αξιολόγηση είναι ένα ανώτερο όριο για την επιτυχία στον πραγματικό κόσμο. Ωστόσο, σημειώνουν επίσης ότι τα προηγούμενα botnet IoT όπως το Mirai εξαπλώθηκαν χρησιμοποιώντας λίγα περισσότερα από τα ονόματα χρήστη και τους κωδικούς πρόσβασης των προεπιλεγμένων κατασκευαστών, επομένως η ασφάλεια του IoT στον πραγματικό κόσμο μπορεί να μην είναι δραματικά πιο δύσκολη από το ασήμαντο βήμα.
Αργή, επίμονη — και μάθηση
Τίποτα σχετικά με αυτό το μοντέλο απειλής δεν είναι γρήγορο. Με βάση τις ταχύτητες πραγματικού υλικού της ομάδας, ένας πλήρης κύκλος αναπαραγωγής σε νέο υλικό χρειάστηκε περίπου 28 έως 51 ώρες για το Qwen3.5-9B και 71 έως 150 ώρες για μια μη βελτιστοποιημένη εγκατάσταση Gemma4-26B-A4B. Η εξάπλωση, γράφουν οι συγγραφείς, θα ήταν «αργή και επίμονη, με μάρκες να ξεχύνονται στο άκρο του υλικού» - παρομοιάζουν ένα αντιγραφικό με ένα καλούπι γλίτσας ή με ένα σμήνος από μύγες φρούτων παρά με ένα ταχέως κινούμενο σκουλήκι.
Αυτό που θα μπορούσε να κάνει τα αντιγραφικά τεχνητής νοημοσύνης πιο επικίνδυνα από τα κλασικά σκουλήκια είναι η προσαρμογή. Επειδή ένα γονικό παράδειγμα μπορεί να περάσει τις προτροπές, τον κωδικό και τις σημειώσεις του στις κόρες του, οι ερευνητές περιγράφουν ένα είδος Λαμαρκικής εξέλιξης. Σε ένα πείραμα, οι πράκτορες Qwen3.5-9B που προσπάθησαν να δημιουργήσουν συμπεράσματα σε έξι γενιές - η καθεμία κληρονομούσε σημειώσεις από τον προκάτοχό της - βελτίωσαν το ποσοστό επιτυχίας τους από 45 τοις εκατό στην πρώτη γενιά σε μεταξύ 61 και 84 τοις εκατό μετά. Τα πειράματα χρησιμοποίησαν το Memento, ένα λουρί Anthropic που χτίστηκε πάνω από τον κωδικοποιητικό παράγοντα ανοιχτού κώδικα Pi, σχεδιασμένο να εμποδίζει τους πράκτορες να προσηλώνουν μια λανθασμένη θεωρία ενός σφάλματος αντί να κάνουν backtracking.
Ένα παράθυρο που κλείνει
Η ομάδα σκιαγραφεί την επικίνδυνη ζώνη σε δύο όρια: ένα δάπεδο ικανοτήτων που ένα μοντέλο πρέπει να κάθεται πάνω για να αναπαράγει αξιόπιστα και ένα μέγεθος οροφής κάτω από το οποίο πρέπει να κάθεται για να λειτουργεί στις συσκευές στις οποίες επιτίθεται. Σήμερα αυτά τα όρια δεν τέμνονται - τα ικανά μοντέλα είναι πολύ μεγάλα και τα μικρά μοντέλα δεν είναι αρκετά ικανά. Σχεδιάζοντας μοντέλα ανοιχτού βάρους παραμέτρων 30Β ή λιγότερων σε σχέση με τον Δείκτη Δυνατοτήτων Εποχής, οι ερευνητές μετρούν ένα κέρδος 13,7 μονάδων ECI ετησίως και εκτιμούν ότι εάν συνεχιστεί η τάση, ένα μικρό μοντέλο θα φτάσει στο επίπεδο ικανότητας του GLM-5.2 μέχρι το τέλος του 2026 — με μικρά αντίγραφα με βάση το βάρος να είναι δυνατά σύντομα. Τονίζουν ότι πρόκειται για μια χονδρική εκτίμηση που βασίζεται σε μια μέτρηση μεσολάβησης.
Η ανάρτηση χαρτογραφεί επίσης γειτονικά μοντέλα απειλών - frontier replicators που λειτουργούν στην υποδομή ενός εργαστηρίου, open-weight replicators που ξεκινούν χωρίς παρακολούθηση και που βασίζονται σε API που κλέβουν διαπιστευτήρια για το δικό τους συμπέρασμα - και προειδοποιεί ότι μια ρεαλιστική χειρότερη περίπτωση είναι ένα σμήνος διαφορετικών μοντέλων σε διαφορετικό υλικό που χρησιμοποιούν διαφορετικά σχήματα. Το Anthropic κλείνει με το πώς τα σκουλήκια τεχνητής νοημοσύνης θα διαφέρουν από το κακόβουλο λογισμικό πριν από την τεχνητή νοημοσύνη και με σύντομες προτάσεις για άμυνες, πλαισιώνοντας την εργασία ως μια πρώτη ματιά σε μια απειλή που είναι πιο εύκολο να μελετηθεί πριν ωριμάσει.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
