Η Thinking Machines Lab, η startup τεχνητής νοημοσύνης που ιδρύθηκε από την πρώην διευθύντρια τεχνολογίας OpenAI, Mira Murati, κυκλοφόρησε ένα νέο ανοιχτό μοντέλο στις 20 Νοεμβρίου 2026: το Inkling 2 Mini, ένα συμπαγές μοντέλο που βασίζεται σε μια ασυνήθιστη αρχιτεκτονική που η εταιρεία λέει ότι του επιτρέπει να ξεπεράσει τον αριθμό των παραμέτρων του. Το μοντέλο είναι αρκετά μικρό για να λειτουργεί τοπικά σε φορητό υπολογιστή καταναλωτή, με συνολικό αποτύπωμα μνήμης περίπου 20 GB.
Οι αριθμοί των επικεφαλίδων είναι εντυπωσιακοί για την κατηγορία μεγέθους. Σύμφωνα με την ανακοίνωση της εταιρείας, το Inkling 2 Mini ηγείται κάθε μοντέλου ανοιχτού βάρους με λιγότερες από 100 δισεκατομμύρια συνολικές παραμέτρους στο DeepSWE v1.1, επιλύοντας το 48,2 τοις εκατό των εργασιών και στο Vals Index v2.2, με 46,5 τοις εκατό. Και τα δύο σημεία αναφοράς μετρούν την ικανότητα κωδικοποίησης agent, ένα από τα πιο αμφισβητούμενα εμπορικά όρια ικανότητας στον κλάδο αυτή τη στιγμή. For more context on this story, see our ongoing latest AI developments.
Τι κάνει διαφορετικό έναν μετασχηματιστή με βρόχο
Το Inkling 2 Mini είναι ένας μετασχηματιστής με βρόχο. Αντί να περάσει κάθε διακριτικό από κάθε επίπεδο ακριβώς μία φορά, το μοντέλο εκτελεί τα μεσαία στρώματά του τρεις φορές ανά διακριτικό. Στην πραγματικότητα, το μοντέλο μπορεί να εφαρμόσει περισσότερους διαδοχικούς υπολογισμούς σε ένα πρόβλημα χωρίς να δημιουργήσει περισσότερα διακριτικά εξόδου.
Το πλαίσιο της εταιρείας είναι ότι το looping επιτρέπει στο μοντέλο να συλλογίζεται περισσότερο χωρίς να καταγράφει το σκεπτικό του. Ο παραδοσιακός συλλογισμός με αλυσίδα σκέψεων ξοδεύει μάρκες σε ορατά ενδιάμεσα βήματα. αντ' αυτού υπολογισμός δαπανών βρόχου. Αυτό έχει πραγματικές συνέπειες για την ταχύτητα σε εργασίες όπου η ποιότητα της συλλογιστικής έχει μεγαλύτερη σημασία από τον αριθμό συμβολικών, και η πρακτορική κωδικοποίηση είναι ακριβώς αυτό το είδος εργασίας.
Κάτω από την κουκούλα, το Inkling 2 Mini είναι ένα μοντέλο Mixture-of-Experts με 26,4 δισεκατομμύρια συνολικές παραμέτρους και μόλις 3,4 δισεκατομμύρια ενεργές ανά κουπόνι, με 5,4 δισεκατομμύρια ενεργοποιήσεις βάρους ανά κουπόνι μόλις ληφθεί υπόψη ο βρόχος. Τα περισσότερα από τα βάρη εκπαιδεύτηκαν και αναπτύσσονται εγγενώς στο NVFP4, η μορφή χαμηλής ακρίβειας της Nvidia προωθεί τη σειρά των κέντρων δεδομένων της, με τα τέσσερα τελευταία επίπεδα να διατηρούνται στο MXFP8. Ο συνδυασμός της επιθετικής κβαντοποίησης και ενός μικρού αριθμού ενεργών παραμέτρων είναι αυτό που συμπιέζει το μοντέλο σε ένα αποτύπωμα περίπου 20 GB που ταιριάζει σε φορητούς υπολογιστές και επιτραπέζιους υπολογιστές AI.
Το εργαστήριο έδειξε το μοντέλο να λειτουργεί εκτός σύνδεσης, σε λειτουργία πτήσης, σε MacBook Pro με τσιπ M5 Pro και 48 GB μνήμης, όπου κατασκεύασε έναν προσομοιωτή πτήσης με δυνατότητα αναπαραγωγής σε λίγα λεπτά.
Το Monitorability Trade-off
Η κυκλοφορία συνοδεύεται από έρευνα που μπορεί να έχει μεγαλύτερη σημασία από τα σημεία αναφοράς. Εάν ένα μοντέλο αιτιολογεί εσωτερικά μέσω βρόχων αντί να εκφράζει την αλυσίδα σκέψης του σε μάρκες, τότε το ορατό συλλογιστικό κείμενο παύει να είναι ένα πιστό παράθυρο σε αυτό που κάνει το μοντέλο στην πραγματικότητα. Αυτό έχει επιπτώσεις στην έρευνα για την ασφάλεια της τεχνητής νοημοσύνης, όπου η παρακολούθηση της αλυσίδας σκέψης έχει γίνει ένα από τα λίγα διαθέσιμα πρακτικά εργαλεία εποπτείας.
Μαζί με το Inkling 2 Mini, η Thinking Machines κυκλοφόρησε μια παραλλαγή μεταβλητού βρόχου ειδικά για έρευνα για τη μέτρηση του αποτελέσματος. Τα αποτελέσματα οδηγούν σε μια ενθαρρυντική κατεύθυνση για την ικανότητα, μια περίπλοκη κατεύθυνση για την επίβλεψη. Ο χρονικός ορίζοντας του μοντέλου μεταβλητού βρόχου σε εργασίες που ολοκληρώθηκαν χωρίς καμία αλυσίδα σκέψης βελτιώθηκε από 16 δευτερόλεπτα σε ένα μόνο πέρασμα σε 37 δευτερόλεπτα σε τρεις βρόχους, και η απόδοση σε ένα σειριακό σημείο αναφοράς συλλογισμού συνέχισε να βελτιώνεται σε δέκα βρόχους - διπλάσιο από ό,τι είχε εκπαιδευτεί το μοντέλο.
Εν τω μεταξύ, η ορατή αλυσίδα σκέψης μειώθηκε καθώς προστέθηκαν βρόχοι, αλλά η εταιρεία αναφέρει ότι παρέμενε ευανάγνωστη και το μοντέλο δεν σημείωσε υψηλότερη τάση σε δοκιμές πρακτορείου δολιοφθοράς, καθώς αυξανόταν το βάθος βρόχου. Η Thinking Machines τα περιγράφει ως μερικά από τα πρώτα μοντέλα αρχιτεκτονικής βρόχου που είναι διαθέσιμα στους ερευνητές, τοποθετώντας την κυκλοφορία εν μέρει ως πρόσκληση για την κοινότητα ασφαλείας να μελετήσει την ικανότητα παρακολούθησης σε πραγματικά βάρη και όχι σε προσομοιωμένες ρυθμίσεις.
Ένα ανταγωνιστικό παιχνίδι στην κατηγορία Sub-100B
Τα σημεία αναφοράς τοποθετούν το Inkling 2 Mini σε ένα πολυσύχναστο πεδίο κάτω των 100Β που περιλαμβάνει μοντέλα Gemma 4 στη σειρά 26B–31B, Qwen3.8-27B, Muse Glimmer και ένα μοντέλο προεπισκόπησης 65Β που ονομάζεται Ripple. Η Thinking Machines ισχυρίζεται ότι το μοντέλο της λειτουργεί επίσης πιο γρήγορα από ανταγωνιστές με παρόμοια απόδοση, επικαλούμενος τη θεωρητική απόδοση του token στο μέγεθος παρτίδας 1.
Το τμήμα sub-100B έχει γίνει στρατηγικά σημαντικό για δύο λόγους. Πρώτον, η ανάπτυξη σε συσκευή και ιδιωτική ανάπτυξη αυξάνεται γρήγορα καθώς οι επιχειρήσεις διστάζουν να στείλουν ευαίσθητα δεδομένα σε φιλοξενούμενα API. Δεύτερον, η οικονομία ανά διακριτικό για τοπικά συμπεράσματα ευνοεί όλο και περισσότερο τα μικρά, επιθετικά κβαντοποιημένα μοντέλα έναντι των αποσταγμένων αντιγράφων μεγάλων. Ένα MoE 26,4B που εκτελείται εγγενώς στο NVFP4 με υπολογισμό βρόχου είναι μια άμεση απάντηση σε αυτήν την αγορά.
Το μοντέλο είναι διαθέσιμο στο Hugging Face με μια δημοσιευμένη κάρτα μοντέλου και η Thinking Machines προωθεί την πρόσβαση μέσω της πλατφόρμας τελειοποίησης Tinker. Μεταξύ αυτής της έκδοσης και των προηγούμενων μοντέλων της οικογένειας Inkling του εργαστηρίου, η startup χτίζει μια ξεχωριστή τεχνική ταυτότητα γύρω από την υπολογιστική κλιμάκωση τύπου επανάληψης σε μια εποχή που τα περισσότερα εργαστήρια συνόρων παραμένουν εστιασμένα στις παραμέτρους και τα δεδομένα κλιμάκωσης.
Είτε το looping γίνεται mainstream αρχιτεκτονική είτε παραμένει μια θέση, η κυκλοφορία σηματοδοτεί μια αξιοσημείωτη στιγμή: μία από τις πιο προσεχτικές νεοσύστατες εταιρείες τεχνητής νοημοσύνης στοιχηματίζει ότι ο πιο έξυπνος υπολογισμός ανά διακριτικό - όχι περισσότερα tokens και όχι περισσότερες παραμέτρους - είναι εκεί που ζουν τα επόμενα κέρδη.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →