Thinking Machines Lab, стартап штучного інтелекту, заснований колишнім головним технічним директором OpenAI Мірою Мураті, 20 листопада 2026 року випустив нову модель з відкритими вагами: Inkling 2 Mini, компактну модель, створену на основі незвичайної архітектури, яка, за словами компанії, дозволяє значно перевищувати кількість параметрів. Модель досить мала, щоб працювати локально на споживчому ноутбуці, із загальним обсягом пам’яті приблизно 20 ГБ.

Заголовні цифри вражають для розмірного класу. Згідно з повідомленням компанії, Inkling 2 Mini лідирує в кожній моделі з відкритими вагами з менш ніж 100 мільярдами загальних параметрів на DeepSWE v1.1, вирішуючи 48,2 відсотка завдань, і на Vals Index v2.2, набравши 46,5 відсотка. Обидва тести вимірюють здатність агентного кодування, одну з найбільш комерційно оскаржуваних можливостей у галузі на даний момент. For more context on this story, see our ongoing AI news.

Чим відрізняється циклічний трансформатор

Inkling 2 Mini — трансформер із зацикленим циклом. Замість проходження кожного маркера через кожен шар рівно один раз, модель запускає свої середні шари тричі на маркер. По суті, модель може застосувати більш послідовне обчислення до проблеми без генерації додаткових вихідних маркерів.

Фрейм компанії полягає в тому, що цикл дозволяє моделі міркувати довше, не записуючи свої міркування. Традиційне мислення за ланцюжком думок витрачає жетони на видимі проміжні кроки; натомість цикл витрачає обчислення. Це має реальні наслідки для швидкості виконання завдань, де якість аргументації важлива більше, ніж кількість токенів, і агентське кодування є саме таким завданням.

Під капотом Inkling 2 Mini — це модель Mixture of Experts із 26,4 мільярдами параметрів і лише 3,4 мільярдами активних на токен, з 5,4 мільярдами вагових активацій на токен після врахування циклу. Більшість ваг було навчено та розгорнуто нативно в NVFP4, форматі низької точності, який Nvidia просуває у своїй лінійці центрів обробки даних, а останні чотири рівні зберігаються в MXFP8. Поєднання агресивного квантування та невеликої кількості активних параметрів — це те, що стискає модель до розміру приблизно 20 ГБ, який підходить для ноутбуків і настільних машин зі штучним інтелектом.

Лабораторія продемонструвала, що модель працює в автономному режимі, в режимі польоту, на MacBook Pro з чіпом M5 Pro і 48 ГБ пам’яті, де за кілька хвилин було створено симулятор польоту.

Компроміс можливості моніторингу

Випуск супроводжується дослідженнями, які можуть бути важливішими за контрольні показники. Якщо модель міркує внутрішньо за допомогою циклів, а не виражає свій ланцюг думок у маркерах, тоді видимий текст міркувань перестає бути вірним вікном у те, що модель насправді робить. Це має наслідки для досліджень безпеки штучного інтелекту, де моніторинг ланцюжка думок став одним із небагатьох доступних практичних інструментів контролю.

Разом з Inkling 2 Mini компанія Thinking Machines випустила варіант циклу змінних для вимірювання ефекту. Результати обнадійливі для спроможності та ускладнюють нагляд. Часовий горизонт моделі зі змінним циклом для завдань, виконаних без будь-якого ланцюжка думок, покращився з 16 секунд за один прохід до 37 секунд за три цикли, а продуктивність у тесті послідовного міркування продовжувала покращуватися до десяти циклів — удвічі більше, ніж модель навчалася.

Тим часом видимий ланцюг думок став коротшим із додаванням циклів, але компанія повідомляє, що він залишався розбірливим усюди, і модель не піднялася вище під час тестів агентурного саботажу, оскільки глибина циклу зросла. Thinking Machines описує ці моделі як одні з перших доступних для дослідників моделей із циклічною архітектурою, позиціонуючи випуск частково як запрошення для спільноти безпеки досліджувати можливість моніторингу реальних ваг, а не змодельованих налаштувань.

Змагальна гра в класі Sub-100B

Тести порівнюють Inkling 2 Mini з переповненим полем нижче 100B, що включає моделі Gemma 4 у діапазоні 26B–31B, Qwen3.8-27B, Muse Glimmer і модель попереднього перегляду 65B під назвою Ripple. Thinking Machines стверджує, що її модель також працює швидше, ніж конкуренти з аналогічною продуктивністю, посилаючись на теоретичну пропускну здатність токенів при розмірі партії один.

Сегмент нижче 100B став стратегічно важливим з двох причин. По-перше, розгортання на пристрої та приватне розгортання швидко зростає, оскільки підприємства відмовляються надсилати конфіденційні дані до розміщених API. По-друге, економіка кожного токена для локального висновку все більше надає перевагу малим, агресивно квантованим моделям, а не дистильованим копіям великих. 26.4B MoE, який працює в NVFP4 з циклічним обчисленням, є прямою відповіддю на цей ринок.

Модель доступна на Hugging Face з опублікованою карткою моделі, а Thinking Machines надає доступ через свою платформу тонкого налаштування Tinker. Між цією версією та попередніми моделями сімейства Inkling лабораторії, стартап створює чітку технічну ідентичність навколо масштабування обчислень у стилі повторення в той час, коли більшість передових лабораторій залишаються зосередженими на масштабуванні параметрів і даних.

Незалежно від того, чи стане циклічна архітектура основною архітектурою, чи залишиться нішевою, випуск знаменує помітний момент: один із стартапів зі штучним інтелектом, який найбільше стежать, робить ставку на те, що розумніші обчислення на один токен — а не більше токенів і не більше параметрів — це те, де живуть наступні досягнення.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →