Microsoft AI завершив попереднє навчання MAI-Base-2, нової базової моделі суміші експертів із 80 мільярдами активних параметрів і 2,8 трильйонами загальних параметрів, оголосив відділ 15 жовтня в технічній публікації «Lab Notes». Компанія стверджує, що ця модель перевершує всі моделі з відкритою вагою, які вона протестувала під час запланованих оцінок, і в 4-12 разів ефективніша за FLOP перед тренуванням, ніж найпотужніша відкрита базова модель DeepSeek-V4-Pro-Base.
Ця заява є найчіткішим сигналом того, що внутрішня модельна програма Microsoft, створена під керівництвом організації Microsoft AI генерального директора Мустафи Сулеймана, має намір конкурувати на передовій, а не покладатися виключно на партнерство з OpenAI. MAI-Base-2 зараз проходить постнавчання, і незабаром обіцяють більше результатів. Щоб дізнатися більше про випуски нових моделей, слідкуйте за нашими новинами про моделі AI.
Масштаб бігу
Корпорація Майкрософт стверджує, що тренувала MAI-Base-2 на 16 000 графічних процесорах NVIDIA GB200 протягом 38 днів у серпні та вересні 2026 року. Середнє використання моделі FLOP склало 21% (нормалізовано щодо теоретичного максимуму GB200 у 2,5 PFLOPS у BF16, за винятком FLOP рематеріалізації та оптимізатора) і досягло 89%. goodput — частка часу, протягом якого навчання проходило без перерви. Ці цифри описують дисциплінований масштабний пробіг; перерваний або погано використаний парк графічних процесорів є нормою в цьому масштабі, і кожен бал хорошої продуктивності перетворюється на тижні економії часу для навчання.
Модель є більшою, розрідженішою та навчена на більшій кількості даних, ніж її попередниця, MAI-Base-1, яка послужила основою для MAI-Thinking-1, моделі міркування Microsoft, випущеної в червні. Корпорація Майкрософт стверджує, що навмисно реінвестувала економію ефективності від рецепту навчання MAI-Base-2 у навчання більшої моделі.
Як це порівнює Microsoft
Компанія оцінила MAI-Base-2 у порівнянні з прикордонними контрольно-пропускними пунктами, доступними до жовтня 2026 року, використовуючи біт на байт у відкладеному тексті — метрику, що не залежить від токенізації — разом із оцінками відкладеного коду, взятими з власної кодової бази Microsoft. Зовнішнім постачальникам було замовлено оцінювання STEM, математики та запитань і відповідей, щоб зменшити ризик зараження навчального набору, і всі оцінювальні набори було дезактивовано проти навчальних даних.
Набір для порівняння включав DeepSeek-V4-Pro-Base, описану Microsoft як найпотужнішу базову модель із відкритими вагами та єдиною випущеною базовою контрольною точкою попереднього навчання, що перевищує трильйон параметрів, а також Kimi K3, Qwen3.8-2.4T-A95B і MiMo-V2.6-Pro-RL. Microsoft зауважує застереження: для цих трьох доступні лише контрольні точки після навчання, а після навчання може вплинути на оцінки перед навчанням. Крім затриманих оцінок, Microsoft повідомляє, що MAI-Base-2 досягла нижчого рівня біт на байт, ніж інші протестовані моделі.
Твердження про ефективність, декодовано
Показник ефективності 4-12x — це не пряма перемога в тесті, а аналіз відповідності обчислень. Для кожної відкладеної оцінки Microsoft пристосувала закон масштабування біт на байт до навчальних FLOP і оцінила, скільки обчислень знадобиться її власному рецепту, щоб відповідати оцінці DeepSeek-V4-Pro-Base. Діапазон відображає відмінності між чотирма оцінками. Претензія, якщо говорити просто: Microsoft каже, що її рецепт витягує в кілька разів більше можливостей на одиницю навчального обчислення, ніж найпотужніша відкрито доступна базова модель — і вона витратила цей надлишок на масштаб.
Володіння повним набором
Окрім грубої продуктивності, у дописі викладено стратегічне обґрунтування. Корпорація Майкрософт стверджує, що володіння її наскрізним конвеєром моделей дає їй надійні дані про походження в порівнянні з маркерами навчання, і що попереднє навчання покладається на органічні дані без дистиляції з інших моделей. Таке походження, стверджує компанія, дозволить їй ліцензувати ваги моделей для підприємств через Foundry як надійне джерело передової інформації, тоді як спільне налаштування моделей та інфраструктури знижує вартість перш за все у власних продуктах Microsoft.
У технічному розділі заслуговують три ініціативи для успіху пробігу: наука про масштабування, включаючи «сходи масштабування», які враховують повторювані тренувальні дані за допомогою методики, яка називається масштабування джерела, яка зберігає співвідношення унікальних даних до параметрів фіксованим на всіх сходинках; спільне проектування моделі та інфраструктури, включаючи вдосконалені реалізації оптимізатора MoE та Muon разом із відсіканням градієнта активації; і розширені канали даних з інтеграцією даних зору. Корпорація Майкрософт каже, що масштабування джерела було ключовим для надійного масштабування до розміру параметрів у 2,8 трильйона без несподіваних сюрпризів.
Що це означає для ринку
Якщо твердження витримають під час незалежної перевірки, MAI-Base-2 позиціонує Microsoft як четвертого за великим рахунком західного розробника моделей поряд із OpenAI, Anthropic і Google — з диференційованою подачею, заснованою на походження даних і корпоративному ліцензуванні, а не на розумінні споживчого чат-бота. Першочерговим ринком є корпоративна клієнтська база Azure, де клієнти Foundry можуть отримати доступ до моделі передового класу, курс навчання якої повністю контролює Microsoft.
Питання незалежної перевірки залишається відкритим. Оцінки корпорації Майкрософт наводяться власноруч, застереження щодо моделей порівняння після навчання є суттєвим, а кількість бітів на байт у віддаленому тексті не перекладається безпосередньо на чат, кодування та агентські тести, які підприємства фактично здійснюють покупки. Постнавчені похідні MAI-Base-2 — наступники MAI-Thinking-1 — стануть справжнім випробуванням. Але основний меседж оголошення однозначний: ставка Microsoft на навчання передових моделей всередині компанії, на власному кремнієвому флоті, більше не є бажаною. Він має готову базову модель, і конвеєр після навчання вже запущений.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
