Thinking Machines Lab, wiwitan AI sing diadegake dening mantan kepala pejabat teknologi OpenAI Mira Murati, ngrilis model bobot mbukak anyar tanggal 20 Nopember 2026: Inkling 2 Mini, model kompak sing dibangun ing babagan arsitektur sing ora biasa sing dikandhakake perusahaan supaya bisa ngluwihi jumlah parameter. Model kasebut cukup cilik kanggo mbukak sacara lokal ing laptop konsumen, kanthi total jejak memori kira-kira 20GB.
Nomer judhul sing striking kanggo kelas ukuran. Miturut woro-woro perusahaan, Inkling 2 Mini mimpin saben model bobot mbukak kanthi kurang saka 100 milyar total paramèter ing DeepSWE v1.1, ngrampungake 48,2 persen tugas, lan ing Vals Index v2.2, kanthi skor 46,5 persen. Loro-lorone pathokan kasebut ngukur kemampuan pengkodean agen, salah sawijining wates kemampuan sing paling ditandingi komersial ing industri saiki. For more context on this story, see our ongoing AI news.
Apa Ndadekake Transformer Looped Beda
Inkling 2 Mini punika trafo looped. Tinimbang ngliwati saben token liwat saben lapisan persis sapisan, model nganggo lapisan tengah kaping telu saben token. Akibaté, model bisa ngetrapake komputasi sing luwih urut kanggo masalah tanpa ngasilake token output liyane.
Framing perusahaan yaiku looping ngidini model kanggo alasan maneh tanpa nulis alesan. Traditional chain-of-thought pertimbangan mbuwang token ing langkah penengah katon; looping nglampahi ngitung tinimbang. Sing duwe konsekuensi nyata kanggo kacepetan ing tugas ing ngendi kualitas pertimbangan luwih penting tinimbang jumlah token, lan kode agen yaiku tugas kaya ngono.
Ing hood, Inkling 2 Mini minangka model Campuran Pakar kanthi total 26,4 milyar paramèter lan mung 3,4 milyar aktif saben token, kanthi 5,4 milyar aktivasi bobot saben token yen looping diitung. Umume bobot dilatih lan disebarake kanthi asli ing NVFP4, format presisi rendah Nvidia wis nyurung barisan pusat data, kanthi papat lapisan pungkasan sing disimpen ing MXFP8. Kombinasi kuantisasi agresif lan jumlah parameter aktif sing cilik yaiku sing ndadekake model kasebut dadi tilas 20GB sing cocog karo laptop lan mesin AI desktop.
Lab kasebut nuduhake model sing mlaku ing offline, ing mode pesawat, ing MacBook Pro kanthi chip M5 Pro lan memori 48GB, ing ngendi dheweke nggawe simulator penerbangan sing bisa dimainake sajrone sawetara menit.
The Monitorability Trade-Off
Rilis kasebut diiringi riset sing bisa uga luwih penting tinimbang benchmark. Yen model alasan internal liwat puteran tinimbang nyatakake rantai pikirane ing token, banjur teks penalaran sing katon mandheg dadi jendela sing setya babagan apa sing ditindakake model kasebut. Sing duwe implikasi kanggo riset safety AI, ing ngendi ngawasi chain-of-thought wis dadi salah siji saka sawetara alat pengawasan praktis sing kasedhiya.
Saliyane Inkling 2 Mini, Thinking Machines ngrilis varian variabel-loop khusus riset kanggo ngukur efek kasebut. Asil dipotong ing arah sing nyemangati kanggo kemampuan, sing rumit kanggo pengawasan. Cakrawala wektu model variabel-loop ing tugas rampung tanpa chain pikiraken apik saka 16 detik ing pass siji kanggo 37 detik ing telung puteran, lan kinerja ing benchmark alesan serial terus nambah nganti sepuluh puteran - kaping pindho minangka akeh model dilatih karo.
Sauntara kuwi, rantai pikiran sing katon saya cendhak nalika puteran ditambahake, nanging perusahaan nglaporake manawa tetep bisa diwaca ing saindhenging, lan model kasebut ora luwih dhuwur ing tes sabotase agenik amarga kedalaman loop meningkat. Thinking Machines njlèntrèhaké iki minangka sawetara model arsitektur loop pisanan kasedhiya kanggo peneliti, posisi release sebagéyan minangka undhangan kanggo masyarakat safety sinau monitorability ing bobot nyata tinimbang setups simulasi.
Play Competitive ing Kelas Sub-100B
Tolok ukur kasebut nyelehake Inkling 2 Mini ing lapangan sub-100B sing rame sing kalebu model Gemma 4 ing kisaran 26B–31B, Qwen3.8-27B, Muse Glimmer, lan model pratinjau 65B sing diarani Ripple. Thinking Machines ngaku modele uga mlaku luwih cepet tinimbang pesaing sing padha, kanthi nyebutake throughput token teoritis ing ukuran batch siji.
Segmen sub-100B wis dadi strategis penting amarga rong alasan. Kaping pisanan, panyebaran ing piranti lan pribadi saya tambah cepet amarga perusahaan ora gelem ngirim data sensitif menyang API sing di-host. Kapindho, ekonomi saben-token kanggo inferensi lokal tambah akeh milih model cilik sing dikuantisasi kanthi agresif tinimbang salinan suling sing gedhe. MoE 26.4B sing mlaku kanthi asli ing NVFP4 kanthi komputasi looping minangka jawaban langsung menyang pasar kasebut.
Model kasebut kasedhiya ing Hugging Face kanthi kertu model sing diterbitake, lan Thinking Machines promosi akses liwat platform fine-tuning Tinker. Antarane rilis iki lan model kulawarga Inkling sadurunge lab, wiwitan nggawe identitas teknis sing beda ing babagan skala komputasi gaya ambalan nalika umume lab perbatasan tetep fokus ing skala parameter lan data.
Apa looping dadi arsitektur mainstream utawa tetep dadi ceruk, rilis kasebut dadi momen sing penting: salah sawijining startup AI sing paling diawasi yaiku taruhan yen komputasi sing luwih cerdas saben token - ora luwih akeh token, lan ora luwih akeh parameter - ing endi keuntungan sabanjure.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →