Thinking Machines Lab, startup AI yang didirikan oleh mantan chief technology officer OpenAI Mira Murati, merilis model bobot terbuka baru pada tanggal 20 November 2026: Inkling 2 Mini, model ringkas yang dibangun dengan arsitektur tidak biasa yang menurut perusahaan memungkinkannya melampaui jumlah parameternya. Model ini cukup kecil untuk dijalankan secara lokal di laptop konsumen, dengan total jejak memori sekitar 20 GB.
Nomor judulnya mencolok untuk kelas ukuran. Menurut pengumuman perusahaan, Inkling 2 Mini memimpin setiap model bobot terbuka dengan total parameter kurang dari 100 miliar pada DeepSWE v1.1, menyelesaikan 48,2 persen tugas, dan pada Vals Index v2.2, mencetak 46,5 persen. Kedua tolok ukur tersebut mengukur kemampuan pengkodean agen, salah satu batas kemampuan yang paling diperebutkan secara komersial di industri saat ini. For more context on this story, see our ongoing artificial intelligence updates.
Apa yang Membuat Transformator Melingkar Berbeda
Inkling 2 Mini adalah trafo melingkar. Alih-alih meneruskan setiap token melalui setiap lapisan tepat satu kali, model ini menjalankan lapisan tengahnya tiga kali per token. Akibatnya, model dapat menerapkan komputasi yang lebih berurutan pada suatu masalah tanpa menghasilkan lebih banyak token keluaran.
Pembingkaian perusahaan adalah bahwa perulangan memungkinkan model untuk berpikir lebih lama tanpa menuliskan alasannya. Penalaran rantai pemikiran tradisional menghabiskan banyak uang pada langkah-langkah peralihan yang terlihat; perulangan menghabiskan komputasi sebagai gantinya. Hal ini memiliki konsekuensi nyata terhadap kecepatan dalam tugas-tugas di mana kualitas penalaran lebih penting daripada jumlah token, dan pengkodean agen adalah tugas semacam itu.
Di balik terpalnya, Inkling 2 Mini adalah model Mixture-of-Experts dengan total 26,4 miliar parameter dan hanya 3,4 miliar yang aktif per token, dengan 5,4 miliar aktivasi bobot per token setelah perulangan diperhitungkan. Sebagian besar bobot dilatih dan diterapkan secara asli di NVFP4, format presisi rendah yang telah diterapkan Nvidia di seluruh jajaran pusat datanya, dengan empat lapisan terakhir disimpan di MXFP8. Kombinasi kuantisasi agresif dan jumlah parameter aktif yang kecil menjadikan model ini memiliki ukuran sekitar 20 GB yang dapat digunakan pada laptop dan mesin AI desktop.
Lab tersebut mendemonstrasikan model yang berjalan offline, dalam mode pesawat, di MacBook Pro dengan chip M5 Pro dan memori 48 GB, yang kemudian membuat simulator penerbangan yang dapat dimainkan dalam beberapa menit.
Pertukaran yang Dapat Dimonitor
Rilis ini disertai dengan penelitian yang mungkin lebih penting daripada tolok ukurnya. Jika suatu model melakukan penalaran secara internal melalui perulangan dibandingkan mengungkapkan rantai pemikirannya dalam bentuk token, maka teks penalaran yang terlihat tidak lagi menjadi jendela yang tepat untuk mengetahui apa yang sebenarnya dilakukan oleh model tersebut. Hal ini mempunyai implikasi terhadap penelitian keselamatan AI, dimana pemantauan rantai pemikiran telah menjadi salah satu dari sedikit alat pengawasan praktis yang tersedia.
Bersamaan dengan Inkling 2 Mini, Thinking Machines merilis varian loop variabel khusus penelitian untuk mengukur efeknya. Hasilnya menunjukkan arah yang menggembirakan dalam hal kemampuan, namun menyulitkan dalam hal pengawasan. Cakrawala waktu model perulangan variabel pada tugas yang diselesaikan tanpa rangkaian pemikiran apa pun meningkat dari 16 detik dalam sekali jalan menjadi 37 detik dalam tiga perulangan, dan kinerja pada tolok ukur penalaran serial terus meningkat hingga sepuluh perulangan — dua kali lebih banyak dari model yang dilatih.
Sementara itu, rantai pemikiran yang terlihat semakin pendek seiring dengan penambahan loop, namun perusahaan melaporkan bahwa rantai tersebut tetap terbaca secara keseluruhan, dan tren model tidak lebih tinggi pada pengujian sabotase agen seiring dengan meningkatnya kedalaman loop. Thinking Machines menggambarkan hal ini sebagai beberapa model arsitektur loop pertama yang tersedia bagi para peneliti, memposisikan rilis ini sebagian sebagai undangan bagi komunitas keselamatan untuk mempelajari kemampuan pemantauan pada anak timbangan sebenarnya daripada pengaturan yang disimulasikan.
Permainan Kompetitif di Kelas Sub-100B
Tolok ukur ini menempatkan Inkling 2 Mini pada bidang sub-100B yang mencakup model Gemma 4 dalam kisaran 26B–31B, Qwen3.8-27B, Muse Glimmer, dan model pratinjau 65B yang disebut Ripple. Thinking Machines mengklaim modelnya juga berjalan lebih cepat dibandingkan pesaingnya yang memiliki kinerja serupa, mengutip throughput token teoritis pada ukuran batch satu.
Segmen sub-100B menjadi penting secara strategis karena dua alasan. Pertama, penerapan pada perangkat dan pribadi berkembang pesat karena perusahaan menolak keras mengirimkan data sensitif ke API yang dihosting. Kedua, ilmu ekonomi per-token untuk inferensi lokal semakin menyukai model-model kecil yang terkuantisasi secara agresif dibandingkan salinan sulingan model-model besar. MoE 26,4 miliar yang berjalan secara native di NVFP4 dengan komputasi perulangan adalah jawaban langsung terhadap pasar tersebut.
Model ini tersedia di Hugging Face dengan kartu model yang diterbitkan, dan Thinking Machines mempromosikan akses melalui platform penyempurnaan Tinker. Antara rilis ini dan model keluarga Inkling lab sebelumnya, startup ini membangun identitas teknis yang berbeda seputar penskalaan komputasi gaya perulangan pada saat sebagian besar lab terdepan tetap fokus pada penskalaan parameter dan data.
Baik perulangan sudah menjadi arsitektur arus utama atau tetap menjadi sebuah ceruk pasar, rilis ini menandai momen penting: salah satu startup AI yang paling banyak diperhatikan bertaruh bahwa komputasi per token yang lebih cerdas — bukan lebih banyak token, dan bukan lebih banyak parameter — adalah sumber keuntungan berikutnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →