Thinking Machines, 주력 크기의 4분의 1로 축소된 Inkling-Small: 276B 개방형 모델 출시

Thinking Machines Lab은 1/4 크기의 플래그십과 일치하는 12B 활성을 갖춘 2,760억 매개변수 개방형 중량 모델인 Inkling-Small을 출시했습니다. 이는 개방형 중량 경쟁에 참가하는 미국 제품입니다.

전 OpenAI 최고 기술 책임자인 Mira Murati가 설립한 AI 스타트업인 Thinking Machines Lab은 공개 무게 모델인 Inkling-Small을 출시했습니다. 이 모델은 크기가 약 4분의 1로 자사 플래그십의 성능과 일치한다고 회사에서 밝혔습니다. 이번 출시로 미국은 지금까지 중국 연구소가 지배해 왔던 개방형 프론티어 모델 경쟁에 본격적으로 진출하게 되었습니다. 이번 출시는 AI 속보에서 다루는 오픈 소스 AI 환경을 재편하는 몇 가지 급속한 움직임 중 하나입니다.

전문가의 조합 디자인

TestingCatalog AI News에 따르면 Inkling-Small은 총 2,760억 개의 매개변수를 포함하고 특정 추론 동안 120억 개의 활성을 포함하는 전문가 혼합(MoE) 변환기입니다. 각 토큰에 대해 모델의 작은 부분만 "깨어나는" 아키텍처는 DeepSeek과 같은 중국 개방형 모델을 매우 저렴하게 실행하게 만든 것과 동일한 효율성 트릭입니다. Thinking Machines는 Hugging Face에서 전체 무게가 공개되고 있음을 확인했습니다.

또한 이 모델에는 최대 100만 개 토큰의 컨텍스트 창과 최소부터 'xhigh'까지 실험실에서 '가변적 사고 노력'이라고 부르는 기능이 함께 제공되어 개발자가 작업에 따라 성능을 위해 컴퓨팅을 교환할 수 있습니다. 미세 조정은 회사의 Tinker 플랫폼을 통해 가능하며, Tinker Playground에서는 텍스트, 이미지, 오디오 채팅이 가능합니다.

NVIDIA GB300 시스템 교육

Thinking Machines는 Inkling-Small이 NVIDIA GB300 NVL72 시스템에서 교육을 받았으며 2026년 7월 15일에 출시된 원래 Inkling 모델보다 "상당히 적은 컴퓨팅"을 사용한다고 말했습니다. 첫 번째 모델(WIRED 및 Thinking Machines의 데뷔 릴리스인 TechCrunch에서 다뤄짐)은 거의 하룻밤 사이에 연구소를 심각한 경쟁자로 자리매김했습니다.

Inkling-Small로 가는 길은 의도적인 효율성 전략을 보여줍니다. 연구실에서는 Inkling을 훈련한 후에야 더 작은 모델에 대한 작업을 시작했으며 호흡실을 사용하여 사전 훈련 데이터 혼합 및 기계 학습 레시피를 수정했습니다. 초기 미리보기 체크포인트는 정책에 따른 증류를 통해 부분적으로 사후 교육되었으며 Inkling이 교사 역할을 한 후 약 2주간 규모의 에이전트 코딩 강화 학습이 이어졌습니다.

성공하는 곳과 그렇지 않은 곳

그 레시피의 결과는 주목할 만합니다. Thinking Machines는 Inkling-Small이 추론 및 에이전트 코딩 벤치마크에서 원래 Inkling을 능가하는 반면, Inkling은 지식 적용 범위와 사실성 측면에서 더 강력하다고 주장합니다. 악명 높은 평가인 텍스트 전용 인류의 마지막 시험에서 더 작은 모델은 31.6%를 기록했으며, Inkling은 29.7%를 기록했습니다. 이는 활성 매개변수의 극적인 감소에도 불구하고 실질적인 개선입니다.

균형은 분명합니다. Inkling-Small은 더 날카로운 코더이자 추론자인 반면, 더 큰 형제는 더 광범위한 지식 기반을 유지합니다. 개발자에게 이는 버그가 아닌 기능입니다. 이는 모든 작업에 대해 하나의 거대한 모델에 비용을 지불하는 대신 작업에 적합한 도구를 선택하는 것을 의미합니다.

중국이 이끄는 오픈웨이트 분야의 미국 선수

아마도 가장 큰 의미는 지정학적일 것입니다. CNBC와 다른 사람들이 지적했듯이 개방형 프론티어 모델은 DeepSeek 및 Alibaba의 Qwen과 같은 중국 연구소가 강력한 모델을 제공하고 서구 가격을 낮추는 등 미국과 중국의 발화점이 되었습니다. Forkast는 Inkling-Small 릴리스를 다음과 같이 직설적으로 표현했습니다. "오픈 웨이트 경쟁에 이제 미국 참가자가 생겼습니다."

지금까지 주요 개방형 모델은 거의 독점적으로 중국에서 생산되어 미국 연구소가 시장 전체 카테고리를 양도하고 있다는 우려가 워싱턴에서 제기되었습니다. AI 분야에서 가장 저명한 인물 중 한 명이 이끄는 자금력이 풍부한 미국 스타트업인 Thinking Machines는 이러한 미적분학을 변화시키고 있습니다. Hugging Face에 전체 가중치를 공개하고 개방형 미세 조정을 지원함으로써 연구소는 중국 개방형 모델이 육성한 개발자 커뮤니티를 위해 직접 플레이하고 있습니다.

단순한 벤치마크가 아닌 개발자를 위해 제작됨

Thinking Machines는 이 릴리스를 개발자를 겨냥한 도구와 결합했습니다. 개방형 Hugging Face 가중치 외에도 Databricks는 Inkling 제품군을 해당 플랫폼에서 사용할 수 있으며 Tinker Playground는 기본적으로 다중 모드 텍스트, 이미지 및 오디오 채팅을 지원함을 확인했습니다. 최소에서 "xhigh"까지 다양한 "사고 노력" 설정은 실제 엔지니어링 균형을 위해 설계되었습니다. 즉, 작업이 간단할 때 저렴하게 실행하고, 문제에 더 깊은 추론이 필요할 때 더 많은 컴퓨팅을 소비합니다. 이러한 유연성은 추론 청구서를 주의 깊게 관찰하는 스타트업에게 중요합니다. 이들 중 다수는 이미 프리미엄 API 요금을 지불하는 대신 더 저렴한 개방형 대안으로 마이그레이션했습니다.

업계 전반의 효율성 추세

Inkling-Small은 더 넓은 패턴에도 적합합니다. 업계 전반에 걸쳐 최첨단 기술은 점점 더 커지는 모놀리식 모델에서 무게를 뛰어넘는 더 작고 스마트한 시스템으로 전환하고 있습니다. DeepSeek의 가격 전쟁 모델부터 압축된 아키텍처까지 메시지는 일관됩니다. 원시 매개변수 개수는 모델이 해당 용량을 얼마나 효율적으로 사용하는지보다 중요하지 않습니다.

Thinking Machines의 경우 크기보다 효율성에 대한 베팅은 이제 두 가지 모델로 이루어졌으며 초기 벤치마크에서는 이 전략이 효과가 있음을 시사합니다. 오늘 Inkling-Small을 다운로드하고 미세 조정할 수 있으므로 개발자는 이러한 주장을 직접 테스트할 수 있습니다.