Mistral AI는 시계열 기반 모델의 첫 번째 제품군인 Timestral을 출시했으며 조용한 릴리스는 이제 큰 소리로 두 번째 작업을 진행하고 있습니다. 10월 15일 Mistral의 블로그에 게시된 이 발표는 10월 19일 Hacker News의 첫 페이지에 도달하여 수백 개의 찬성표를 얻었습니다. 일반 서버 CPU에서 실행되는 500만 개에서 2억 900만 개에 달하는 매개변수만큼 작은 모델을 통해 최첨단 예측을 수행하는 기초 모델 시대에는 이러한 주장이 이례적입니다.
세 가지 주요 벤치마크 모두에서 1위 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.
Mistral은 매개변수가 2억 9백만 개에 불과한 자사의 가장 큰 Timestral 모델이 GIFT-Eval, TIME 및 fev-bench 등 해당 분야의 주요 공개 벤치마크 3개 모두에서 1위를 차지했으며 매개변수의 약 3분의 2로 이전 기술 수준을 능가한다고 밝혔습니다. 결과는 GIFT-Eval 및 TIME 리더보드에 제출되었으며 Mistral은 이 수치가 앙상블 없이 단일 체크포인트에서 나온 것이라고 지적합니다.
크기 비교가 가장 눈에 띄는 부분입니다. Mistral은 28M 모델이 GIFT-Eval 및 TIME에서 약 4배 더 큰 모델인 Chronos-2를 능가하는 반면, 209M 모델은 더 적은 매개변수로 TimesFM-3 및 Falcon-2.0을 능가한다고 보고합니다. 회사에 따르면 제품군의 모든 규모는 정확도와 모델 크기의 파레토 전선에 위치합니다. 즉, 동일한 매개변수 수에서 더 나은 예측을 제공하는 공개 모델은 없다는 의미입니다.
누구도 트윗하지 않는 기업 데이터를 위해 구축됨
시계열은 화려하지는 않지만 센서 원격 측정, 관측 가능성 지표, 에너지 부하, 공급망 흐름, 재정 규모 등 어디에나 존재합니다. Mistral의 주장은 이것이 기초 모델 기술이 거의 도달하지 못한 곳이라는 것입니다. ARIMA와 같은 기존 도구는 단일 시리즈에 적합하며 PatchTST와 같은 딥 러닝 모델은 일반적으로 데이터 세트별로 처음부터 훈련되므로 아무것도 새 도메인으로 이전되지 않습니다.
Timestral은 언어 모델에서 사전 훈련 플레이북을 가져와 이를 숫자 시퀀스에 적용합니다. 크고 다양한 코퍼스에 대해 교육을 받은 이 시스템은 레이블이 지정된 기록이 부족한 도메인을 포함하여 본 적이 없는 데이터에 대해 제로 샷을 예측합니다.
모델은 21개 분위수에 걸쳐 확률적 다변량 예측을 생성하고 과거 전용 공변량, 생산 일정이나 일기 예보와 같은 알려진 미래 공변량, 일반 숫자로 인코딩하면 왜곡될 기계 상태(실행 중, 유휴 상태, 유지 관리 중)와 같은 범주형 공변량 등 세 가지 종류의 부가 정보를 받아들입니다.
CPU 경제학
아마도 상업적으로 가장 중요한 세부 사항은 Timestral이 추론 시 GPU가 필요하지 않다는 것입니다. Mistral은 스레드가 8개인 표준 서버 CPU에서 15분 기록의 3주 후 하루를 예측하는 데 5M 모델의 경우 10밀리초, 209M 모델의 경우 140밀리초가 걸린다고 말합니다. 123M 변형은 지연 시간의 3/4에서 플래그십 점수의 0.2% 이내입니다.
이는 산업 공장의 전체 차량인 수천 개의 센서에 대한 지속적인 예측을 GPU 클러스터 프로젝트가 아닌 주류 하드웨어 제안으로 만듭니다.
심층 분석: 4가지 기술적 베팅
Mistral은 향후 기술 보고서에서 자세히 설명할 여러 기술에 대한 결과를 인정합니다.
- DHF(분리된 지평선 예측). Toto 2.0 및 TimesFM-3과 같은 인과 디코더 접근 방식에서는 예측할 값이 마스크되어 컨텍스트로 손실됩니다. DHF는 학습된 예측 토큰이 이를 읽는 동안 전체 기록을 시퀀스에 유지하므로 관찰된 모든 값은 목표와 컨텍스트 역할을 하며 실제 격차는 누락된 것으로 표시됩니다.
- 공변량 인식 주의. 각 입력 시리즈에는 역할(목표, 과거 전용 공변량 또는 알려진 미래 공변량)이 할당되어 공변량에서 목표로만 정보가 흐르므로 휴일 달력은 목표 자체의 미래를 유출하지 않고 예측을 알릴 수 있습니다.
- 합성 우선 데이터. 훈련 데이터의 대부분은 합성 데이터입니다. 일관성 있는 추세, 계절성 및 노이즈가 있는 단변량 프로세스가 이들 사이에 비선형 종속성을 도입하는 다변량 합성기에 의해 결합되었습니다.
- 2단계 교육. 8,192개 컨텍스트에서 순수 합성 데이터에 대한 사전 교육을 실시한 다음 CRPS의 이산 근사치로 21분위에 대한 핀볼 손실을 사용하여 4배 더 긴 컨텍스트로 실제 데이터와 합성 데이터를 혼합하여 사후 교육합니다.
개방형 무게, Air-Gapped 배포
이 제품군은 5M, 28M, 123M, 209M 매개변수의 네 가지 크기로 제공되며 컨텍스트 길이는 32,768 시간 단계입니다. 가중치는 수정된 MIT 라이선스에 따라 Hugging Face에 게시되었으며 Mistral은 개인 데이터에 대한 모델을 실행하기 위한 GitHub 저장소를 출시했습니다. 전체 기술 보고서가 뒤따를 것을 약속합니다.
더 많은 것이 필요한 기업의 경우 Timestral은 회사의 교육 파이프라인인 Mistral Forge를 통해 사용할 수 있으며 독점 데이터에 대한 미세 조정, 도메인별 아키텍처 확장 및 교육 혼합 제어를 지원하며 에어 갭 환경을 포함한 고객 하드웨어에 배포됩니다. Mistral은 파이프라인이 백테스팅 중에 확인된 어떤 것도 사전 훈련 데이터에 포함되지 않았음을 보장할 수 있다고 명시적으로 밝혔습니다. 이는 규제 대상 금융 및 산업 고객에게 주목할 만한 주장입니다.
회사는 또한 모델에 대한 에이전트적 미래를 스케치합니다. Timestral은 센서 스트림을 관찰하고, 펌프의 이상 징후를 표시한 다음 유사한 역사적 오류를 검색하는 언어 모델 에이전트에 전달하고, 유지 관리 기록 및 교대 로그에 대한 근본 원인 분석을 실행하고, 공장 관리자를 위한 진단 초안을 작성합니다.
중요한 이유
이번 출시는 기초 모델 경쟁이 단지 1조 매개변수 LLM에 관한 것이 아니라는 점을 상기시켜줍니다. 예측은 업계에서 가장 많은 양의 AI 워크로드 중 하나이며, CPU에서 실행되는 동안 공개 벤치마크를 선도하는 209M 매개변수 모델은 실제 예산에 변화를 줄 수 있습니다. 또한 210억 유로의 가치로 30억 유로의 투자를 유치한 파리 기반 연구소가 주권, 효율성 및 온프레미스 배포를 중심으로 유럽 AI를 포지셔닝하는 순간 언어 모델을 넘어 Mistral의 포트폴리오를 다양화합니다. 모든 상자는 Timestral이 설계별로 확인합니다.
_이 기사는 2026년 10월 15일 Mistral의 공식 Timestral 발표 내용을 바탕으로 작성되었습니다._
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →