Liquid Foundation Models 라인 뒤의 MIT 분사인 Liquid AI는 회사가 전화, 노트북, 로봇 및 기타 엣지 하드웨어에 "특수 지능"이라고 부르는 기능을 제공하기 위해 구축된 차세대 개방형 모델인 LFM3을 화요일에 발표했습니다. 이 릴리스에는 2B 매개변수 범위의 6개 모델(텍스트, 비전, 오디오, 옴니 및 2가지 의사결정 모델)이 모두 포함되며 모두 공유 LFM3-1.7B-Base 백본에서 분기되었으며 현재 Hugging Face, Liquid AI Playground 및 회사 API에서 사용할 수 있습니다.

에이전트를 위해 재설계된 삼중 하이브리드 아키텍처 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

LFM2는 짧은 컨볼루션과 Attention의 하이브리드가 많은 품질을 포기하지 않고 기기 내에서 빠르게 실행될 수 있음을 확인했습니다. LFM3의 경우 Liquid AI는 에이전트 워크로드를 염두에 두고 자동화된 hardware-in-the-loop 아키텍처 검색을 다시 실행하여 검색 공간을 전화기 한 대와 노트북 한 대의 CPU에서 14개 장치 및 백엔드 조합으로 확장했습니다. 이제 측정된 하드웨어에는 Samsung Galaxy S26 Ultra, OnePlus 15, Raspberry Pi 5, Apple의 M4 Max, AMD Ryzen AI 노트북, Arm 및 x86 클라우드 CPU, GPU, Qualcomm의 Hexagon NPU가 포함됩니다.

결과는 24개 레이어의 "삼중 하이브리드" 스택입니다. 즉, 13개의 게이트된 짧은 컨볼루션 레이어, 256개의 토큰 창이 있는 5개의 슬라이딩 윈도우 어텐션 레이어, 6개의 글로벌 어텐션 레이어입니다. 컨볼루션 커널 크기는 3에서 7로 증가했으며, 새로운 메커니즘에는 헤드별 게이트 주의(개별 헤드를 끌 수 있는 시그모이드 게이트), 글로벌 레이어의 부분 RoPE 및 샌드위치 정규화가 포함됩니다. 회사는 이러한 변화가 긴 맥락의 추론을 빠르게 유지하면서 중요한 곳에 표현성을 추가한다고 말합니다.

22조 개의 토큰 훈련

LFM3-1.7B-Base는 LFM2보다 더 많은 과학 논문, 저장소 수준 코드 및 수학을 추가하는 데이터 혼합을 통해 22조 개의 토큰에 대해 사전 훈련되었습니다. 최종 3조 5천억 개의 토큰은 에이전트 추적 및 다양한 도구 호출이 많은 엄선된 고품질 데이터에 대한 중간 훈련 단계를 형성하며, 해당 단계는 컨텍스트 창을 256,000개 토큰으로 확장합니다.

사후 훈련은 4단계를 거쳐 진행되었습니다. 채팅, 추론, 도구 호출을 포괄하는 1조 7500억 개의 토큰에 대한 미세 조정 감독; 수학, 코드, SQL 및 구조화된 출력 전반에 걸친 혼합 강화 학습 6명의 전문 RL 교사(코드, 수학, 도구 사용, 장기 컨텍스트, 에이전트 작업 및 엔터프라이즈 워크플로)가 다시 하나의 모델로 추출되는 다중 도메인 정책 증류; 웹 브라우징부터 사무까지의 작업이 Hermes Agent, Pi, OpenClaw와 같은 실제 에이전트 하네스 내에서 실행되는 에이전트 RL이 있습니다.

작은 모델, 프론티어에 인접한 에이전트 결과

Liquid AI는 LFM3-1.7B가 이전 LFM2.5-2.6B보다 성능이 뛰어나면서도 35% 더 적은 매개변수를 사용한다고 주장합니다. 에이전트 평가에서 회사는 이 모델이 BFCL 및 ToolSandbox의 명령 따르기 및 함수 호출에서 앞서고 WebArena-Verified 및 AutomationBench의 장거리 브라우저 및 비즈니스 앱 작업에서 훨씬 더 큰 Qwen3.5-9B를 능가한다고 말합니다. 더 큰 모델은 여전히 ​​에이전트 코딩 및 지식에서 승리하지만 회사는 도구 검색이 Humanity's Last Exam에서 작은 모델의 점수를 거의 두 배로 늘린다고 보고합니다.

속도가 핵심입니다. Liquid AI는 4비트 양자화 및 32K 컨텍스트에서 llama.cpp를 사용하여 측정한 결과 LFM3-1.7B가 테스트된 세 가지 엣지 장치 모두에서 가장 빠른 모델이라고 밝혔으며, 가장 적은 메모리를 사용하면서 다음 경쟁사보다 1.8~2.8배 더 빠르게 디코딩했습니다. 전체 128K 토큰 컨텍스트에는 Qwen3.5-4B의 경우 4.3GB, MiniCPM5-2B의 경우 5.6GB에 비해 약 1.6GB의 KV 캐시가 필요하며 모델은 4비트 정밀도에서 약 1GB의 메모리에 적합합니다. 데이터 센터에서 BF16에서 SGLang을 실행하는 단일 NVIDIA B300은 1,024개의 동시 요청으로 하루 36억 개의 토큰을 생성할 수 있는 것으로 알려졌습니다. 이러한 처리량이 무엇을 가능하게 하는지 보여주기 위해 Liquid AI는 Enron 이메일 아카이브를 통해 300,000개 이상의 병렬 LFM3-1.7B 에이전트를 데모로 실행했습니다.

비전, 오디오 및 최초의 옴니 모델

LFM3-VL-2B는 Liquid AI에 따르면 이전 LFM 비전 모델의 SigLIP2 인코더보다 3배 적은 컴퓨팅을 사용하는 동시에 Qwen3.5-2B의 인코더 정확도를 2.2배 적은 FLOP로 일치시키는 1억 6400만 개의 매개변수를 갖춘 새로운 사내 비전 인코더를 제공합니다. 62개의 비전 벤치마크에서 2B 모델은 모든 유사한 크기의 모델보다 최소 7.4점 앞서며, 6배 이상 큰 모델인 Gemma 4 12B와 일치하며 Gemini 3.5 Flash Lite를 능가하고 GPT-5.6 Luna와 2점 이내의 점수를 얻었습니다. 또한 비디오 입력을 수용하는 최초의 LFM 비전 모델이기도 합니다.

LFM3-Audio-2B는 생성된 토큰을 단일 CPU 스레드에서 실시간으로 약 87배 속도로 음성으로 변환하는 LiquidCodec이라는 토크나이저와 새로운 사내 인코더를 기반으로 18개 언어에 대한 음성 인식, 합성 및 번역을 처리합니다. 스트리밍 마이크 입력을 사용하면 첫 번째 토큰에 걸리는 시간이 50밀리초까지 낮아질 수 있습니다.

22억 개의 매개변수를 갖춘 LFM3-Omni-2B는 비전, 오디오 및 언어를 결합한 회사 최초의 옴니 모델이므로 사용자는 동기화된 사운드가 포함된 이미지 또는 비디오에 대해 음성으로 질문할 수 있습니다. 두 가지 결정 모델인 d1-2B 및 d1-Omni-2B는 계열을 마무리합니다. 자유 형식 답변을 생성하는 대신 단일 전달 패스에서 각각 보정된 확률을 사용하여 많은 입력 또는 음성 질문에 답변하고 점(경계 상자 그리기), 읽기, 추정 및 선택과 같은 구조화된 답변 유형을 지원합니다.

전문화되도록 제작됨

Liquid AI는 가족을 범용 프론티어 모델이 아닌 미세 조정의 출발점으로 자리매김합니다. 한 시연에서 회사는 결함을 분류하기 위해 약 3,000장의 풍력 터빈 블레이드 공개 사진에서 LFM3-VL-2B를 미세 조정했습니다. LFM3-VL-2B와 GPT-6 Luna는 기본적으로 테스트 이미지의 10% 미만에서 결함 유형을 올바르게 식별했습니다. 단일 A100에서 몇 시간 동안 훈련한 후 미세 조정된 LFM3은 67%의 분류 정확도에 도달했으며 탐지 F1은 GPT-6 Luna의 0.01에 비해 0.003에서 0.11로 향상되었습니다. 또한 이 회사는 도구 조정, 비전 언어 탐색 및 낮은 수준의 로봇 팔 조작을 다루는 초기 로봇 공학 실험을 발표했습니다.

Day-Zero 출시 파트너에는 Ambarella, AMD, Arm, OpenVINO를 통한 Intel, NVIDIA, OpenRouter, AI Hub 및 GenieX를 통한 Qualcomm, Vercel이 포함되며 Mercedes-Benz와 Shopify가 사전 출시 테스트에 참여합니다. llama.cpp, MLX, LM Studio, Ollama 및 vLLM을 포함한 커뮤니티 런타임은 출시 시 모델을 지원합니다.

이 릴리스는 더욱 광범위한 산업 분할을 강조합니다. 개척 연구실이 점점 더 큰 일반 모델을 추구함에 따라 Liquid AI는 작고 빠르며 전문화된 모델(하나의 GPU에서 미세 조정할 수 있을 만큼 저렴하고 로컬에서 실행할 수 있을 만큼 작은 모델)이 실질적인 가치의 상당 부분을 차지할 것이라고 확신합니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →