Cerebras Systems는 세대 속도를 희생하지 않고 메가와트당 5배 더 많은 토큰을 제공한다고 주장하는 구성으로 기존 GPU와 웨이퍼 규모 프로세서 간에 AI 추론 워크로드를 분할하여 분리된 추론을 생산에 투입했다고 밝혔습니다.

2026년 11월 17일 회사 블로그에 게시된 이 발표는 웨이퍼 스케일 엔진을 GPU 기반 추론의 보완재가 아닌 대안으로 포지셔닝하는 데 수년을 보낸 회사에 있어서 주목할만한 변화입니다. 이제 Cerebras는 GPU가 신속한 처리 단계를 처리하고 자체 시스템이 토큰 생성 단계를 처리한다고 말합니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

추론을 둘로 분할하는 이유는 무엇입니까?

추론은 두 단계로 이루어집니다. Prefill은 사용자의 프롬프트를 처리하고 중간 모델 상태를 생성합니다. 그런 다음 디코드는 해당 상태를 사용하여 응답의 모든 단어에 대해 반복되는 자동 회귀 루프에서 한 번에 하나씩 출력 토큰을 생성합니다.

두 단계는 매우 다른 계산 프로필을 가지고 있습니다. 미리 채우기는 계산량이 많고 병렬적이므로 GPU가 탁월합니다. 디코드는 메모리 대역폭에 제한되고 순차적입니다. Cerebras는 웨이퍼 규모 아키텍처가 이점을 갖고 있다고 주장합니다. 전체 모델이 생성 중에 GPU 클러스터를 느리게 만드는 칩 간 통신 없이 단일 실리콘 조각에 위치할 수 있기 때문입니다.

회사는 작업 부하를 분할하는 다른 방법을 실험했습니다. 블로그 게시물에서 Cerebras는 작은 모델이 토큰을 제안하고 더 큰 모델이 이를 검증하는 초안 대상 체계와 고려한 대안 간의 주의 FFN 분리를 나열합니다. 그러나 디코드 단계에서는 Cerebras의 시그니처인 초고속 생성 속도를 그대로 유지하기 때문에 프리필과 디코드를 분리하는 것이 대화형 애플리케이션에 고유하게 적합하다고 주장합니다.

주장 뒤에 숨은 숫자

발표에 따르면, 분리된 구성은 이제 Cerebras Inference Cloud에 적용되며 회사가 이미 제공하고 있는 동일한 세대 속도로 메가와트당 5배 더 많은 토큰을 제공합니다. Cerebras는 인프라 파트너가 자체 데이터 센터에 동일한 분할 아키텍처를 배포할 수도 있다고 말합니다.

경제 논리는 간단하다. 추론 제공자는 토큰당 수익을 얻으며, 전력은 용량에 대한 구속력 있는 제약입니다. 동일한 메가와트가 토큰의 5배를 생산하는 경우 동일한 시설은 비례적으로 더 많은 수익 잠재력을 창출하며, 회사는 집계 및 분리된 서비스 구성을 비교하는 표를 통해 이를 설명합니다.

이번 발표는 또한 업계가 얻을 수 있는 모든 효율성 향상이 필요하다고 주장하기 위해 수요 예측에 의존하고 있습니다. Cerebras는 Goldman Sachs Research를 인용하여 2030년까지 AI 추론 수요가 2026년 수준에서 약 24배 증가할 것으로 예상되는 반면, 같은 기간 동안 데이터 센터 용량은 약 2.2배 증가하는 데 그칠 것이라고 밝혔습니다. 두 가지 예측이 모두 유지된다면 사용자가 실행하려는 것과 전력을 공급할 수 있는 시설 사이의 격차가 2020년대 후반 AI 구축의 결정적인 제약이 됩니다.

에이전트 애플리케이션이 위기를 주도합니다

회사는 수요 급증이 2026년에 빠르게 확장되는 에이전트 애플리케이션에 기인한다고 생각하며 Muse, Copilot 및 Codex를 사용자 참여를 유지하기 위해 고도의 대화형 추론이 필요한 제품의 예로 명명했습니다. 토큰별로 응답 토큰을 스트리밍하는 대화형 에이전트는 생성 속도가 백엔드 지표가 아닌 사용자 측 기능인 워크로드입니다.

Cerebras는 더 광범위한 용량 추진 내에서 출시를 결정합니다. 회사는 최근 발표한 CS-4 시스템, 제조 생산량의 극적인 확장, 약 700MW에 달하는 데이터 센터 용량 계획을 통해 회사와 파트너가 2027년 이후 훨씬 더 많은 트래픽을 처리할 수 있게 될 것이라고 지적합니다.

웨이퍼 규모를 위한 실용적인 전환

전략적으로 이번 발표는 GPU 우위를 실용적으로 수용한 것으로 읽혀집니다. Cerebras는 고객에게 전체 추론 파이프라인을 이국적인 실리콘으로 옮기도록 요청하는 대신 GPU가 최적화된 작업을 수행하고 웨이퍼 규모 하드웨어가 가장 잘 수행하는 작업을 수행하도록 하는 작업 분업을 제안하고 있습니다. 급증하는 수요와 전력 제약 사이에서 압박을 받는 추론 제공업체의 경우, 차세대 하드웨어를 기다리지 않고 추가할 수 있는 용량이 핵심입니다.

5배의 효율성 주장이 다양한 모델 아키텍처와 실제 트래픽 혼합 전반에 걸쳐 유지되는지 여부는 파트너가 대규모로 구성을 배포해야 명확해집니다. 그러나 여행 방향은 업계 전반에 걸쳐 명확합니다. 추론이 지배적인 컴퓨팅 워크로드로서 교육을 대체함에 따라 모든 주요 하드웨어 공급업체는 두 세대의 생성 단계를 어떻게 분할하고, 구동하고, 가격을 책정해야 하는지 재검토하고 있습니다.

GPU 기반 접근 방식과의 비교

주요 하이퍼스케일 추론 제공업체는 일반적으로 GPU 제품군의 두 단계를 각 목적에 맞게 조정하는 자체 분할 전략을 추구했습니다. Cerebras의 변형은 벤더 라인을 넘나드는 점에서 독특합니다. 회사는 AMD GPU가 생산 구성에서 사전 채우기 단계를 처리하고 Cerebras 시스템이 디코딩을 담당한다는 것을 확인했습니다. 이러한 이질성은 프리필과 디코드를 단일 통합 스택이 아닌 별도로 조달 가능한 상품으로 취급하기 때문에 운영자에게 중요합니다.

회사가 발표한 결과는 분할이 효율성을 위해 거래하는 것이 아니라 발전 속도를 보존한다는 점을 강조합니다. 이러한 구별은 분리된 제공에 대한 오랜 비판을 해결합니다. 사전 채우기를 개별적으로 일괄 처리하면 첫 번째 토큰에 지연 시간이 추가될 수 있으며, 디코드 루프를 느리게 하는 구성은 프리미엄 추론 서비스가 판매하는 대화형 느낌을 약화시킵니다. Cerebras는 다양한 프롬프트 길이와 트래픽 패턴에 대한 독립적인 벤치마크가 실제 테스트가 될 것이지만 자사의 배열이 두 가지 처벌을 모두 피할 수 있다고 주장합니다.

인프라 경주를 추적하는 AI Buzz Wire 독자들에게 Cerebras가 보내는 메시지는 단일 칩으로 모든 것에 적합한 추론 시대가 특수 목적 파이프라인으로 바뀌고 있으며 회사가 그 중 절반을 디코딩할 계획이라는 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →