Cerebras Systems dijo que ha puesto en producción la inferencia desagregada, dividiendo las cargas de trabajo de inferencia de IA entre las GPU convencionales y sus procesadores de escala de oblea en una configuración que, según la compañía, ofrece cinco veces más tokens por megavatio sin sacrificar la velocidad de generación.

El anuncio, publicado en el blog de la compañía el 17 de noviembre de 2026, marca un cambio notable para una compañía que ha pasado años posicionando su Wafer Scale Engine como una alternativa a la inferencia basada en GPU en lugar de un complemento. Ahora, Cerebras dice que las GPU manejan la etapa de procesamiento rápido, mientras que sus propios sistemas manejan la etapa de generación de tokens. Para más contexto sobre esta historia, consulta nuestra noticias de IA.

¿Por qué dividir la inferencia en dos?

La inferencia ocurre en dos etapas. Prefill procesa el mensaje del usuario y produce un estado de modelo intermedio. Luego, Decode usa ese estado para generar tokens de salida, uno a la vez, en un bucle autorregresivo que se repite para cada palabra de la respuesta.

Las dos etapas tienen perfiles computacionales muy diferentes. Prefill requiere mucha computación y es paralelo, que es donde sobresalen las GPU. La decodificación está ligada al ancho de banda de la memoria y es secuencial, que es donde Cerebras sostiene que su arquitectura a escala de oblea tiene la ventaja, ya que todo el modelo puede asentarse en una sola pieza de silicio sin la comunicación entre chips que ralentiza los grupos de GPU durante la generación.

La empresa había experimentado otras formas de dividir la carga de trabajo. En su publicación de blog, Cerebras enumera esquemas de objetivos preliminares, en los que un modelo pequeño propone tokens y uno más grande los verifica, y la separación de atención-FFN entre las alternativas que consideró. Pero sostiene que separar el prellenado de la decodificación es especialmente adecuado para aplicaciones altamente interactivas, porque la etapa de decodificación mantiene intactas las velocidades de generación ultrarrápidas características de Cerebras.

Los números detrás del reclamo

Según el anuncio, la configuración desagregada ahora está disponible en Cerebras Inference Cloud y entrega cinco veces más tokens por megavatio a las mismas velocidades de generación que la compañía ya estaba brindando. Cerebras dice que los socios de infraestructura también pueden implementar la misma arquitectura dividida en sus propios centros de datos.

La lógica económica es sencilla. Los proveedores de inferencia obtienen ingresos por token y el poder es la limitación vinculante de la capacidad. Si el mismo megavatio produce cinco veces más tokens, la misma instalación genera proporcionalmente más potencial de ingresos, lo que la compañía ilustra con una tabla que compara configuraciones de servicio agregadas y desagregadas.

El anuncio también se apoya en pronósticos de demanda para argumentar que la industria necesita todas las ganancias de eficiencia que pueda obtener. Citando a Goldman Sachs Research, Cerebras dice que se proyecta que la demanda de inferencia de IA crecerá aproximadamente 24 veces desde los niveles de 2026 para 2030, mientras que la capacidad del centro de datos crecerá sólo alrededor de 2,2 veces durante el mismo período. Si ambas proyecciones se cumplen, la brecha entre lo que los usuarios quieren ejecutar y lo que las instalaciones pueden alimentar se convierte en la limitación definitoria del desarrollo de la IA a finales de la década de 2020.

Las aplicaciones agentes impulsan la crisis

La compañía atribuye el aumento de la demanda a las aplicaciones agentes que crecerán rápidamente en 2026, y nombra a Muse, Copilot y Codex como ejemplos de productos que requieren una inferencia altamente interactiva para mantener a los usuarios interesados. Los agentes conversacionales que transmiten respuestas token por token son precisamente las cargas de trabajo donde la velocidad de generación es una característica de cara al usuario en lugar de una métrica de back-end.

Cerebras sitúa el lanzamiento dentro de un impulso de capacidad más amplio. La compañía señala su sistema CS-4 recientemente anunciado, una espectacular ampliación de su producción de fabricación y una capacidad planificada del centro de datos de aproximadamente 700 megavatios como las piezas que le permitirán a ella y a sus socios atender sustancialmente más tráfico en 2027 y más allá.

Un giro pragmático hacia la escala de oblea

Estratégicamente, el anuncio se lee como una adaptación pragmática del dominio de la GPU. En lugar de pedir a los clientes que trasladen procesos de inferencia completos a silicio exótico, Cerebras propone una división del trabajo: dejar que las GPU hagan aquello para lo que están optimizadas y dejar que el hardware a escala de oblea haga lo que mejor sabe hacer. Para los proveedores de inferencia atrapados entre el aumento de la demanda y las limitaciones de energía, el argumento es la capacidad que pueden agregar sin esperar hardware de nueva generación.

Sólo quedará claro si la afirmación de eficiencia quíntuple se mantiene en diversas arquitecturas de modelos y combinaciones de tráfico del mundo real a medida que los socios implementen la configuración a escala. Pero la dirección del viaje es clara en toda la industria. A medida que la inferencia reemplaza la capacitación como carga de trabajo informática dominante, todos los principales proveedores de hardware están reexaminando cómo se deben dividir, potenciar y fijar los precios de las dos etapas de la generación.

Cómo se compara con los enfoques nativos de GPU

Los principales proveedores de inferencia de hiperescala han seguido sus propias estrategias de desagregación, manteniendo ambas etapas de las familias de GPU ajustadas para cada propósito. La variante de Cerebras se distingue por cruzar líneas de proveedores: la compañía confirmó que las GPU AMD manejan la etapa de precarga en su configuración de producción, con los sistemas Cerebras responsables de la decodificación. Esa heterogeneidad es importante para los operadores, porque trata el precarga y la decodificación como productos que se pueden obtener por separado en lugar de una única pila integrada.

Los resultados publicados por la compañía enfatizan que la división preserva la velocidad de generación en lugar de cambiarla por eficiencia. Esa distinción aborda una crítica de larga data al servicio desagregado: el precargado por lotes por separado puede agregar latencia al primer token, y cualquier configuración que ralentice el ciclo de decodificación socava la sensación interactiva que venden los servicios de inferencia premium. Cerebras afirma que su acuerdo evita ambas penalizaciones, aunque la verdadera prueba serán puntos de referencia independientes en diferentes duraciones de avisos y patrones de tráfico.

Para los lectores de AI Buzz Wire que siguen la carrera de infraestructura, el mensaje de Cerebras es que la era de la inferencia de un solo chip está dando paso a tuberías especialmente diseñadas, y que la compañía tiene la intención de poseer la decodificación de la mitad de ellas.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →