A Qualcomm lançou o Cloud AI 100 Ultra, um acelerador de inferência de data center que oferece até 870 TOPS de desempenho INT8 e 288 TFLOPS de computação FP16, consumindo apenas 150 watts – uma fração do envelope de energia das GPUs que atualmente dominam a inferência de IA generativa.
O cartão, listado na página oficial do produto de data center da Qualcomm e detalhado na cobertura do lançamento, foi projetado especificamente para IA generativa e cargas de trabalho de modelos de linguagem grandes. Isto posiciona o gigante dos chips móveis como um desafiante direto no mercado de inferência, onde a procura está a aumentar à medida que as empresas implementam agentes de IA, copilotos e aplicações de recuperação aumentada em escala. Para obter mais contexto sobre a corrida de hardware de IA, consulte nossa cobertura de notícias sobre IA.
As especificações: SRAM primeiro, DRAM segundo
No coração do Cloud AI 100 Ultra estão 64 núcleos de IA e 576 MB de SRAM on-die. A aposta da Qualcomm é que manter os pesos e ativações dos modelos fisicamente próximos das unidades de computação – em vez de enviar cada token para a memória externa – compensa para os modelos baseados em transformadores, que vivem e morrem na largura de banda da memória.
A placa ainda carrega 128 GB de memória LPDDR4x com 548 GB/s de largura de banda para modelos maiores e contextos mais longos, conectada via PCIe Gen4 com 16 pistas. Essa combinação – grande SRAM on-die mais um modesto consumo de energia de 150 W – é o diferencial da placa. As GPUs de data center da Nvidia normalmente variam de 300 W a 700 W, e cada watt é importante quando a inferência é cobrada por token e a energia do data center é o recurso mais contestado do setor.
“O Cloud AI 100 Ultra é uma solução de inferência de IA com desempenho e custo otimizados”, disse a empresa em seus materiais de produto, enfatizando a programabilidade em cargas de trabalho que vão desde visão computacional até processamento de linguagem natural.
Software: uma rampa de acesso compatível com OpenAI
O hardware nunca foi um problema da Qualcomm no data center; software tem. A empresa está abordando isso com seu AI Inference Suite, uma camada de software que expõe APIs compatíveis com OpenAI para a construção de chatbots, copilotos e agentes de IA.
A suíte oferece suporte a chat, geração de imagens, modelos multimodais e fluxos de trabalho de geração aumentada de recuperação (RAG), e é implantada via Kubernetes ou contêineres bare-metal. A Qualcomm também fornece ferramentas de gerenciamento e administração de usuários – uma adição nada glamorosa que muitas vezes falta nas ofertas de aceleradores brutos, mas que as equipes de TI corporativas pesam muito quando movem cargas de trabalho internamente.
A superfície da API compatível com OpenAI é estrategicamente importante: permite que os desenvolvedores apontem pipelines existentes ligados ao OpenAI para o hardware da Qualcomm com uma mudança de configuração em vez de uma reescrita, reduzindo o custo de comutação que protegeu a incumbência neste mercado.
Um campo lotado com um líder claro
A Qualcomm entra em um mercado de inferência que se tornou o campo de batalha do ciclo de hardware de IA. L40S e H100 da Nvidia dominam; O MI300X da AMD e o Gaudi 3 da Intel têm como alvo as mesmas cargas de trabalho; e o silício especializado da Groq e Cerebras conquistou nichos na velocidade de inferência bruta.
O lado da demanda explica a confusão. Servir agentes de IA e pipelines RAG multiplica o número de chamadas de modelo geradas por uma única sessão de usuário, e cada uma dessas chamadas é um problema de inferência a ser resolvido com o menor custo possível por token. Os hiperescaladores compram racks de GPUs principais para lidar com isso; as empresas abaixo delas procuram hardware que caiba num servidor padrão, num circuito de energia padrão, sem renegociar os seus contratos de electricidade.
O argumento da Qualcomm é o custo total de propriedade, e não o desempenho máximo. Para empresas que executam inferência em escala, o consumo de energia flui diretamente para os custos operacionais, e uma placa que oferece rendimento competitivo de 150 W prejudica a economia das GPUs de força bruta. O treinamento continua sendo domínio da Nvidia – o Ultra não faz nenhuma reivindicação sobre isso – mas a inferência é onde a economia da unidade da indústria é realmente decidida, e é a carga de trabalho que a maioria das empresas executará, seja em um cluster local ou em uma gaiola de colocation.
O ecossistema de software continua sendo uma batalha difícil. A plataforma CUDA da Nvidia ainda é a escolha padrão para a maioria dos desenvolvedores de IA e, embora as APIs compatíveis com OpenAI reduzam a barreira de entrada, elas não eliminam o retrabalho necessário para pipelines de inferência personalizados.
Onde se encaixa na programação da Qualcomm
O Ultra está no topo da linha de inferência da Qualcomm, que também inclui o Cloud AI 80 Ultra (até 618 TOPS de INT8 com os mesmos 576 MB de SRAM), o Cloud AI 100 Pro e o Cloud AI 100 Standard, que visa implantações de borda e de menor escala com envelopes de energia de 75W.
O lançamento representa a geração atual do roteiro de data center Dragonfly da Qualcomm, que a empresa vem desenvolvendo para cargas de trabalho de IA em escala de nuvem – e que agora dá à Qualcomm um argumento para empresas que desejam executar inferência generativa de IA no local, em vez de na nuvem pública, seja por razões de custo, latência ou governança de dados.
A aposta, em uma frase
A Qualcomm aposta que, à medida que a IA passa de um punhado de hiperescaladores para milhares de empresas, o cartão de inferência vencedor não será o mais rápido, mas o mais eficiente. O Cloud AI 100 Ultra é esse argumento em silício; se os desenvolvedores seguem os watts permanece uma questão em aberto.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
