DeepSeek lançou DSpark, uma estrutura de decodificação especulativa de código aberto que, segundo a empresa, acelera a inferência de modelo de linguagem grande (LLM) em até 85% sob tráfego ao vivo, sem qualquer perda na qualidade de saída. Descrito em um novo artigo da DeepSeek-AI e da Universidade de Pequim, o sistema já está sendo executado dentro da infraestrutura de serviço DeepSeek-V4 que lida com solicitações reais de usuários.
O trabalho aborda um dos problemas mais persistentes na IA de produção: a inferência é lenta porque os modelos geram texto, um token por vez, cada um exigindo uma passagem completa pela rede. A decodificação especulativa é um remédio popular no qual um modelo de "rascunho" pequeno e rápido propõe um bloco de tokens que o modelo em tamanho real verifica em uma única passagem, aceitando o prefixo correto mais longo. Como a verificação é paralela e matematicamente exata, ela acelera as coisas e ao mesmo tempo preserva a distribuição do modelo original. DSpark, lançado junto com o repositório de treinamento DeepSpec no GitHub, rapidamente se tornou uma das histórias de engenharia de IA mais discutidas no Hacker News. Para mais contexto sobre esta história, confira nossa notícias de IA.
Por que a decodificação especulativa existente atinge um muro
Pesquisas recentes de decodificação especulativa avançaram em direção a "redatores paralelos" que geram um bloco inteiro de tokens candidatos em uma única passagem direta, tornando a latência do rascunho quase independente do tamanho do bloco. O documento da DSpark identifica dois gargalos que impediram que esses métodos cumprissem sua promessa em grande escala.
O primeiro é um problema de qualidade. Como os redatores paralelos prevêem cada posição de forma independente, eles não podem modelar como os tokens dentro de um bloco dependem uns dos outros. Os pesquisadores mostram que isso leva a “colisões multimodais” e à rápida deterioração da aceitação em posições posteriores em um bloco de rascunho, um fenômeno que eles chamam de decaimento do sufixo. Quanto mais longo o bloco paralelo, maior a probabilidade de sua cauda estar errada.
O segundo é um problema de nível de sistema. Embora a geração de blocos de rascunho longos seja barata, a verificação cega de cada token proposto desperdiça a escassa capacidade de lote em tokens que provavelmente serão rejeitados. Sob a alta simultaneidade de um sistema de serviço real, a duração ideal da verificação varia em dois eixos: solicitações estruturadas como código sustentam taxas de aceitação mais altas do que bate-papo aberto, e a verificação de tokens extras é quase gratuita sob carga leve, mas cara quando o sistema está saturado.
Um modelo de rascunho semi-autoregressivo
Para corrigir a deterioração do sufixo, o DSpark adota o que os autores chamam de arquitetura semi-autoregressiva. Ele acopla um backbone paralelo computacionalmente pesado, que pode propor muitos tokens ao mesmo tempo, com um módulo sequencial leve que introduz modelagem de dependência intra-bloco. O projeto pretende combinar a alta capacidade dos modelos paralelos nas posições iniciais com a coerência de sufixo dos redatores autorregressivos tradicionais, que geram tokens um após o outro e respeitam naturalmente as dependências.
Em benchmarks off-line controlados que abrangem raciocínio matemático, geração de código e bate-papo diário, a equipe relata que o DSpark melhora substancialmente a duração aceita por ciclo de verificação em linhas de base sólidas. Especificamente, o artigo afirma que o DSpark melhora o comprimento aceito em relação ao redator autoregressivo Eagle3 em 30,9%, 26,7% e 30,0% em três configurações, e em relação ao redator DFlash paralelo em 16,3%, 18,4% e 18,3%.
Verificação agendada com confiança e com reconhecimento de carga
A metade mais inovadora do DSpark é sua abordagem de verificação. Em vez de verificar um número fixo de tokens de rascunho para cada solicitação, o DSpark formula a seleção do comprimento da verificação como um problema global de maximização do rendimento. Ele combina estimativas calibradas de quanto tempo o prefixo de um rascunho provavelmente sobreviverá, o que o jornal chama de probabilidades de sobrevivência, com um escalonador com reconhecimento de hardware que lê a carga do motor em tempo real.
O resultado é uma verificação agendada com confiança: o sistema adapta dinamicamente quantos tokens verifica para cada solicitação com base no conteúdo da solicitação e no estado atual do mecanismo de atendimento. Sob cargas leves, ele pode realizar verificações generosas, enquanto sob alta simultaneidade ele direciona o orçamento de verificação do modelo de destino apenas para tokens com o maior retorno esperado, evitando o colapso do rendimento resultante do gasto da capacidade do lote em tokens de baixa probabilidade.
Resultados sob tráfego de usuários ao vivo
Os números mais importantes vêm da produção. A equipe implantou o DSpark dentro do sistema de serviço DeepSeek-V4 que atende ao tráfego de usuários ao vivo e o comparou com a linha de base de produção anterior da empresa, um método de previsão de vários tokens conhecido como MTP-1.
De acordo com o artigo, o DSpark acelera consistentemente as velocidades de geração por usuário em 60% a 85% para DeepSeek-V4-Flash e em 57% a 78% para DeepSeek-V4-Pro com taxa de transferência agregada correspondente. Sob rigorosos acordos de nível de serviço onde a capacidade da linha de base se deteriora severamente, o equivalente a 120 tokens por segundo para Flash e 50 tokens por segundo para Pro, o DSpark mitiga a sobrecarga de verificação para manter um rendimento robusto. Ao superar esse abismo de desempenho, os autores argumentam que isso desbloqueia níveis estritos de interatividade que antes eram inatingíveis, mudando efetivamente a fronteira de Pareto do serviço LLM para o exterior.
Essa distinção é importante para os operadores. Uma velocidade mais rápida por usuário com a mesma taxa de transferência total significa assistentes mais responsivos e fluxos de trabalho de agente sem comprar mais hardware, enquanto sobreviver a SLAs de latência estritos sob carga é o que separa uma demonstração de pesquisa de um sistema que pode resistir durante picos de tráfego.
Código aberto para a comunidade
DeepSeek está lançando os pontos de verificação DSpark treinados para os modelos de visualização DeepSeek-V4-Flash e DeepSeek-V4-Pro. O repositório DeepSpec que o acompanha, publicado sob a licença permissiva do MIT, é descrito como uma base de código de avaliação e treinamento full-stack orientado por algoritmo para decodificação especulativa. Inclui utilitários de preparação de dados, implementações de modelos de rascunho, scripts de treinamento e equipamentos de avaliação, e vem com três algoritmos de modelo de rascunho: DSpark, DFlash e Eagle3.
O lançamento reduz a barreira para que outros laboratórios e equipes de infraestrutura treinem e comparem seus próprios modelos preliminares com um pipeline padronizado. O conjunto de avaliação da DeepSpec abrange benchmarks estabelecidos, incluindo GSM8K, MATH500, AIME 2025, HumanEval, MBPP, LiveCodeBench, MT-Bench, AlpacaEval e Arena-Hard-v2.
Por que é importante
O custo de inferência e a latência estão agora entre as restrições que definem a indústria de IA, moldando tudo, desde a agressividade com que as empresas implantam agentes de IA até se os provedores menores podem competir com hiperscaladores na economia unitária. A contribuição do DSpark é menos um único novo algoritmo do que uma demonstração de que co-projetar cuidadosamente o modelo preliminar e o agendador de verificação, e tratar a duração da verificação como uma função do estado do sistema ativo, pode mover significativamente a agulha em implantações reais.
Para a DeepSeek, que construiu sua reputação com base em sistemas eficientes e lançados abertamente, o DSpark é outro ponto de dados em um argumento que o laboratório vem defendendo há mais de um ano: que o desempenho de serviço de nível de fronteira pode ser alcançado por meio de engenharia mais inteligente, e não apenas por meio de computação bruta. O facto de os ganhos terem sido medidos com base no tráfego em tempo real, e não num benchmark sintético, torna o resultado mais fácil de ser levado a sério por outros operadores, à medida que a comunidade de código aberto digere o documento e começa a reproduzir os números.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
