O presidente-executivo da Qualcomm diz que as maiores empresas de IA estão lhe pedindo algo que os smartphones atuais não conseguem fazer: executar modelos de 100 bilhões de parâmetros no próprio telefone, continuamente, até 2028.

Falando em uma entrevista em 8 de outubro, relatada pela Fortune e divulgada esta semana por veículos como TOKENPOST e Startup Fortune, Cristiano Amon disse que várias empresas de IA – cujos nomes ele se recusou a fornecer – estão pressionando por smartphones que possam manter um modelo de 100 bilhões de parâmetros funcionando 24 horas por dia. Para os leitores que acompanham a mudança da IA ​​da nuvem para os bolsos e pulsos, é o sinal de demanda mais claro até agora, e nossa seção notícias sobre hardware de IA rastreia o próximo passo desse impulso.

A demanda vem dos laboratórios de IA, não do roteiro da Qualcomm

O número é importante devido à sua origem. Amon não estava anunciando o objetivo do produto da própria Qualcomm; ele estava transmitindo o que os laboratórios de IA estão dizendo ao maior fabricante de chips móveis do mundo que desejam construir. Os principais chips de hoje ficam muito abaixo desse número – o Snapdragon 8 Elite Extreme Gen 6, a plataforma móvel mais avançada da Qualcomm, pode executar modelos mistos de especialistas acima de 30 bilhões de parâmetros no dispositivo, com uma janela de contexto de aproximadamente 32.000 tokens.

Um modelo de 100 mil milhões de parâmetros a funcionar sem parar é mais do que o triplo desse limite máximo e altera o problema de engenharia em espécie, não apenas em grau. Como observa o relatório da Startup Fortune, o pedido não é para uma versão maior do assistente que as pessoas já usam. É para IA agêntica: software que observa, raciocina e age em nome do usuário em vez de esperar por um prompt, o que significa que o modelo tem que permanecer residente na memória e continuar fazendo inferências em segundo plano o dia todo, sem cozinhar a bateria ou o chassi.

Por que a memória é o gargalo

A lacuna entre 30 bilhões e 100 bilhões de parâmetros é fundamentalmente um problema de memória. Os pesos dos modelos no dispositivo precisam residir na RAM, e triplicar a contagem de parâmetros, ao mesmo tempo em que mantém a inferência em execução continuamente, multiplica a largura de banda da memória e as demandas de energia de uma forma que o hardware carro-chefe atual nunca foi projetado para absorver.

Amon reconheceu que o fornecimento de chips de memória para smartphones está sob uma “restrição temporária” – a mesma escassez que elevou os preços dos telefones em toda a indústria este ano – mas ele enquadrou isso como uma pressão que forçará designs de chips com maior eficiência de memória, em vez de simplesmente mais memória. Isso acompanha as escolhas recentes de silício da Qualcomm: o 8 Elite Extreme Gen 6 emparelha seu NPU Hexagon com um novo Element Accelerator e um pool de memória compartilhada maior especificamente para manter a latência e o consumo de energia sob controle para inferência de mistura de especialistas no dispositivo.

Os chips que precisam preencher a lacuna

A atual geração principal da Qualcomm – o Snapdragon 8 Elite Gen 6 e 8 Elite Extreme Gen 6, construído em um processo de 2 nm – está programada para alimentar os principais telefones de 2027 da Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo e Xiaomi, com dispositivos como a classe Samsung Galaxy S27 esperados no topo de linha. Se a lista de desejos da indústria de IA para 2028 for atendida, é esse ciclo de chip e o seguinte que terá que fornecer a arquitetura de memória, as térmicas e a eficiência da bateria para manter vivo um modelo em escala de fronteira no bolso da camisa.

Amon também disse, de acordo com reportagem da Fortune, que a Qualcomm está trabalhando com quase todos os principais players de IA em projetos de hardware não divulgados, incluindo categorias de dispositivos além dos telefones. Isso é consistente com a postura recente da empresa de posicionar o silício Snapdragon como a camada de inferência padrão para IA de ponta onde quer que ela chegue – telefones, carros, PCs e óculos.

O que a IA contínua no dispositivo realmente significaria

Se as empresas de IA conseguirem o que pedem, a mudança será estrutural e não cosmética. Um modelo que funciona o dia todo em segundo plano pode observar o contexto, antecipar necessidades e agir sem uma viagem de ida e volta a um data center — o que implica menor latência, melhor privacidade e nenhum custo por consulta na nuvem. Também implica telefones com memória maior, mais rápida e que consome mais energia do que os carros-chefe atuais, em um mercado onde o preço da memória já está esticado.

Há um ceticismo saudável a ser aplicado aqui. Os executivos de chips já fizeram previsões ousadas de IA no dispositivo antes, e 2028 está longe o suficiente para que a afirmação funcione em parte como uma posição de negociação com fornecedores de memória, fabricantes de telefones e os próprios laboratórios de IA. Mas a direção da solicitação é notável: desta vez, as empresas de IA não estão pedindo GPUs em nuvem mais rápidas. Eles estão pedindo um telefone que nunca pare de pensar.

Quer os clientes da Qualcomm enviem esse dispositivo em 2028 ou mais tarde, o gargalo a ser observado não são os parâmetros – é a largura de banda da memória por watt. A empresa que resolver isso, em Redmond, San Diego ou Taipei, será dona da próxima definição de telefone carro-chefe.

Fique à frente da IA

Guerras de chips, lançamentos de modelos e avanços de IA de ponta – cobertos sem exageros.

Leia mais notícias sobre IA →