Um novo tipo de modelo de IA fez sua estreia esta semana e faz algo incomum para um modelo construído na arquitetura de transformador: nunca produz uma palavra de texto. Jev, lançado pela startup TypeSafe AI, criada há dois anos, em vez disso, gera probabilidades calibradas – o que a empresa chama de decisões digitadas e calibradas – posicionando-se como uma alternativa barata e rápida a grandes modelos de linguagem para classificação, roteamento e trabalho de automação, de acordo com o TechCrunch.

A empresa foi fundada por Diogo Almeida, pesquisador da OpenAI que ajudou a construir o ChatGPT e contribuiu para a invenção da aprendizagem por reforço a partir de feedback humano (RLHF), a técnica de treinamento amplamente considerada por moldar a atual geração de assistentes de IA. A demanda pelo novo modelo foi intensa o suficiente para que o TypeSafe perdesse brevemente a capacidade de atender alguns usuários da API após o lançamento. Para mais contexto sobre esta história, confira nossa tendências de IA.

Por que um pioneiro do ChatGPT abandonou a linguagem

O caminho de Almeida para um modelo não textual começou com a decepção na OpenAI. “Temos um raio numa garrafa, mas não é útil”, disse Almeida ao TechCrunch, descrevendo a sua frustração porque, apesar das capacidades do ChatGPT, a tecnologia ficou aquém da verdadeira automação. "Tenho lutado contra esse problema desde então. Levei um tempo para chegar à conclusão: o problema é que estamos otimizando para a linguagem humana... Somos muito bons em linguagem humana há quatro anos, mas ela não é útil para automação porque os computadores falam uma linguagem diferente."

Há dois anos, Almeida deixou a OpenAI para fundar a TypeSafe AI e prosseguir essa tese. O resultado é Jev, um modelo baseado em transformador que a empresa insiste que não é um modelo de linguagem grande. Onde um LLM gera texto aberto, Jev retorna probabilidades através de um conjunto de resultados que o usuário define antecipadamente – um design que a empresa diz tornar a alucinação estruturalmente impossível, uma vez que o modelo só pode responder com as opções que lhe foram dadas.

Os ganhos de eficiência são uma parte essencial do campo. Os tokens de saída do Jev são gratuitos e os tokens de entrada são medidos em bilhões, e não em milhões, de acordo com o TechCrunch. A empresa descreve Jev como um “modelo System One”, focado na intuição e não no raciocínio, e diz que foi treinado exclusivamente em dados sintéticos usando uma técnica que Almeida chama de aprendizagem por reforço a partir de decisões calibradas.

TypeSafe manteve a arquitetura de Jev em segredo, embora observadores externos suspeitem que o sistema seja construído sobre um LLM de peso aberto. “Metade de [nossa empresa] é um laboratório que basicamente possui todo esse subcampo de dados sintéticos estatisticamente bem compreendidos, e essa é agora a alegria da minha vida”, disse Almeida ao TechCrunch.

Resultados iniciais do desenvolvedor: mais rápido e mais barato

Os primeiros usuários relataram ganhos notáveis nos testes. Pranit Sharma, engenheiro de software da Vercel, disse ao TechCrunch que sua empresa estava usando o ChatGPT Luna 5.6 da OpenAI para executar um classificador que analisa comandos de segurança. Depois de mudar essa carga de trabalho para Jev, Vercel obteve resultados de cinco a 18 vezes mais rápido e com maior precisão.

Nikhil Mudholkar, CTO da Bryo AI, fez uma comparação diferente: classificar e-mails comerciais com Jev contra Gemini do Google. Em seu teste, o Gemini foi um pouco mais preciso, mas de 10 a 20 vezes mais caro. Para Mudholkar, a propriedade mais valiosa de Jev era o tratamento da incerteza. “É o único que devolve uma probabilidade real, o que o torna ideal para automatizar fluxos de trabalho”, disse ele ao TechCrunch.

Agentes vigiando agentes, sem a conta

Além de substituir LLMs em tarefas de classificação, TypeSafe argumenta que Jev pode policiá-los. Usar agentes de IA para monitorar outros agentes torna-se caro rapidamente, mas Almeida afirma que a velocidade e o perfil de custo de Jev tornam prático rastrear rastreamentos de agentes LLM e evitar jailbreaks em tempo real.

Armin Ronacher, CTO da Earendil e construtor do modelo de código aberto aproveita Pi, disse ao TechCrunch que a abordagem transfere a responsabilidade pela incerteza para o desenvolvedor. “Isso delega um pouco o problema da alucinação ao usuário”, disse Ronacher. "O usuário tem que dizer, ok, se isso voltar com 50% de probabilidade, talvez seja um cara ou coroa, e eu desconsidero isso. Mas se for 95%, claro, então posso fazer algo com isso."

Ronacher também sinalizou o roteamento de modelo como um caso de uso promissor: prever se uma determinada carga de trabalho requer um modelo específico e mais caro. Fazer essa classificação com um LLM seria caro, mas a baixa latência e o preço do Jev poderiam tornar viável o roteamento em tempo real.

Um nome emprestado da economia

O modelo tem o nome de William Stanley Jevons, o economista do século XIX responsável pelo paradoxo de Jevons – a observação de que à medida que uma mercadoria se torna mais barata, o seu consumo tende a aumentar. A aposta de Almeida é que a queda dos custos da inteligência ao nível da decisão levará à sua implantação em todo o lado, não apenas nos principais chatbots.

“Achamos que haverá software inteligente em todos os lugares, de uma forma emergente e distribuída... muito mais parecido com a Internet dos primórdios do que você imagina, como os megaaplicativos que as pessoas estão tentando construir agora”, disse Almeida ao TechCrunch.

Se os concorrentes o seguirão permanece uma questão em aberto. “Devíamos ter visto isso antes de várias maneiras, mas provavelmente porque os LLMs são tão baratos e subsidiados, muitas vezes você ainda não precisa ser criativo”, disse Ronacher ao TechCrunch. TypeSafe planeja versões adicionais do Jev em novas modalidades.

Quanto a saber se o TypeSafe conta como um laboratório de fronteira, Almeida ofereceu uma resposta incisiva: "O principal produto dos laboratórios de fronteira é o medo ou o exagero. Gostaria que o nosso principal produto fosse a inteligência... [mas não somos] um laboratório no sentido de, você sabe, apostar na riqueza infinita, ou numa religião, ou construir Deus num centro de dados, ou o que quer que seja hoje."

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →