Jev e LangGraph: agentes de produção mais rápidos e baratos

Jev e LangGraph: agentes de produção mais rápidos e baratos

A TypeSafe AI apresentou o Jev, um modelo que não gera texto e devolve decisões tipadas com probabilidades, e o LangChain publicou em 25 de setembro de 2026 um guia mostrando como o LangGraph orquestra esse tipo de componente para colocar agentes em produção. O lançamento ocorreu na semana anterior à publicação do texto.

A proposta central é dividir responsabilidades. O código mantém o fluxo de trabalho.

O modelo entra apenas nos pontos que exigem julgamento semântico.

Um modelo de decisão, não de texto

O Jev é o que a TypeSafe chama de modelo system one, ou modelo de decisão. Na prática, o desenvolvedor entrega um estado e um conjunto de perguntas.

Recebe de volta respostas tipadas acompanhadas de probabilidades, que o código pode usar para ramificar de forma previsível.

É uma abordagem distinta dos LLMs de fronteira. Esses modelos acumulam geração de prosa, extração de documentos, busca, ranqueamento, pesquisa e classificação no mesmo pacote.

A empresa descreve três arquiteturas possíveis para software. No modelo tradicional, toda a lógica é explícita e auditável, mas rígida.

Na abordagem de agentes, um único modelo acumula decisões a cada passo. O controle de fluxo migra dos programas para os prompts.

A terceira via, que a TypeSafe chama de software com IA, mantém a estrutura e o cálculo exato no código. Reserva o modelo para os ramos que realmente pedem julgamento.

Os números por trás da proposta

Segundo benchmarks da própria TypeSafe, em tarefas estreitas de decisão, como roteamento e classificação, o Jev roda até 200 vezes mais rápido e 400 vezes mais barato que LLMs líderes. Essas são etapas em torno das quais muitos agentes são construídos.

A LangChain observa que essa diferença é relevante porque o custo da generalidade é pago a cada chamada. Mesmo quando a resposta necessária é apenas sim ou não.

O modelo é descrito como estruturado, paralelo, rápido e autoconsistente. Esse último ponto é destacado como um contraste em relação ao não determinismo dos LLMs, que podem devolver respostas diferentes para a mesma pergunta em execuções distintas.

Em um experimento em que o Jev atuou como juiz, suas notas praticamente não variaram ao longo de 100 execuções repetidas. Foi menos do que qualquer juiz baseado em LLM testado pela LangChain.

Orquestração com langgraph

O LangGraph é a resposta da LangChain às duas perguntas que a empresa diz perseguir desde o início: como fazer modelos tomarem decisões úteis e como agir sobre essas decisões de forma confiável.

Construído a partir da experiência de ajudar milhares de empresas a colocar IA em produção, o framework combina decisões guiadas por modelo com código determinístico em sistemas observáveis. É justamente quando as decisões ficam baratas que a orquestração se torna o desafio principal.

Um dos problemas recorrentes apontados no texto é o gerenciamento de contexto. Para tomar a decisão correta, a janela do modelo precisa carregar somente a informação necessária para o próximo passo, em vez de acumular todo o histórico.

O post também trata do estado como contexto, de um runtime confiável e apresenta um exemplo de revisão de documentos no contexto de discovery. Além de discutir o que a LangChain chama de grande desagregação da inteligência.

Por que isso importa

O manifesto da TypeSafe resume a filosofia por trás do Jev na expressão prod, not god. À medida que os LLMs de fronteira se tornaram mais capazes, a indústria passou a recorrer a eles para qualquer tarefa com entradas difusas. Essa generalidade é cara e lenta, e o custo recai sobre cada chamada.

A aposta das duas empresas é que retirar o julgamento de dentro do pacote do LLM de fronteira e transformá-lo em uma primitiva barata permite construir sistemas mais previsíveis, econômicos e auditáveis.

Em vez de um único modelo decidindo tudo, a arquitetura passa a ter o código no comando do fluxo e a IA atuando em decisões estreitas e estruturadas. Para equipes que já colocaram agentes em produção, a combinação promete reduzir custo por execução sem abrir mão da capacidade de observar e controlar cada etapa do processo.

Fontes e links

Matéria publicada originalmente em LangChain

Últimas Notícias

John Gruber alerta para os riscos do Muse, agente da Meta
GitHub Copilot ganha canvases para criar interfaces sob medida
Jev e LangGraph: agentes de produção mais rápidos e baratos
Proaction amplia vendas em 60% com Codex, relata OpenAI