Realtime-Bench expõe limite de agentes de IA em tarefas ao vivo

Realtime-Bench expõe limite de agentes de IA em tarefas ao vivo

Pesquisadores de seis instituições — Universidade do Texas em Austin, Ohio State University, Universidade de Illinois em Urbana-Champaign, NVIDIA, Northwestern University e Steadyworks, apresentaram o Realtime-Bench, um conjunto de 50 tarefas interativas criado para medir algo que os testes tradicionais ignoram: a capacidade de um agente de inteligência artificial tomar decisões dentro do prazo em que elas ainda fazem sentido. O trabalho foi destaque da edição 479 da newsletter Import AI, publicada em 2 de novembro de 2026, e o diagnóstico é direto: modelos de fronteira ainda vão mal quando o mundo não espera por eles.

O que o benchmark mede

A suíte reúne 50 tarefas dinâmicas, divididas em 30 cenários de web, organizados nas categorias de viagens, comércio eletrônico, serviços e segurança, e 20 tarefas de jogos, distribuídas entre arcade, quebra-cabeça, estratégia e simulação. A premissa é que, nesses ambientes, uma ação executada com atraso muda o resultado, mesmo que o raciocínio por trás dela esteja correto.

Os autores organizam a avaliação em três habilidades. A primeira é a consciência do estado temporal, chamada de RT-Perceive, que exige usar observações para acompanhar mudanças no ambiente.

A segunda é a deliberação adaptativa, RT-Deliberate, que cobra do modelo a capacidade de encurtar ou alongar seu raciocínio conforme o tempo disponível. A terceira é a seleção de ações ciente do tempo, RT-Act, que trata do momento certo de agir.

O exemplo dado no material é o de um agente comprando ingressos: ele precisa acompanhar se a venda está aberta e verificar se a disponibilidade observada ainda vale (RT-Perceive), reduzir a deliberação quando a janela de compra se aproxima do fim (RT-Deliberate) e decidir entre esperar a abertura das vendas ou comprar enquanto restam unidades (RT-Act).

Três relógios, três respostas

Para separar incapacidade de raciocínio de incapacidade de sincronia, os pesquisadores criaram três condições de teste. Na primeira, o relógio de parede, tudo corre em tempo real, reproduzindo a latência do mundo físico.

Na segunda, o relógio pausado, o ambiente pode ser congelado arbitrariamente, o que revela o desempenho de base do modelo sem a pressão do tempo. Já na terceira, o relógio de tokens, o ambiente avança a uma taxa fixa por token gerado, de modo que consumir mais tokens atrasa a execução independentemente da latência real de inferência.

Essa separação é o ponto metodológico mais interessante do trabalho, porque permite isolar o gargalo. O problema dos agentes atuais, sugerem os números, não está em pensar, mas em pensar no ritmo certo.

O tamanho do fosso

A bateria de modelos avaliados é ampla e inclui sistemas de diferentes fornecedores. Da OpenAI entraram GPT-6-Astra, GPT-5.6 Sol, GPT-Realtime-2 e OpenAI Decisions; da Anthropic, Claude Fable 5.1 e Claude Opus 5; do Google, Gemini 3.8 Flash, Gemini 3.1 Flash Live e Gemini 3.8 Live. A lista inclui ainda Jev 1.13 e modelos chineses da Deepseek (V4.1) e da Moonshot AI (Kimi-K3).

Na condição de relógio de parede, o melhor resultado foi do GPT-6 Astra em modo high, com taxa de acerto de 36%. Quando o relógio é pausado, modelos com raciocínio estendido se aproximam de 70% e chegam a 80% de sucesso.

A diferença entre as duas colunas é a medida exata do que falta: a competência analítica existe, mas não sobrevive ao relógio correndo.

Por que isso importa

O Realtime-Bench funciona como um mapa das falhas previsíveis dos agentes. Os números baixos indicam justamente os tipos de tarefa em que ainda não se deve confiar autonomia a um sistema de IA: negociações com prazo, leilões online, compras com estoque disputado, jogos com turnos cronometrados e atendimento que exige resposta imediata a eventos que mudam a cada segundo.

Para empresas que planejam colocar agentes em produção, o recado é que a latência é uma variável de projeto, não um detalhe de infraestrutura, e que arquiteturas assíncronas e de raciocínio longo podem ser inadequadas para fluxos que exigem reação imediata.

O próprio autor da newsletter, Jack Clark, enquadra o resultado como um proxy de onde os agentes vão quebrar. É uma leitura útil: benchmarks de capacidade máxima dizem o quanto um modelo pode fazer quando nada o apressa; este diz o quanto ele entrega quando o mundo aperta.

Outros destaques da edição

A mesma edição do Import AI traz uma leitura do relatório "Challenges to Security in Space", da Defense Intelligence Agency, dos Estados Unidos. O documento descreve o espaço como domínio de disputa entre Estados Unidos de um lado e China, Rússia, Irã e Coreia do Norte de outro, com a China na posição de maior sofisticação tecnológica.

Segundo os dados citados, a China mais que triplicou o número de lançamentos espaciais na última década, passando de 22 em 2016 para 93 em 2025, e o relatório aponta o desenvolvimento de capacidades ofensivas que vão da destruição cinética a operações de jamming e ataques cibernéticos.

Fontes e links

Matéria publicada originalmente em Import AI

Últimas Notícias

Custo por token não mede entrega: a nova conta da IA no código
Censo dos EUA troca 'IA' por 'Super Inteligência' em pesquisa
TechCrunch reúne fundadores em Boston a dois dias do Founder Summit
Realtime-Bench expõe limite de agentes de IA em tarefas ao vivo