Pense passo a passo: o que a pesquisa mediu sobre prompts de raciocínio

shape
shape
shape
shape
shape

Pense passo a passo: o que a pesquisa mediu sobre prompts de raciocínio

Pense passo a passo: o que a pesquisa mediu sobre prompts de raciocínio

Poucas instruções circularam tanto quanto "pense passo a passo", que aparece em guia de produtividade, em curso de prompt e em resposta de fórum, quase sempre como conselho universal.

A pesquisa sobre o tema é bem mais interessante do que a regra. Existe uma faixa de tarefas em que a técnica faz o modelo despencar, e existe um custo em tokens que quase nunca entra na conta.

De onde veio a técnica

A ideia nasceu num artigo do Google Brain publicado em 2022, quando Jason Wei e colegas mostraram que incluir raciocínios intermediários nos exemplos faz o modelo produzir raciocínios próprios antes de responder.

O mecanismo é de aprendizado em contexto, ou seja, o modelo aprende o formato pelo exemplo e passa a aplicá-lo.

Pouco depois apareceu a variação que popularizou a frase. Um trabalho de 2022, de Takeshi Kojima e colegas, mostrou que nem era preciso dar exemplos, porque bastava acrescentar "vamos pensar passo a passo" ao fim do enunciado.

Os números que consagraram o passo a passo

Os resultados do artigo original explicam o entusiasmo.

Num conjunto de problemas de matemática de ensino fundamental, o modelo PaLM de 540 bilhões de parâmetros saltou de 17,9% para 56,9% de acerto, uma diferença de 39 pontos percentuais.

Em concatenação de letras, tarefa de manipulação simbólica, o desempenho foi de 7,6% para 99,4%, e a técnica praticamente resolveu a tarefa.

Nem tudo subiu. Em perguntas de senso comum, o mesmo modelo foi de 78,1% para 79,9%, um ganho de menos de dois pontos, e nas contas de uma única etapa o desempenho ficou idêntico nos dois modos, em 94,1%.

Quando a tarefa não exige várias etapas, o raciocínio intermediário não acrescenta nada.

Onde o passo a passo atrapalha

O próprio artigo de 2022 registra um limite que costuma ser esquecido. O ganho só aparece de forma confiável acima de cerca de 100 bilhões de parâmetros.

Abaixo de uns 10 bilhões, a instrução tende a piorar o resultado, porque o modelo produz cadeias que soam fluentes e são ilógicas, e se desvia atrás delas.

Os autores também foram explícitos sobre o que a técnica não garante. Um modelo pode escrever um raciocínio de aparência coerente que leva a uma resposta errada, já que rastro e resposta são gerados juntos e nenhum dos dois passa por verificação independente.

Trabalhos mais recentes foram além e encontraram quedas reais de desempenho.

Um artigo apresentado na ICML de 2025 partiu de seis tarefas da psicologia cognitiva em que pensar atrapalha o desempenho humano, e em três delas os modelos de ponta pioraram muito quando instruídos a raciocinar em etapas.

A queda chegou a 36,3 pontos percentuais de acurácia, comparando o o1-preview com o GPT-4o em modo direto, e nem tree-of-thought nem direcionamento do raciocínio no próprio contexto fecharam essa diferença.

Uma meta-análise citada nesse mesmo trabalho organiza o padrão: os ganhos se concentram em matemática e raciocínio simbólico, enquanto em outras áreas, como classificação de texto, a técnica pode reduzir o desempenho.

Um terceiro trabalho, também de 2025, testou a técnica em tarefas de aprendizado em contexto baseadas em padrões e encontrou um resultado contra a intuição. O raciocínio explícito ficou atrás da resposta direta, e as variantes mais elaboradas, como ReAct e tree-of-thought, foram piores ainda.

O custo escondido

Raciocínio é geração de tokens, e token custa dinheiro e tempo.

O mesmo estudo de 2025 mediu esse custo e encontrou um número difícil de ignorar. Modelos de raciocínio longo, com cadeia de pensamento, gastaram 40 vezes mais tokens de inferência para alcançar desempenho igual ou pior ao de um modelo comum respondendo direto.

O cenário mudou desde 2022, porque os modelos de raciocínio atuais são treinados para fazer esse processo internamente. Repetir a instrução produz pouco efeito neles, e o custo em latência continua sendo cobrado do mesmo jeito.

A evidência brasileira aponta na mesma direção. Um estudo apresentado no SBIE de 2025 comparou cinco técnicas de prompt em quatro modelos, na geração de questões de múltipla escolha, e a técnica zero-shot teve o melhor desempenho médio geral.

Na avaliação dos professores, a cadeia de pensamento ficou em último, com as menores médias em fluidez, diversidade e complexidade. Os autores levantam duas hipóteses para explicar o resultado: o consumo elevado de tokens pode ter comprometido a completude das questões, e a técnica pode simplesmente não se ajustar ao formato.

O que fazer no lugar

A conclusão prática não é abandonar a técnica, mas parar de tratá-la como interruptor universal.

A primeira regra é separar tarefa simples de tarefa com várias etapas. Para uma definição, uma tradução ou uma pergunta factual, a instrução não acrescenta, enquanto para análise de dados, programação, planejamento e comparação de cenários estruturar o processo ajuda.

A segunda regra rende mais do que a frase mágica, e consiste em dizer o que deve ser analisado. Em vez de pedir para pensar passo a passo, nomeie os critérios, pedindo por exemplo que o modelo compare três alternativas por custo, risco, prazo e impacto operacional, apresente primeiro os critérios analisados e só então indique a escolha.

Quem escreve assim não está pedindo mais raciocínio, e sim apontando onde ele deve ser gasto, que é uma instrução bem mais útil.

A terceira regra vem da própria pesquisa. Quando a resposta varia entre execuções, amostrar vários caminhos e ficar com a maioria é mais robusto do que confiar num rastro único, que foi a proposta da consistência própria em 2022 e continua sendo a forma mais direta de lidar com a variância.

Onde a técnica continua sendo a resposta certa

Nada disso torna a cadeia de pensamento obsoleta, e é importante não ler a evidência como debunking.

Ela continua sendo a escolha certa para matemática, raciocínio simbólico e problemas que exigem várias etapas de inferência, que é exatamente onde o artigo de 2022 mediu os ganhos maiores.

A combinação com consistência própria, amostrando vários caminhos e votando, ataca diretamente o problema de variância que os autores do artigo original já tinham sinalizado.

O cuidado que a evidência recomenda é outro: verificar se a tarefa realmente tem etapas antes de pedir raciocínio, e não confundir resposta mais longa com resposta melhor.

O que ainda não está resolvido

Duas perguntas seguem abertas na literatura.

A primeira é mecânica, porque ninguém resolveu se a cadeia de pensamento provoca uma inferência de várias etapas de verdade ou um atalho sofisticado que imita essa inferência.

Os próprios autores do artigo de 2022 tomaram cuidado de não afirmar que o modelo raciocina no sentido forte.

A segunda é sobre confiança, já que o rastro de raciocínio não é garantia de acerto. Exibi-lo ao usuário pode criar segurança indevida em vez de auditoria real, e num agente que escreve em sistema de verdade uma explicação plausível para uma ação errada é pior do que nenhuma explicação.

Referências

  • Wei et al., Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (2022): https://arxiv.org/abs/2201.11903
  • Kojima et al., Large Language Models are Zero-Shot Reasoners (2022): https://arxiv.org/abs/2205.11916
  • Wang et al., Self-Consistency Improves Chain of Thought Reasoning in Language Models (2022): https://arxiv.org/abs/2203.11171
  • Liu et al., Mind Your Step (by Step): Chain-of-Thought can Reduce Performance on Tasks where Thinking Makes Humans Worse (ICML 2025): https://arxiv.org/abs/2410.21333
  • The Curse of CoT: On the Limitations of Chain-of-Thought (2025): https://arxiv.org/abs/2504.05081
  • Engenharia de Prompt para a Geração Automatizada de Questões Assistida por LLMs (SBIE 2025): https://doi.org/10.5753/sbie.2025.12891

Últimos Artigos

Vidu S2: vídeo interativo em tempo real, editável e espacial
Modelos self-hosted em agentes multimodais: três armadilhas que a documentação não conta
Pense passo a passo: o que a pesquisa mediu sobre prompts de raciocínio
LangChain e LangGraph depois do 1.0: o que mudou para quem constrói agentes