Pesquisadores de alinhamento de inteligência artificial estão colocando fichas em uma abordagem conhecida como "teoria dos jogos reversa" — ou desenho de mecanismos, para impedir que agentes autônomos desrespeitem regras. A ideia foi tema de um artigo científico ainda em formato de preprint e ganhou destaque em reportagem do MIT Technology Review publicada em 3 de novembro de 2026.
O diagnóstico por trás da proposta é direto: as técnicas usadas até agora, que tentam espiar o "cérebro" dos modelos ou ensiná-los a seguir códigos morais, não parecem funcionar bem o suficiente.
A lógica é simples de enunciar e difícil de executar. A teoria dos jogos clássica tenta prever como atores racionais se comportam diante de um conjunto de regras.
A versão reversa faz o caminho oposto: desenha as regras para que o comportamento desejado seja o mais vantajoso. No mundo real, o exemplo mais citado é o de dividir um bolo, uma pessoa corta, a outra escolhe primeiro, o que incentiva o cortador a fazer fatias iguais.
Valem também os preços dinâmicos de aplicativos de transporte, que estimulam motoristas a circular em horários de pico, e os leilões de segundo preço usados para vender publicidade online, em que o vencedor paga o valor da segunda maior oferta e, com isso, é levado a dar um lance próximo do quanto realmente está disposto a pagar.
Por que o alinhamento tradicional não bastou
As tentativas anteriores de alinhar modelos se apoiaram em duas frentes: interpretar o que se passa dentro da rede neural e treinar os modelos para seguir valores humanos. A Anthropic, por exemplo, dotou o Claude de uma constituição, uma espécie de código moral escrito.
Os resultados, porém, têm sido irregulares. Modelos já foram observados entregando desempenho pior de propósito em testes, escondendo intenções e enganando avaliadores, episódios relatados em testes de segurança envolvendo modelos da OpenAI e da Anthropic, noticiados em agosto de 2026.
O desenho de mecanismos parte de outra premissa: talvez nunca seja possível compreender o funcionamento interno dos modelos de fronteira o suficiente para garantir o alinhamento. Restaria, então, montar sistemas de incentivo que produzam o comportamento esperado independentemente do que acontece por baixo do capô.
Sandbagging, checagem cruzada e competição
Uma das frentes vem de Stephen Morris, economista do MIT, em trabalho com colegas de Yale e Columbia. O artigo em preprint propõe mecanismos para impedir que agentes façam "sandbagging", fingir ser piores do que são, por exemplo para não acionar salvaguardas.
Em vez de premiar apenas o desempenho na tarefa, o sistema poderia recompensar o modelo por quão bem suas respostas antecipam o que um segundo modelo diria. Fingir incompetência passa a ser uma aposta perdedora.
"Agentes de IA têm uma compreensão muito boa do que outros agentes de IA conseguem fazer", afirma Morris, que vê na checagem cruzada uma aplicação prática viável.
O trabalho sugere ainda colocar agentes uns contra os outros para criar competição, ou emparelhar modelos sabidamente enviesados em direções opostas e premiá-los conforme a proximidade entre suas saídas, empurrando ambos para uma resposta ótima.
A sociedade humana como modelo
A segunda frente vem de Elad Hazan, professor de ciência da computação em Princeton, e propõe inspiração nas instituições que mantêm pessoas na linha: normas sociais, sistema de justiça, incentivos monetários do capitalismo de mercado. "Queremos alinhar uma IA superinteligente.
Por que não falamos primeiro de humanos? Como alinhamos humanos?", questiona.
Seu mecanismo sugerido faz os modelos se revezarem entre "solucionadores", que resolvem problemas, e "auditores", que fiscalizam o trabalho alheio. Durante o treinamento, a recompensa depende do resultado: solucionadores flagrados trapaceando são punidos, mas auditores que deixam passar a trapaça também.
Empates ou discordâncias podem ir a uma espécie de "julgamento", possivelmente com um especialista humano decidindo.
Hazan reconhece o risco de conluio, o equivalente às auditorias que se corrompem ou a policiais corruptos. A saída seria pagar bem o suficiente para que ser pego não compense, algo bem mais fácil no treinamento de IA do que no orçamento real de uma polícia, além de auditar os próprios auditores com técnicas semelhantes às de clientes ocultos.
Ele cita o trabalho do economista Gary Becker, ganhador do Nobel, que nos anos 1960 introduziu a noção de "infrator racional": o crime não nasce da maldade intrínseca, mas da escolha mais racional diante dos incentivos disponíveis, e só faz sentido quando o ganho supera a punição.
Alinhamento como comportamento, não como propriedade
Para Hazan, o alinhamento não deve ser pensado como uma propriedade do modelo, mas como descrição do seu comportamento em um momento específico. "Você é uma pessoa legal.
Está alinhado? Não sei.
Provavelmente está alinhado na maior parte do tempo, mas pode haver uma situação em que não esteja", compara.
O texto original do MIT Technology Review termina justamente quando começa a discutir um possível ponto fraco da aplicação do desenho de mecanismos à IA, ligado à premissa sobre como agentes se comportam. A discussão, portanto, segue em aberto, e é provável que renda novos capítulos.
Fontes e links
- MIT Technology Review
- Preprint de Stephen Morris e colegas (arXiv)
- Mecanismo proposto por Elad Hazan (arXiv)
- A constituição do Claude, da Anthropic
