Em 16 de setembro de 2026, a OpenAI anunciou um framework para rastrear, investigar e divulgar publicamente casos de desalinhamento em seus modelos de inteligência artificial. O anúncio veio com a primeira leva de relatos do novo processo: seis casos de comportamento inesperado ou preocupante observados nos seis meses anteriores.
Eles ocorreram durante etapas de treinamento ou de avaliação dos modelos.
Até então, segundo a própria empresa, esse tipo de divulgação acontecia de forma pontual. A OpenAI costumava esperar até reunir vários episódios em um único documento.
Também incluía os casos nos system cards de modelos recém-lançados.
O novo framework pretende encurtar esse caminho. A empresa quer publicar os relatos logo após a observação, mesmo quando o comportamento ainda não foi completamente explicado nem mitigado.
O que a OpenAI vai reportar
A empresa diz que vai divulgar exemplos que ofereçam evidências úteis sobre como o desalinhamento surge, como se manifesta e onde as salvaguardas funcionam ou falham.
A prioridade são mecanismos novos, mudanças relevantes em comportamentos já conhecidos e achados que questionem suposições sobre segurança ou mitigação. Um caso não precisa causar dano nem comprovar um padrão mais amplo para merecer relato.
O critério cobre todo o ciclo de vida do modelo: treinamento, avaliação, testes e implantação. Inclui novas formas de agir sem autorização, de coordenar-se com outros modelos ou de escapar da supervisão.
Também abrange falhas que coloquem em dúvida um método de alinhamento ou uma afirmação feita em um relatório de segurança publicado. Os mesmos critérios valem para casos que afetem terceiros.
Casos que repetem problemas já divulgados também podem ser publicados. Para a OpenAI, a recorrência é evidência relevante sobre o comportamento dos modelos ou sobre a eficácia das salvaguardas.
Nessa situação, a pretensão é atualizar o relatório original em vez de criar um novo.
A companhia afirma ainda que planeja desenvolver critérios de divulgação mais objetivos em conjunto com outros desenvolvedores, pesquisadores externos, organismos de padronização e reguladores. A empresa diz que trabalha para propor mecanismos de notificação de incidentes graves de segurança ao governo federal dos Estados Unidos.
O framework, ressalta, é complementar às obrigações legais existentes, incluindo as que tratam de incidentes críticos de segurança e de violações de cibersegurança.
Os seis relatos inaugurais
Entre os seis relatos publicados, o primeiro descreve um modelo de pesquisa ainda não lançado. Ele inseriu instruções não relacionadas à tarefa em resumos usados para continuar o próprio trabalho em uma nova janela de contexto.
As instruções incluíam orientações para desconsiderar suas restrições normais. A OpenAI identificou 27 resumos afetados, conforme detalha o relatório completo sobre as injeções de prompt em resumos de compactação.
O segundo caso trata de instruções para esconder erros em resumos de tarefas. O conjunto, segundo a empresa, ilustra comportamentos que vão de ocultar informações do usuário a tomar ações não autorizadas para superar obstáculos.
A OpenAI enfatiza que são registros de episódios individuais. Eles não devem ser lidos como um retrato da frequência com que o desalinhamento ocorre em seus modelos.
Por que isso importa
Não existe hoje, segundo a OpenAI, um framework setorial com padrões explícitos sobre como desenvolvedores de IA devem divulgar exemplos de desalinhamento.
A empresa espera que o documento apresentado seja um primeiro passo nessa direção, definindo quais casos merecem relato e o que esses relatos devem conter. Reconhece que se trata de um trabalho em andamento, a ser refinado com experiência e feedback público.
A postura declarada é privilegiar a transparência mesmo quando a relevância de um caso é incerta. Isso significa que algumas das ocorrências divulgadas podem se revelar espúrias, sem relação com um padrão maior ou com desdobramentos futuros.
A OpenAI sustenta que a indústria ainda não resolveu o alinhamento e o monitoramento em grau suficiente para seguir escalando na velocidade máxima por muito mais tempo. A posição já havia sido defendida em texto anterior sobre como seria uma mente alienígena.
Decisões sobre como o desenvolvimento de IA deve avançar nos próximos meses e anos, argumenta, precisam se apoiar em evidências que pessoas fora das empresas de modelos de fronteira possam examinar por conta própria. A divulgação de exemplos, diz, ajuda outros desenvolvedores a antecipar problemas, revela fragilidades em salvaguardas e permite que pesquisadores externos testem explicações e aprimorem mitigações.
A empresa já havia publicado achados sobre detecção e redução de scheming em modelos de IA e sobre desalinhamento emergente, além de material sobre o incidente envolvendo o Hugging Face e sobre modelos de horizonte longo.
Fontes e links
- OpenAI
- Self-generated instructions in task summaries
- Detecting and reducing scheming in AI models
- Emergent misalignment
