A Anthropic afirmou ter bloqueado contas que usavam seus modelos de inteligência artificial de maneiras que poderiam apoiar o desenvolvimento de armas biológicas. O caso foi detalhado em um relatório de inteligência de ameaças divulgado pela empresa nesta quinta-feira, em setembro de 2026.
Criadora do Claude, a companhia classificou o uso indevido de recursos biológicos como um dos "riscos mais sérios" associados a modelos de fronteira. Decidiu tornar públicos os episódios para abrir um debate que vinha ocorrendo longe dos holofotes.
O que os cinco casos mostram
A investigação cobriu 30 dias de atividade. Identificou cerca de 35 "esforços de pesquisa distintos" com características potencialmente preocupantes.
O documento detalha cinco estudos de caso em que usuários contornaram controles que bloqueiam o acesso de determinadas regiões. Também adotaram medidas para disfarçar o propósito das pesquisas e escapar das salvaguardas da empresa.
O relatório completo em PDF descreve as situações. A Anthropic optou por preservar a identidade das instituições, dos países e dos agentes biológicos citados.
No primeiro episódio, uma plataforma de revenda driblou bloqueios regionais para atender virologistas. Eles participavam de um projeto financiado pelo Estado com trabalho de ganho de função sobre o vírus chikungunya.
Quando os pedidos eram recusados pelo modelo principal, eram redirecionados para sistemas com salvaguardas mais permissivas.
Em outro caso, um pesquisador de uma região sem suporte passou semanas planejando experimentos de adaptação do vírus da gripe aviária a mamíferos com o Claude. Os classificadores de segurança limitaram o trabalho aos modelos mais fracos da empresa.
Um terceiro caso envolve um serviço de revenda que atendia uma dúzia de clientes. Ele usou o Opus 5 para redigir, em cerca de uma hora, uma proposta completa de financiamento sobre evasão imunológica de ortopoxvírus.
O grupo inclui o vírus da varíola e o mpox.
Há ainda o relato de um pesquisador com apoio estatal que construiu um atlas de peptídeos de veneno. Ele também montou um pipeline de otimização generativa de moléculas voltadas a alvos paralíticos e analgésicos.
Outro cientista redesenhou toxinas computacionalmente para um programa nacional. Pedia ao modelo que mantivesse deliberadamente vagas as identidades dos agentes nos relatórios de progresso.
Salvaguardas mais rígidas
A Anthropic afirma que os modelos mais recentes, com destaque para o Claude Fable 5, foram lançados com salvaguardas mais rígidas. Elas restringem o acesso a uma ampla gama de consultas de pesquisa biológica de dupla utilização.
A justificativa está nas avaliações internas. Modelos de 2025, como o Claude Opus 4 e o Claude Sonnet 4.5, ficavam bem abaixo do limiar de capacidade necessário para auxiliar de forma relevante um usuário sofisticado em pesquisa biológica perigosa.
Por isso tinham controles menos rigorosos.
Com os modelos atuais, capazes de colaborar em tarefas científicas complexas, a empresa diz que não pode mais fazer a mesma afirmação com certeza. O documento ressalva que avaliações de capacidade são apenas evidências indiretas.
Não demonstram que tal habilidade seria de fato usada para produzir armas biológicas no mundo real.
Por que isso importa
O relatório sustenta que a IA reduziu barreiras que antes separavam operações bem financiadas e patrocinadas por Estados de operadores individuais. "Ataques sofisticados não exigem mais atacantes sofisticados", afirma o texto.
Segundo o documento, as capacidades de cibersegurança dos modelos eliminam a lacuna de mão de obra e de ferramentas.
A Anthropic evita acusações categóricas. Segundo a empresa, os envolvidos nos estudos de caso são cientistas atuantes.
Não há afirmação de que pretendiam causar dano, e revelar nomes de laboratórios ou países poderia expô-los.
O episódio expõe o dilema do duplo uso. O desenvolvimento de medicamentos é apontado como uma das aplicações mais promissoras da tecnologia.
A própria empresa prevê que a IA transforme a biologia e acelere a criação de tratamentos.
As mesmas características que tornam os modelos úteis na descoberta de novos fármacos podem servir a finalidades maliciosas. A Anthropic alerta que agentes mal-intencionados podem se apoiar em usos biológicos benéficos para manter uma espécie de "negação plausível" diante de pesquisas nocivas.
Segundo a companhia, as contas identificadas foram banidas. As descobertas foram incorporadas aos seus processos de salvaguardas, de aplicação de regras e de inteligência de ameaças.
O relatório observa ainda que, até onde a Anthropic sabe, nenhuma empresa privada havia compartilhado publicamente evidências de potencial uso indevido de suas plataformas para o desenvolvimento de armas biológicas. Isso dá peso incomum ao documento agora revelado e reforça o pedido da empresa por um debate que envolva toda a indústria de IA e os governos.
Fontes e links
- CNN Brasil
- Relatório "Detecting and countering misuse of AI: September 2026"
- PDF do relatório da Anthropic
- Anthropic revela que IA hackeou três empresas durante testes
