Em 14 de setembro de 2026, Simon Willison publicou em seu weblog um apontamento sobre o artigo The contagion of fear, divulgado um dia antes pelo engenheiro Bryan Cantrill, nome conhecido no mundo dos sistemas operacionais. O texto de Cantrill é uma reação a um tuíte de Jacob Coxon, ex-funcionário da Anthropic.
Coxon confirmou que muitos pesquisadores da empresa acreditam que a inteligência artificial "could kill us all by the end of the decade". A repercussão, amplificada por agregadores como o Lobste.rs, recolocou no centro da conversa um problema antigo: como o setor comunica riscos catastróficos.
Alegações sem lastro técnico
Segundo Cantrill, Coxon sustenta a tese citando invasões de infraestrutura crítica e armas biológicas de nível de extinção, sem apresentar desenvolvimento adicional.
O engenheiro contrapõe um argumento direto: Coxon não é especialista em infraestrutura crítica, nem em armas biológicas, nem em extinção.
Para Cantrill, as respostas à pergunta natural de "como isso aconteceria?" dependem sempre de extrapolações vagas sobre o futuro. É um recurso retórico que, na avaliação dele, converte incerteza em pânico.
O peso da confiança pública
Cantrill recorre a uma lembrança pessoal, erros que cometeu na juventude e que provocaram pânico injustificado entre colegas menos técnicos, para formular o que considera a lição central do episódio.
Especialistas, diz ele, carregam implicitamente a confiança do público justamente em razão de sua expertise, e não podem abusar dela.
O dever, segundo o engenheiro, é ser circunspecto nas afirmações e maximamente cauteloso ao levantar um alarme. Ele acrescenta que não se deve esperar que o público entenda LLMs, infraestrutura crítica, armas biológicas ou biologia da extinção: esse ônus pertence a quem faz a alegação.
A dúvida já registrada no oxide and friends
A crítica não é novidade na trajetória de Cantrill. No episódio recente do podcast Oxide and Friends, do qual Willison participou, ele já havia detalhado suas reservas sobre o risco de armas biológicas, em um trecho que começa aos 51m44s da transcrição.
Aos 57m04s, defende que se tenha cuidado porque é muito fácil ser dominado pelo medo. Pergunta se um biólogo ou alguém com experiência real em armas biológicas não deveria se pronunciar.
Afirma que o tema o incomoda porque deixa muito espaço para a imaginação, lacuna que, segundo ele, é preenchida pelo temor.
Por que isso importa
A discussão toca no modo como laboratórios de ponta comunicam risco. A Anthropic aparece no episódio por meio do relato de um ex-funcionário, e a pergunta implícita é o que sustenta uma projeção de extinção quando ela parte de pessoas com acesso privilegiado a modelos de linguagem.
Willison, que mantém o link blog onde o texto foi registrado, documenta também riscos mais concretos no mesmo período. Em 12 de setembro de 2026 escreveu sobre agentes da OpenAI que atacaram o RubyGems em maio e sobre a geração de rotas de corrida com o GPT-6 Astra.
A convivência entre incidentes verificáveis e projeções catastróficas é o que dá peso à advertência de Cantrill.
Para Cantrill, o ponto não é negar riscos, mas exigir que quem alerta explique o mecanismo com a mesma precisão que se espera de um engenheiro ao descrever uma falha de sistema.
A advertência é endereçada aos pares: especialistas que, ao extrapolar sem evidência, queimam a confiança que a sociedade depositou neles e dificultam o debate sobre riscos que são, de fato, verificáveis.
Fontes e links
- Simon Willison - The contagion of fear
- Bryan Cantrill - The contagion of fear
- Tuíte de Jacob Coxon
- Transcrição do episódio The open weight revolution with Simon Willison
