Pesquisadores alertam: superinteligência é tão perigosa quanto parece

Pesquisadores alertam: superinteligência é tão perigosa quanto parece

Em 29 de setembro de 2026, a Palisade Research colocou no ar o site frominside.ai. O site reúne uma dúzia de entrevistas em vídeo com pesquisadores de inteligência artificial que atuam ou já atuaram em laboratórios como OpenAI, Google e Anthropic.

A organização se apresenta como entidade sem fins lucrativos dedicada a estudar capacidades e motivações de sistemas de IA. Transformou os depoimentos em uma sequência de alertas sobre a chamada superinteligência, termo usado para descrever sistemas que superariam amplamente a capacidade humana.

O tom não é de divulgação otimista. É de risco existencial.

Uma dúzia de vozes de dentro da indústria

Os vídeos estão disponíveis na íntegra em frominside.ai. O site também organiza trechos por tema, colocando lado a lado pessoas diferentes que respondem a perguntas parecidas.

Entre os assuntos recorrentes estão a dúvida sobre se todo esse alarme seria apenas hype ou marketing, a discussão sobre o que significa "segurança de IA" e a pergunta mais desconfortável de todas: por que alguém trabalharia em uma tecnologia que considera tão perigosa?

Segundo o The Verge, os depoimentos ecoam avisos pessimistas que já circulam no setor. Mas não apresentam uma solução coesa, nem sequer uma direção comum.

Os números citados

Geoffrey Irving, que passou por OpenAI e Google DeepMind, afirma na entrevista que a chance de extinção da humanidade é comparável a jogar uma moeda para o alto. Ou seja, próxima de 50%.

Neel Nanda, cientista de pesquisa do Google DeepMind, trabalha com um número menor, mas ainda alarmante. Ele diz que existe "pelo menos 10% de chance" de que a IA cause a extinção humana.

Classifica essa probabilidade como ridiculamente alta.

Daniel Kokotajlo, ex-pesquisador da OpenAI, vai além na descrição do que estaria em jogo. Segundo ele, uma IA superinteligente seria "basicamente poderosa como um deus".

Acrescenta que não se sabe como controlá-la.

A consequência lógica dessa combinação, na avaliação dele, é que provavelmente ninguém conseguiria exercer controle sobre esses sistemas. Ele descreve o cenário como exatamente tão perigoso quanto soa.

Em sua opinião, não deveria ser permitido que acontecesse.

Suspeita, marketing e o dilema de permanecer

Nem todos os trechos são sobre catástrofe. Mary Phuong, do Google, reconhece o conflito de interesse embutido no formato.

Ela afirma que o público deve desconfiar do que ela diz justamente porque ela é paga pelo laboratório onde trabalha.

Já Nanda explica sua permanência na área com um argumento pragmático. Se não acreditasse que seu trabalho reduz diretamente esses riscos existenciais, pediria demissão.

E lembra que as empresas não vão parar de construir esses sistemas apenas porque ele saiu.

É uma lógica que reaparece entre profissionais de segurança de IA: ficar dentro para tentar influenciar o desenvolvimento, mesmo admitindo incerteza sobre o resultado final.

Por que isso importa

A publicação reforça uma tensão que o próprio setor ainda não resolveu. Em reportagem anterior, o The Verge observou que "segurança de IA" é um termo carregado, usado para designar coisas bastante diferentes, de testes de alinhamento a propostas de desaceleração.

Não há consenso sobre o que fazer.

As entrevistas de frominside.ai surgem no âmbito de uma série editorial sobre o que se convencionou chamar de desaceleração da superinteligência. O momento é de disputa entre laboratórios de fronteira, pesquisadores acadêmicos e reguladores para definir o ritmo da corrida tecnológica.

Para o leitor brasileiro, o recado prático é que a discussão sobre riscos de IA deixou de ser um debate de nicho entre filósofos. Passou a ser feita por engenheiros que assinam os modelos.

Os números variam muito, de uma moeda lançada ao ar a uma chance em dez. A mensagem central é a mesma: boa parte das pessoas que melhor entendem esses sistemas é justamente a que mais teme no que eles podem se tornar.

O material não oferece caminho único. Talvez isso seja o mais relevante: nem quem está dentro dos laboratórios afirma saber como garantir que a superinteligência permaneça sob controle humano.

Fontes e links

Matéria publicada originalmente em The Verge

Últimas Notícias

Prompt engineering no Amazon Quick: guia da AWS
Pesquisadores alertam: superinteligência é tão perigosa quanto parece
Google Research cria Diffusion Controller para imagens de IA
GPT-6.1 Sol chega ao Amazon Bedrock com foco em agentes