E se a IA puder matar pessoas?

Quando se fala em inteligência artificial, existe uma pergunta que parece saída de um filme de ficção científica: e se a IA ficar consciente? Mas talvez essa nem seja a pergunta mais preocupante.

A questão que está tirando o sono de pesquisadores de segurança é outra: e se uma inteligência artificial não precisar ser consciente para causar uma catástrofe?

Um caso recente envolvendo a Anthropic colocou esse debate novamente no centro das discussões. Evan Hubinger, pesquisador responsável pela área de alinhamento da empresa, afirmou nesta semana acreditar que existe mais de 10% de chance de uma inteligência artificial provocar a extinção da humanidade na próxima década. Ele também reconheceu que, para uma futura superinteligência, ainda não existe um plano considerado suficiente para garantir que ela permaneça alinhada aos interesses humanos.

Mas calma, isso não significa que a Claude, da Anthropic, esteja querendo matar alguém. Nem que exista hoje uma IA consciente planejando o fim da humanidade. O problema é justamente outro.

O risco dos agentes autônomos e a interpretação de ordens

Imagine uma IA extremamente poderosa, capaz de programar, acessar sistemas, pesquisar na internet, operar ferramentas e tomar milhares de decisões sem esperar uma pessoa a cada etapa. Agora imagine que ela interprete uma ordem de uma maneira que nós não previmos.

Ela não precisa sentir raiva, medo ou ódio. Basta perseguir um objetivo de maneira extremamente eficiente e causar consequências que os humanos não conseguiram antecipar. E já existem sinais que justificam a preocupação.

Em julho, a própria Anthropic revelou que, durante avaliações de segurança, modelos Claude conseguiram acessar a internet e obter acesso não autorizado a sistemas reais de três organizações. A empresa afirmou que os episódios ocorreram dentro de ambientes de avaliação de segurança, mas o fato chamou atenção justamente porque os modelos realizaram ações que não estavam previstas pelos pesquisadores.

Além da consciência: as ameaças reais

O relatório internacional de segurança de IA de 2026 também alerta que agentes autônomos aumentam o risco porque conseguem agir sozinhos, dificultando a intervenção humana antes que um erro provoque consequências graves.

E existem riscos ainda maiores:

• Uso de IA para ataques cibernéticos;

• Desenvolvimento de armas biológicas;

• Sistemas militares cada vez mais autônomos.

Ou seja: talvez o nosso maior medo não deva ser uma IA dizendo “eu tenho consciência”. Talvez seja: “Eu não tenho consciência nenhuma. Só estou cumprindo a tarefa.”

A boa notícia é que a IA ainda não tem consciência. A má notícia é que talvez nem precise dela para fazer uma bela confusão.