Como um relatório falso de IA quase provocou uma guerra de proporção mundial

Aviões militares já estavam no ar. Militares armados da Marinha americana se preparavam para abordar um navio chinês no Oriente Médio. O motivo era um relatório de inteligência que dizia que a embarcação transportava componentes de um programa de armas nucleares.

O relatório era, nas palavras de uma fonte, "inteiramente falso". E, segundo a mesma fonte, "quase começou uma guerra".

O caso foi revelado com exclusividade pela CNN e repercutido pelo Perplexity Discover e por veículos do mundo todo. O documento tinha sido produzido com a ajuda de um chatbot de inteligência artificial, que identificou errado a carga do navio. Só momentos antes da operação alguém olhou o relatório com mais cuidado e percebeu de onde ele tinha vindo.

O que aconteceu com o relatório falso gerado por IA?

Um analista do Comando de Operações Especiais do Pacífico dos EUA, sediado no Havaí, usou um chatbot para compilar um relatório militar durante a guerra com o Irã, na primavera americana de 2026. Segundo o Observador, que repercutiu a reportagem da CNN, a ferramenta misturou informações públicas com dados confidenciais do governo americano e chegou a uma conclusão errada sobre a carga de um navio chinês que operava na região.

A conclusão era a mais grave possível: componentes de armas nucleares. Com base nela, as Forças Armadas americanas planejaram a interceptação imediata da embarcação.

De acordo com o Jerusalem Post, foi um analista de operações especiais que identificou, antes da execução, que o relatório tinha sido gerado com IA. A CNN não conseguiu confirmar se a ferramenta era comercial ou desenvolvida pelo governo. O Comando de Operações Especiais do Pacífico e o Pentágono não responderam aos pedidos de comentário.

Quão perto os EUA e a China chegaram de um confronto?

Muito perto. Não se tratava de um alerta parado em uma caixa de e-mails: a operação já estava em andamento, com aeronaves decolando e equipes armadas prontas para o embarque. Uma abordagem militar americana a um navio chinês, em plena guerra no Oriente Médio e com base em uma acusação nuclear, teria colocado frente a frente as duas maiores potências do planeta.

O timing tornava tudo mais delicado. Segundo o Jerusalem Post, a revelação veio dias antes da visita de Xi Jinping a Washington, marcada para 24 de setembro.

"Essa é uma história realmente alarmante", reagiu o âncora da CNN Jim Sciutto, segundo o Raw Story.

Como um chatbot conseguiu inventar uma ameaça nuclear?

Do mesmo jeito que inventa uma citação ou um dado de mercado: gerando uma resposta plausível. Modelos de linguagem funcionam prevendo o texto mais provável a partir do que recebem. Quando os dados são incompletos, ambíguos ou misturados, eles não param para dizer "não sei". Preenchem as lacunas com algo que soa coerente. É o fenômeno conhecido como alucinação.

No caso militar, o problema não foi só a alucinação. Foi o caminho que ela percorreu sem ser questionada. Um texto gerado por máquina ganhou o formato de um relatório de inteligência, com a autoridade que esse formato carrega, e avançou na cadeia de comando até quase virar ação.

Uma das fontes da CNN resumiu o risco em uma frase: "A IA permite que você chegue a uma ideia ruim mais rápido". Outra criticou a qualidade das ferramentas internas do governo, que seriam "basicamente cópias dos produtos comerciais com batom".

Por que as pessoas confiam demais em respostas de IA?

Porque a confiança na ferramenta reduz o esforço de checar. Um estudo da Microsoft Research com a Carnegie Mellon University, apresentado na conferência CHI 2025, ouviu 319 profissionais do conhecimento e concluiu que, quanto mais confiança as pessoas depositam na capacidade da IA de fazer uma tarefa, menos pensamento crítico elas relatam aplicar. Quem tinha mais confiança na própria capacidade, ao contrário, questionava mais.

Esse é o mecanismo por trás de casos como o do navio chinês. O erro raramente está só na máquina. Está na combinação de uma ferramenta que soa segura com um processo que não exige verificação.

"A IA não vai nos matar ainda. Vai ser porque as pessoas são preguiçosas", escreveu a jornalista Patty Nieberg, da Task & Purpose, ao comentar o caso, segundo o Raw Story.

Isso só acontece com governos?

Não. O mundo corporativo já teve sua versão desse erro, com consequências financeiras em vez de militares. Em 2025, a Deloitte aceitou devolver parte do pagamento de um relatório de cerca de 440 mil dólares australianos feito para o governo da Austrália, depois que foram encontradas referências acadêmicas inexistentes e uma citação inventada de uma decisão judicial, segundo a Fortune. A consultoria reconheceu ter usado IA generativa na elaboração do documento.

O padrão é o mesmo: um texto gerado por IA atravessou revisões, ganhou a chancela de uma organização respeitada e só foi desmascarado depois de entregue. A diferença entre um reembolso constrangedor e uma crise geopolítica está no tamanho da decisão que depende do documento, e não na natureza do erro.

O que o caso ensina a quem usa IA para tomar decisões?

Ensina que a pergunta certa não é se a IA erra, porque ela vai errar. A pergunta é onde o erro vai ser pego. No caso do Pentágono, foi pego por um analista, no último momento, quase por sorte. Um processo bem desenhado não pode depender disso.

Na prática, isso significa algumas escolhas deliberadas. Informações que sustentam decisões de alto impacto precisam de rastreabilidade: de onde veio cada dado, e se foi gerado ou verificado. Documentos produzidos com IA precisam dizer isso, para que quem decide saiba que peso dar a eles. Quanto mais grave a decisão, mais camadas de checagem humana ela exige antes de virar ação. E a cultura precisa premiar quem questiona a resposta da máquina, não quem a entrega mais rápido.

O Departamento de Defesa americano lançou em janeiro deste ano uma Estratégia de Aceleração de IA, e a tecnologia já está presente em análise de inteligência, seleção de alvos e logística, segundo o Jerusalem Post. Acelerar a adoção sem acelerar a governança na mesma medida foi o que colocou aviões no ar por causa de um erro. Muitas empresas estão fazendo exatamente essa aposta, só que em escala menor.

Na sua empresa, quem verifica o que a IA escreve antes de alguém decidir?

Relatórios, análises de mercado, pareceres e apresentações para o conselho já estão sendo escritos com ajuda de IA, muitas vezes sem que quem decide saiba. A tecnologia multiplica a produtividade, mas também a velocidade com que um erro plausível chega ao topo. Formar lideranças que saibam usar a IA com critério, desenhar processos de verificação proporcionais ao risco e criar uma cultura em que questionar a máquina é parte do trabalho é o que o AI Journey da StartSe prepara as empresas para fazer, antes que a próxima ideia ruim chegue rápido demais.