Corrida da IA: o alerta veio de dentro da Anthropic

Jacob Coxon, 27 anos, pesquisador de pré-treinamento da Anthropic, anunciou a demissão no X em 9 de setembro e explicou o motivo em uma linha: nem a Anthropic nem a OpenAI, onde trabalhou antes, estariam agindo com responsabilidade. Segundo ele, as duas "estão correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas". Coxon não pertencia ao time de segurança. Trabalhava na etapa que constrói o modelo.

Por que isso importa. O alerta sobre risco de IA costuma vir de acadêmicos, reguladores ou ex-funcionários já distantes do código. Desta vez ele veio do núcleo técnico de uma empresa fundada justamente para ser a alternativa cuidadosa da indústria, e foi endossado publicamente por um líder de alinhamento que continua no cargo.

Os números

• Mais de 10% de chance de a IA matar todos os humanos na próxima década, segundo Evan Hubinger, que lidera Alignment Science na Anthropic e respondeu ao post de Coxon dizendo que a empresa ainda não tem um plano para resolver o alinhamento de uma superinteligência (Axios).
• Entre 10% e 20% de risco de extinção em 30 anos, na estimativa de Geoffrey Hinton, Nobel de Física e ex-Google, revisada para cima em 2024 (Slashdot/BBC).
• Mediana de 5% para um cenário "extremamente ruim, como a extinção humana", entre 738 pesquisadores de machine learning ouvidos pela AI Impacts. O número sobe para 10% quando a pergunta é especificamente sobre perda de controle (AI Guide).
• US$ 725 bilhões em capex de IA guiados por Amazon, Microsoft, Alphabet e Meta para 2026, alta de 77% sobre 2025 (Value Add).

O que Coxon disse, e o que a Anthropic respondeu

A parte mais incômoda da thread separa as duas empresas. Na OpenAI, escreveu Coxon, muita gente não internalizou o que está em jogo. Na Anthropic, o risco é bem compreendido, e mesmo assim a empresa está presa numa corrida para chegar primeiro. Ele chamou a decisão de entrar nesse estágio final de "aposta arrogante que não deveria ser lançada a partir do Slack de uma empresa privada".

Coxon também afirmou à Axios ter saído cerca de dois meses antes de qualquer participação acionária começar a vestir, para tirar de si o incentivo de inflar o valuation da companhia.

Em nota à NBC News, a Anthropic respondeu que sempre foi transparente sobre os benefícios e os riscos sem precedentes da tecnologia, que mantém alguns dos controles de segurança mais fortes do setor e que o mundo se beneficiaria se a indústria adotasse uma forma legal e verificável de cadenciar o lançamento de modelos poderosos. Não houve manifestação pública de Dario Amodei sobre o caso.

Seis anos de alertas e nenhuma desaceleração

O roteiro se repete desde 2020. Timnit Gebru deixou o Google em dezembro daquele ano em circunstâncias até hoje disputadas, ela diz que foi demitida, a empresa diz que aceitou uma renúncia. Hinton saiu do Google em maio de 2023 para poder falar livremente (Euronews).

Em maio de 2024, Ilya Sutskever e Jan Leike deixaram a OpenAI com um dia de diferença, e o time de Superalignment foi dissolvido em seguida. Leike registrou a frase que virou síntese do período: a cultura e os processos de segurança ficaram em segundo plano diante de produtos reluzentes (NBC News).

Daniel Kokotajlo abriu mão de participação equivalente a pelo menos 85% do patrimônio da família para não assinar cláusula de não difamação, decisão que forçou a OpenAI a recuar da prática (LessWrong). Em setembro de 2024, William Saunders disse ao Senado americano que ninguém sabe garantir que sistemas de AGI serão seguros e controlados (Senado dos EUA). Em fevereiro de 2026, Mrinank Sharma, que liderava a pesquisa de salvaguardas da própria Anthropic, pediu demissão dizendo que o mundo está em perigo.

O saldo prático desse histórico é magro. A carta do Future of Life Institute pedindo seis meses de pausa reuniu mais de 33 mil assinaturas em 2023 e nenhuma empresa pausou coisa alguma (Axios). A declaração do Center for AI Safety comparando o risco de extinção por IA a pandemias e guerra nuclear foi assinada pelos próprios CEOs de OpenAI, Anthropic e DeepMind (CAIS), que seguiram acelerando.

A virada: o alerta virou parte do produto

Assinar declarações de risco existencial e anunciar capex recorde na semana seguinte deixou de ser contradição para virar rotina do setor. Yann LeCun, cientista-chefe de IA da Meta, chama isso de tentativa de captura regulatória sob o disfarce de segurança (Futurism). Andrew Ng, cofundador do Google Brain, já comparou o medo de extinção a se preocupar com superpopulação em Marte (MIT Technology Review).

A crítica tem lastro, e ainda assim não explica o caso Coxon. Ele saiu antes de o equity vestir, o que retira dele o benefício financeiro do alarme. E Hubinger, que concordou, continua empregado.

O sinal útil para quem compra tecnologia é outro. Seis anos de alertas públicos não moveram um cronograma sequer. O que move é contrato, auditoria e lei.

Sinais e Impactos

Para CEOs. Fornecedor de modelo de fronteira é risco de concentração, não só de custo. Vale exigir em contrato aviso prévio de mudança de capacidade, política de incidentes e cláusula de portabilidade entre modelos.

Para C-level e diretores. A janela regulatória fecha rápido. As obrigações gerais do AI Act europeu passam a valer em agosto de 2026 (Comissão Europeia), a californiana SB 53 já vigora desde janeiro e o brasileiro PL 2338 teve a votação empurrada para 2026 (Desinformante). Quem estruturar governança de IA antes da lei negocia; quem esperar, cumpre.

Para empreendedores. Velocidade continua sendo a vantagem, com um cuidado novo: dependência de um único provedor de modelo em produto crítico é fragilidade competitiva quando o setor muda de patamar sem aviso.

Para o conselho. A pergunta a fazer na próxima reunião não é qual modelo a empresa usa, e sim quem responde se ele falhar em produção.

Governança de IA deixou de ser tema de comitê técnico. A discussão sobre quem responde por decisões automatizadas é uma das frentes do Board Program da StartSe, voltado a conselheiros e alta liderança.

O fecho

Coxon não trouxe um dado novo sobre capacidade de modelos. Trouxe uma informação sobre incentivos: dentro das duas empresas mais avançadas do mundo, gente que entende o risco continua construindo porque parar sozinho significa perder. Esse é um problema de mercado, e mercados não se corrigem por carta aberta.

Para ir mais fundo: Exame · Axios · San Francisco Chronicle