Seu terceirizado de IA também pode ser a sua brecha

Sua empresa pode ter os melhores controles de segurança do mercado e ainda assim ter dados expostos. Basta que o fornecedor de IA seja invadido.

Foi o que aconteceu com clientes da Fireworks AI. A empresa, que oferece infraestrutura para rodar e treinar modelos de inteligência artificial, revelou em 9 de novembro que ataques recentes expuseram informações de cobrança, endereços, histórico de pagamentos e, para alguns clientes, conjuntos de dados e partes de modelos de IA ainda em desenvolvimento. Segundo a Forbes, dois clientes disseram ter transferido boa parte dos negócios para outros fornecedores.

A Fireworks não é uma startup qualquer. Tem cerca de 10 mil clientes corporativos, faturou cerca de US$ 250 milhões em 2025 e é avaliada em US$ 17,5 bilhões, quatro vezes mais do que há nove meses.

O que aconteceu com a Fireworks AI?

A empresa sofreu ao menos dois incidentes em poucas semanas. Segundo o The Neuron, em 6 de outubro a Fireworks identificou que alguém havia usado credenciais internas para acessar informações de um número limitado de contas de clientes. Os invasores obtiveram variáveis de ambiente de tarefas de avaliação de IA, que podem conter chaves de acesso.

Entre 23 e 25 de outubro, um fornecedor de nuvem terceirizado da própria Fireworks sofreu um incidente. A partir dele, os atacantes chegaram às máquinas de desenvolvimento da empresa e expuseram mais dados de clientes.

A CEO, Lin Qiao, afirmou que o comportamento dos invasores parecia envolver agentes de IA. A empresa atribuiu os ataques a “LLMjacking” e contratou a Unit 42, da Palo Alto Networks, para investigar. Números de cartão de pagamento não foram afetados, segundo a Fireworks.

O que é LLMjacking?

É o roubo de acesso a contas de serviços de IA para revendê-lo. Os criminosos capturam chaves de API, que funcionam como senhas para usar modelos de IA, e vendem esse acesso com desconto em mercados clandestinos. Quem paga a conta é o dono legítimo da chave.

Os valores não são pequenos. Segundo um relatório do Google Threat Intelligence Group e da Mandiant, citado pelo The Neuron, houve casos de mais de US$ 100 mil em uso fraudulento num único dia, e organizações cobradas em até US$ 1 milhão antes de o acesso ser revogado.

Para uma empresa, isso significa que uma chave de API esquecida num código ou num ambiente de testes pode virar uma conta milionária, além de uma porta de entrada para dados sensíveis.

O risco mudou de lugar

O caso Fireworks mostra um ponto cego comum nas estratégias de IA: a empresa contrata modelos, plataformas e provedores de infraestrutura, envia a eles dados de clientes e de negócio, e trata esses fornecedores como se fossem só mais um software.

Mas um fornecedor de IA costuma guardar exatamente o que a empresa tem de mais valioso: os dados usados para treinar ou ajustar modelos, os próprios modelos personalizados e o histórico de uso. Quando ele é invadido, o prejuízo vai muito além de uma lista de e-mails.

O incidente ainda teve um efeito em cascata. A própria Fireworks foi atingida a partir de um fornecedor dela. A cadeia de risco tem vários elos, e a empresa cliente raramente enxerga todos.

Os conselhos já se preocupam, mas olham para dentro

A preocupação existe. Segundo a pesquisa anual da PwC com conselheiros, divulgada em setembro, 69% apontam riscos de cibersegurança, privacidade de dados ou propriedade intelectual como a principal preocupação ligada à IA. E 58% dos conselhos aumentaram a interação com o CISO, o executivo responsável pela segurança da informação, no último ano.

O problema é que a supervisão costuma olhar para os sistemas da própria empresa. A pergunta sobre o que os fornecedores de IA guardam, como protegem e o que acontece se forem invadidos aparece bem menos. E, segundo a mesma pesquisa, 82% dos conselheiros consideram razoável, ruim ou inexistente a informação que recebem sobre resultados e riscos de IA.

As perguntas que todo conselho deveria fazer

O The Neuron reuniu recomendações práticas a partir do caso, que podem ser traduzidas em perguntas para a gestão.

Quais dados da empresa estão hoje com fornecedores de IA, e quais deles são sensíveis? Os fornecedores guardam esses dados depois de processá-los, ou operam com retenção zero? As chaves de API têm acesso restrito apenas ao necessário, limites de gasto e monitoramento de uso fora do padrão? Existe um plano para trocar credenciais e migrar de fornecedor rapidamente, se necessário?

A última pergunta é estratégica. Os clientes que saíram da Fireworks conseguiram fazer isso porque tinham alternativa. Empresas presas a um único fornecedor de IA, sem plano de saída, ficam sem opção justamente quando mais precisam.

Seu conselho sabe quais fornecedores de IA guardam os dados da empresa?

O caso Fireworks não é sobre uma empresa específica, e sim sobre uma nova categoria de risco. À medida que a IA se espalha pela operação, cresce o número de fornecedores que tocam dados críticos, e cresce a superfície de ataque que nenhum firewall interno protege.

Colocar esse risco na pauta do conselho, com as perguntas certas e a supervisão adequada, é um dos temas do Board Program da StartSe, voltado a conselheiros que querem supervisionar a IA além das paredes da própria empresa.