Quando a IA participa da decisão, quem responde pelo erro?

A inteligência artificial deixou de ser ferramenta de eficiência e passou a operar como uma variável explícita de poder dentro das empresas, mas a estrutura que deveria dizer quem responde quando essa IA erra ainda não acompanhou essa mudança na maioria dos conselhos.

O poder sobre IA já subiu ao topo, a responsabilidade não acompanhou

O movimento de centralização é rápido e mensurável. O AI Radar 2026, do Boston Consulting Group, mostra que 72% dos CEOs já se declaram os principais responsáveis pelas decisões de IA na própria empresa, o dobro do registrado no ano anterior. O poder de decidir sobre a tecnologia subiu ao topo da hierarquia em pouco mais de doze meses.

O problema é que essa centralização de poder não veio acompanhada de estrutura formal de responsabilização. Levantamento recente mostra que apenas 28% das organizações dizem que o CEO assume responsabilidade direta pela governança de IA, e somente 17% relatam que o próprio conselho o faz. Ou seja, o CEO decide cada vez mais sobre IA, mas a minoria assume, por escrito, a responsabilidade formal por essa decisão. É exatamente esse hiato entre poder e responsabilização que qualquer conselheiro deveria tratar como risco, e não como detalhe burocrático.

Por que "a culpa é do algoritmo" não é resposta válida

Juridicamente, a inteligência artificial não tem personalidade nem autoria, o que significa que a responsabilidade por qualquer decisão automatizada sempre recai sobre pessoas ou instituições, nunca sobre a máquina. O desenvolvedor que constrói o sistema, o distribuidor que licencia a solução e a empresa que aplica a IA em sua operação dividem, de formas diferentes, esse ônus, mas é a empresa aplicadora que carrega a responsabilidade mais imediata diante do cliente ou do mercado.

Uma boa governança de IA precisa decompor essa responsabilidade em camadas, evitando tanto a ficção de que a culpa é só da máquina quanto a simplificação de que o problema é apenas de TI. Quando múltiplos agentes autônomos colaboram para aprovar pagamento, assinar contrato ou modificar configuração, e um erro grave acontece, rastrear qual componente da decisão falhou se torna desafio real para qualquer equipe de segurança, especialmente quando os registros do processo são fragmentados e difíceis de auditar depois do fato.

Números que mostram o tamanho do vácuo de governança

O vácuo institucional já está documentado por mais de um estudo, o que retira qualquer margem para tratar esse tema como exagero. Segundo relatório da Comissão Europeia, o fenômeno da accountability diluída ocorre quando desenvolvedores, fornecedores, operadores e usuários compartilham papéis na cadeia de decisão automatizada, dificultando identificar com clareza quem deveria ser responsabilizado quando algo falha.

No Brasil, a discussão sobre o Marco Legal da Inteligência Artificial no Congresso Nacional reforça a urgência do tema, com entidades do setor jurídico já alertando para lacunas regulatórias que podem comprometer a responsabilização efetiva de empresas que adotam IA em processos críticos. Esse tipo de lacuna tende a gerar consequência concreta: dificuldade legal para quem for prejudicado por uma decisão automatizada, insegurança jurídica para a própria empresa e pressão crescente por normas mais rígidas de rastreabilidade.

O que uma estrutura madura de accountability precisa ter

Especialistas em governança corporativa de IA convergem em alguns pilares que qualquer conselho deveria exigir antes de qualquer decisão crítica passar por sistema automatizado:

• Definição explícita de dono do risco. Antes de a IA operar livremente em qualquer processo, a política corporativa precisa deixar claro quem responde formalmente caso essa decisão falhe.
   
• Supervisão humana em decisões críticas. A implementação de revisão humana em pontos estratégicos do processo demonstra diligência técnica da empresa e reduz a exposição jurídica em caso de erro.
   
• Rastreabilidade transformada em sinal legível. Logs de decisão automatizada precisam ser convertidos em registros de auditoria compreensíveis para humanos, não apenas em dados técnicos dispersos e difíceis de interpretar depois do incidente.
   
• Aprovação formal para projetos de alto risco. Nenhum sistema de IA deveria entrar em produção sem ter passado por um processo estruturado de validação, registro e aprovação, semelhante a um regime de licenciamento interno.
   
• Papel ativo do conselho, não apenas do CEO. Com apenas 17% dos conselhos assumindo essa responsabilidade hoje, ampliar essa participação é o que evita que toda a exposição de risco fique concentrada em uma única pessoa da organização.

O caminho para o conselho não ser pego de surpresa

O erro mais comum, à medida que a IA passa a coproduzir decisões críticas em empresas de qualquer setor, é tratar governança como tema técnico a ser resolvido pela área de dados, quando na prática se trata de responsabilidade jurídica, ética e estratégica que precisa estar na mesa do próprio conselho antes que o erro aconteça, não depois dele.

Discutir esse tipo de protocolo, quem decide, quem responde e como a empresa se prepara para o dia em que uma decisão automatizada sair errada, é exatamente o tipo de repertório que o Board Program, da StartSe, coloca diante de conselheiros que já sentem essa lacuna na própria organização, mas ainda não têm estrutura formal para endereçá-la.

A pergunta que fica para qualquer conselho não é mais se a empresa vai usar IA em decisões relevantes. É se, no momento em que uma dessas decisões falhar, existirá clareza sobre quem responde por ela.