Anti-algoritmo? Líderes deixam de usar IA no primeiro erro

O modelo errou uma vez. Só uma. E, a partir dali, ninguém no comitê quer mais ouvir a recomendação dele — mesmo que, olhando o histórico completo, o modelo continue acertando mais do que qualquer analista humano da sala.

Esse comportamento tem nome na literatura de comportamento organizacional: aversão a algoritmo. Os pesquisadores Berkeley Dietvorst, Joseph Simmons e Cade Massey, da Wharton School, descreveram o fenômeno em um estudo hoje amplamente citado: pessoas tendem a desconfiar ou rejeitar recomendação de algoritmo depois de vê-lo errar — mesmo quando ele supera, de forma consistente, o julgamento humano equivalente.

Um erro do modelo pesa mais do que dez erros do humano

A assimetria é o coração do problema. Quando um analista humano erra uma previsão, o comitê tende a explicar o erro por circunstância — "o mercado mudou", "faltou informação", "não tinha como prever". Quando o modelo erra, o mesmo comitê generaliza na hora: "esse sistema não funciona", "eu não confio nisso", "vamos voltar a decidir do nosso jeito".

O humano recebe o benefício da dúvida repetidamente. O algoritmo recebe uma única chance. E essa diferença de tratamento não tem relação com qual dos dois realmente erra mais ao longo do tempo — tem relação com a forma como as pessoas atribuem responsabilidade por erro de máquina versus erro humano.

O exemplo mais comum acontece na sala de recrutamento

Um caso típico: uma equipe usa ferramenta de IA para triar centenas de currículos, e o modelo descarta um candidato que, por indicação de um colega, acaba sendo entrevistado e se revela excelente. A partir desse único episódio, o gestor responsável perde confiança na ferramenta inteira e volta a fazer a triagem manual de todos os candidatos seguintes — mesmo que o histórico do modelo mostrasse taxa de acerto superior à do processo manual anterior.

Ninguém audita, no mesmo rigor, quantos bons candidatos o processo manual descartava antes da ferramenta existir. O erro humano recorrente nunca vira manchete interna. O erro do algoritmo, mesmo isolado, vira motivo para descartar o sistema inteiro.

Isso não é problema de tecnologia. É problema de como comitê decide

O reflexo de abandonar o algoritmo no primeiro erro parece prudência — na prática, é o oposto. É decisão emocional disfarçada de critério técnico. E o efeito colateral é caro: a empresa paga pela implementação da ferramenta, treina o time para usá-la, e depois joga fora o investimento inteiro na primeira vez que o modelo comete um erro que qualquer analista também cometeria.

O problema fica mais grave quando esse comitê é justamente o que decide se a empresa continua investindo em IA ou não. Uma liderança que abandona ferramenta no primeiro tropeço está, sem perceber, sabotando o próprio processo de maturação que tornaria aquele modelo cada vez mais preciso.

Existe um jeito de superar essa aversão — e ele não é ignorar o erro

A pesquisa da Wharton também aponta o caminho de saída, em trabalho posterior dos mesmos autores: pessoas confiam mais em um algoritmo quando têm alguma margem para ajustá-lo, mesmo que minimamente, em vez de precisar aceitá-lo como caixa-preta infalível. Dar ao comitê algum controle sobre o processo — não sobre o resultado, mas sobre como o modelo é usado — reduz a rejeição automática depois do primeiro erro.

Isso muda a forma como a liderança deveria implementar qualquer ferramenta de IA: não como substituição total do julgamento humano, mas como um segundo parecer que o comitê pode calibrar, testar e ajustar ao longo do tempo — sabendo, desde o início, que erro pontual faz parte do processo de calibragem, não motivo para descartá-lo.

Seu comitê julga o algoritmo pelo padrão que aplica a si mesmo?

Essa é a pergunta que separa liderança que usa IA de verdade de liderança que só finge usar até o primeiro tropeço. É esse tipo de critério — saber quando confiar, quando calibrar e quando o erro é parte do aprendizado, não motivo de descarte — que a AI Journey ajuda lideranças a desenvolver, antes que o primeiro erro do modelo custe todo o investimento feito nele.