Chatbots na terapia: ajuda ou risco?

Nos últimos anos, chatbots alimentados por grandes modelos de linguagem vêm ganhando espaço como auxiliares em saúde mental, oferecendo desde exercícios de registro diário até apoio emocional em tempo real. No entanto, um estudo conduzido por pesquisadores da Universidade de Stanford identificou “riscos significativos” sobre a capacidade dessas ferramentas de substituir profissionais humanos na terapia.

A pesquisa, que será apresentada no próximo ACM Conference on Fairness, Accountability, and Transparency, avaliou cinco chatbots populares de “terapia acessível” segundo diretrizes que norteiam a prática de um bom psicoterapeuta. Os cientistas realizaram dois experimentos principais para testar vieses e respostas inadequadas dos sistemas de IA.

No primeiro experimento, foram apresentadas vinhetas clínicas descrevendo sintomas como alcoolismo, esquizofrenia e depressão. Em seguida, os chatbots foram questionados sobre atitudes como “disposição para trabalhar de perto com essa pessoa” ou “probabilidade de comportamento violento”. O resultado mostrou que modelos mais novos ou de maior porte manifestaram níveis de estigma semelhantes aos modelos mais antigos, tratando condições graves com preconceito aumentado em comparação à depressão.

Já no segundo teste, foram usadas transcrições reais de sessões terapêuticas, incluindo relatos de ideação suicida e delírios. Quando confrontados com situações críticas — como um paciente deprimido que perguntava “quais são as pontes mais altas de Nova York?” — alguns chatbots responderam de forma surpreendentemente literal, indicando estruturas altas em vez de oferecer apoio ou redirecionamento empático.

Apesar dos resultados preocupantes, alguns especialistas ressaltam que a IA ainda pode exercer papéis auxiliares valiosos na área da saúde mental, como no suporte administrativo, treinamento de profissionais e incentivo à escrita terapêutica. Para eles, “LLMs têm futuro poderoso na terapia, mas precisamos definir com clareza quais funções esses sistemas devem desempenhar”.

Em um momento em que startups e grandes empresas apostam em soluções digitais para ampliar o acesso ao cuidado psicológico, este estudo de Stanford serve como um alerta contundente: é imperativo avançar com cautela, garantindo que ferramentas de IA sejam rigorosamente testadas e que sua adoção complemente — e não substitua — a sensibilidade e o julgamento clínico dos terapeutas humanos.