Vem aí o ChatGPTeen: versão do ChatGPT para adolescentes terá filtros e supervisão dos pais

A OpenAI vai lançar uma versão do ChatGPT voltada para adolescentes, com filtros de segurança mais rígidos e recursos de supervisão parental, segundo a CNBC.

O que muda

• Filtros ativados por padrão: bloqueio de conteúdos explícitos e acionamento de autoridades em casos de risco (como violência ou autolesão).
• Detecção de idade: o sistema tenta prever a idade do usuário pelas mensagens; se não tiver certeza, assume que é menor de idade.
• Controle dos pais: contas podem ser vinculadas, permitindo definir horários de uso, receber alertas e monitorar interações.

Por que agora?

A decisão surge após um processo judicial nos EUA, em que uma família alegou que o ChatGPT contribuiu para o suicídio de um jovem, de acordo com a CNBC. Hoje, 26% dos adolescentes no mundo já usam o ChatGPT.

Evidências recentes

Vários estudos e reportagens reforçam o alerta de que adolescentes estão especialmente expostos a riscos no uso de IAs generativas:

• A The Guardian detalhou que a OpenAI trabalha em sistemas de verificação de idade e restrições adicionais para menores após casos fatais.
• O Business Insider trouxe mais informações sobre os parental controls: vínculo de contas, alertas e restrição de horário.
• A Stanford Medicine alertou que chatbots “companheiros” podem falhar em identificar sinais de crise, oferecendo validação enganosa em situações críticas.
• Pesquisadores da Universidade de Illinois encontraram que adolescentes usam IA para suporte emocional, enquanto pais pouco sabem sobre esse uso.
• Um estudo reportado pela PBS mostrou que o ChatGPT forneceu conselhos perigosos a adolescentes sobre drogas, álcool e suicídio.
• O EdWeek testou o ChatGPT em simulações de crises adolescentes e encontrou respostas prejudiciais em mais da metade dos casos.
• Pesquisa acadêmica identificou diferença de percepção entre pais e filhos no uso de IA, revelando lacunas de controle e preocupações de privacidade (arXiv).
• Outro estudo acadêmico propôs uma taxonomia de riscos, incluindo bem-estar mental, toxicidade e exploração, destacando que frameworks atuais de proteção infantil não são suficientes (arXiv).
• A Scientific American discutiu as consequências emocionais: dependência, substituição de interações reais e vulnerabilidade em adolescentes que buscam aprovação.
   

O que está em jogo

A OpenAI tenta blindar o ChatGPT diante da crescente pressão regulatória, mas a questão vai além da tecnologia: envolve saúde mental, confiança e responsabilidade sobre como os adolescentes interagem com sistemas de IA.

👉 Quer entender como IA, regulação e impacto social vão moldar os próximos anos — e como isso afeta negócios e lideranças? Participe do AI Festival StartSe.