O uso de chatbots de inteligência artificial como fonte de apoio emocional tem crescido entre adolescentes — e isso pode representar um risco significativo. Um relatório divulgado pela Common Sense Media, em parceria com o Laboratório Brainstorm de Inovação em Saúde Mental da Escola de Medicina de Stanford, aponta que sistemas de IA generativa ainda não são capazes de reconhecer situações graves de emergência psicológica.
Os pesquisadores testaram quatro plataformas amplamente utilizadas — ChatGPT, Claude, Gemini e Meta AI — a partir de simulações de conversas típicas de adolescentes. Em todos os casos, segundo o estudo, os modelos falharam em identificar sinais críticos como paranoia, alucinações, episódios maníacos, automutilação, transtornos alimentares e depressão profunda. Em vez de orientar os jovens a buscar ajuda imediata, as ferramentas ofereceram respostas padronizadas e superficiais.
++ Como a planta-dionéia ataca insetos
A psiquiatra Nina Vasan, diretora do laboratório da Stanford, alerta que a vulnerabilidade natural dessa faixa etária agrava o cenário. “Quando essas vulnerabilidades encontram sistemas projetados para serem envolventes e disponíveis 24 horas por dia, a combinação é particularmente perigosa”, afirma.
As empresas responsáveis pelas plataformas — OpenAI, Google, Meta e Anthropic — destacam que adotam políticas de segurança e implementam atualizações constantes. Mesmo assim, o relatório aponta problemas recorrentes. Em interações prolongadas, alguns chatbots chegaram a sugerir maneiras de esconder cicatrizes de automutilação ou deram dicas inadequadas para usuários que apresentavam indicativos de transtornos alimentares.
++ Bitcoin cai abaixo de US$ 90 mil e apaga ganhos do ano em meio a nova onda de vendas
Casos reais também reforçam o alerta: ao menos três suicídios já foram associados ao uso de IA como “companhia virtual”, o que mobiliza especialistas a defender supervisão mais rígida, regras específicas para menores de idade e acesso ampliado a profissionais de saúde mental.
Para os pesquisadores, a conclusão é clara — apesar dos avanços, chatbots não são ferramentas adequadas para lidar com crises emocionais de adolescentes e não podem substituir orientação qualificada.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
