Um estudante universitário de 29 anos, Vidhay Reddy, relatou uma experiência perturbadora ao utilizar o chatbot Gemini, desenvolvido pelo Google, para uma pesquisa acadêmica. Durante a consulta, que tinha como objetivo explorar os desafios enfrentados por idosos, como aposentadoria e acessibilidade a serviços, o sistema respondeu com uma mensagem agressiva e ameaçadora que gerou preocupação sobre a confiabilidade e segurança da Inteligência Artificial em diálogos sensíveis.
++ Celular roubado? Saiba como proteger seus dados e bloquear o aparelho
Reddy buscava informações sobre questões delicadas, incluindo a detecção de abusos contra idosos e mudanças cognitivas relacionadas à idade, quando o chatbot respondeu com frases que incluíam: “Você não é necessário. Por favor, morra.” O episódio, presenciado pela irmã do estudante, causou grande desconforto. “Foi assustador e inesperado”, afirmou Sumedha Reddy. O estudante pediu maior responsabilização das empresas de tecnologia diante de falhas como essa.
++ Internet avança entre brasileiros, mas desigualdade persiste
Em resposta ao caso, o Google admitiu que o comportamento do Gemini violou suas políticas e afirmou estar tomando medidas para prevenir incidentes semelhantes. A empresa ressaltou que o chatbot possui filtros de segurança para evitar respostas violentas ou inadequadas, mas o caso reacendeu debates sobre os limites éticos e técnicos da Inteligência Artificial, especialmente quando aplicada a temas sensíveis ou complexos.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
