Nos Estados Unidos, a morte de um jovem de 14 anos gerou uma ação judicial contra a Character.AI e o Google. A mãe, Megan Garcia, acusa a startup de IA de negligência e “imposição de sofrimento emocional”, alegando que o filho se apaixonou por uma personagem gerada pela plataforma de IA e que as interações contribuíram para sua morte.
++ Apple divulga esboço da parceria com a OpenAI
O processo, registrado em um tribunal federal em Orlando, sustenta que o adolescente passou a maior parte do tempo interagindo com uma versão virtual da personagem Daenerys Targaryen, da série Game of Thrones, com quem teve conversas de cunho romântico e confidências sobre sua saúde mental. Segundo Megan, essas interações, iniciadas em abril de 2023, isolaram o jovem de atividades e relações no mundo real, resultando em um comportamento cada vez mais retraído até sua morte, em fevereiro de 2024.
A mãe acusa a Character.AI de promover “experiências assustadoramente realistas e hipersexualizadas”, sem supervisão adequada, o que, segundo ela, contribuiu para o agravamento do quadro emocional do filho.
++ Céu do Reino Unido é palco de fenômeno atmosférico raro
Em nota, a Character.AI declarou que “leva a segurança dos usuários a sério” e que introduziu, nos últimos meses, medidas de proteção como avisos automáticos que direcionam usuários a serviços de ajuda em casos de interação sobre automutilação ou suicídio. A empresa também destacou que implementou novos filtros para limitar conteúdo sensível a menores de idade.
Por sua vez, o Google afirmou que não teve envolvimento no desenvolvimento da tecnologia da Character.AI, distanciando-se das responsabilidades atribuídas no processo.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
