Criminosos estão se organizando em grupos de ódio no Telegram para criar e compartilhar imagens p0rnográficas falsas de mulheres brasileiras, usando ferramentas de inteligência artificial. Reportagem da BBC, publicada nesta quinta-feira (18), revelou que essas montagens são feitas sob encomenda e geralmente têm como alvo pessoas próximas dos solicitantes, como vizinhas, colegas e até parentes.
Uma das vítimas, identificada como “Ana” (nome fictício), é bartender e teve uma foto sua manipulada por IA. Na imagem original, ela aparece ao lado da mãe, mas a versão alterada mostra ambas sem roupa. A mãe de Ana é uma senhora religiosa de 65 anos.
++ Donald Trump volta atrás e agora defende a permanência do TikTok nos EUA
A imagem deepfake foi compartilhada junto com um link para o perfil de Ana no Instagram. Ela descobriu o ataque após receber mensagens na rede social e decidiu investigar.
Ana acredita que a montagem seja uma represália a uma postagem sua no Facebook. Na publicação, ela alertava sobre participantes de uma comunidade na plataforma que estavam manipulando fotos de mulheres conhecidas, adicionando seus rostos a cenas de s e x o ou inserindo corpos sem roupas nas imagens originais.
Comunidades de deepfake no Telegram
Durante a investigação, Ana encontrou várias páginas no Facebook promovendo comunidades de deepfake no Telegram. Ela conseguiu acesso a um grupo fechado no aplicativo e compartilhou os detalhes com a BBC.
Segundo a reportagem, os membros desses grupos encomendam deepfakes p0rnográficos com fotos de mulheres que conhecem e recebem as imagens alteradas algum tempo depois. Os diálogos entre eles são repletos de conteúdos misóginos.
Ana descobriu informações sobre um dos administradores e as repassou à polícia em São Paulo. Junto com outras vítimas, ela pretende responsabilizar judicialmente os responsáveis pelo grupo no Telegram.
++ Meta suspende recursos de IA generativa no Brasil; entenda
Resposta das plataformas
À BBC, a Meta afirmou que utiliza IA e equipes humanas para revisar conteúdos no Facebook e no Instagram. Segundo a empresa, postagens que violam suas políticas podem ser removidas.
O Telegram informou que modera “conteúdos prejudiciais” desde a sua criação. A plataforma revelou ter um sistema de monitoramento proativo, combinado com relatos de usuários, que remove “milhões de itens de conteúdo prejudicial todos os dias”.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
