O Departamento de Justiça do Novo México, nos Estados Unidos, acusa o Snapchat de contribuir para o encontro entre crianças e predadores sexuais. A denúncia surgiu após uma operação que utilizou inteligência artificial para investigar a forma como o algoritmo da rede social funciona.
Investigadores criaram perfis falsos, como o de uma adolescente de 14 anos, para analisar as interações na plataforma. O Snapchat recomendou perfis suspeitos, com nomes como “child.rape” e “pedo_lover10”, facilitando a conexão entre predadores e o perfil falso. Segundo o Departamento, “mesmo sem interações explícitas, o algoritmo incentivava conexões com contas de conteúdo abusivo”.
++ Red Bull lança competição global de inovação com foco em IA
A investigação revelou que a funcionalidade da plataforma, como o “Quick Add”, está sendo usada por criminosos para localizar vítimas. O caso mais notório envolve Alejandro Marquez, preso em 2022 por estupro após usar essa ferramenta para abusar de menores. Outro homem, Jeremy Guthrie, foi detido por crime semelhante, e ambos os casos serviram de base para o aprofundamento das investigações.
De acordo com o procurador-geral do Novo México, Torrez, o Snapchat “criou um ambiente propício para sextorção e outros abusos sexuais”. Ele também afirmou que, somente em 2023, a plataforma hospedou mais de 10 mil registros de material de abuso infantil. Torrez destacou que “o Snap engana seus usuários ao sugerir que o conteúdo enviado desaparece, quando, na verdade, predadores podem armazená-lo indefinidamente”.
Resposta do Snapchat
++ Competição busca melhor tecnologia para bloquear TV Box pirata
Em resposta às alegações, o Snapchat afirmou que compartilha das mesmas preocupações quanto à segurança de seus usuários jovens e que pretende responder às acusações nos tribunais. A empresa também declarou que está empenhada em garantir a segurança na plataforma e colabora com autoridades e especialistas para combater práticas abusivas.
Apesar da resposta da plataforma, o uso de IA por parte das autoridades também levanta questões. Especialistas como Carrie Goldberg alertam que o emprego de imagens geradas por IA pode ser problemático, pois os réus poderiam argumentar que foram induzidos a cometer crimes que não cometeriam em outras circunstâncias.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
