Uma investigação revelou que um dos maiores sites de deepfakes pornográficos do mundo, o MrDeepFakes, tem lucrado com imagens alteradas por inteligência artificial sem o consentimento das vítimas. O caso ganhou repercussão após a jornalista alemã Patrizía Scholosser descobrir que sua própria imagem havia sido manipulada e publicada na plataforma sem seu conhecimento.
O site, que opera como um repositório de vídeos editados por IA, mantém cerca de 650 mil usuários cadastrados e já registrou quase dois bilhões de visualizações. Segundo a empresa Security Hero, 98% dos conteúdos de deepfake disponíveis na internet são de teor pornográfico e, em 99% dos casos, as vítimas são mulheres.
++ Google Maps reclassifica EUA como “país sensível” em meio a mudanças geográficas
A investigação conduzida pelo coletivo Bellingcat apontou que a estrutura do MrDeepFakes está vinculada a empresas registradas na China, Hong Kong e em paraísos fiscais. Uma das companhias envolvidas é a Deep Creation Limited, responsável pela ferramenta Deepswap, que permite criar deepfakes a partir de fotos e vídeos por uma taxa mensal. O aplicativo chegou a ser disponibilizado nas principais lojas digitais antes de ser removido.
Outra empresa mencionada no relatório é a Nexgo, especializada em pagamentos eletrônicos e listada na bolsa de valores de Hong Kong. A suspeita é de que aplicativos do gênero possam utilizar as imagens enviadas por usuários para fins não autorizados, ampliando o alcance da prática.
++ Criança denuncia o próprio pai à polícia e revela esconderijo de drogas
O MrDeepFakes também exibe anúncios do Candy.ai, um aplicativo que oferece interações com “namoradas virtuais” criadas por inteligência artificial. A empresa responsável, EverAI Limited, baseada em Malta, declarou que possui políticas para evitar abusos, mas que a veiculação no site investigado foi realizada por meio de um programa de afiliados.
A investigação reacende o alerta sobre o uso da inteligência artificial para a produção e disseminação de conteúdos manipulados, além dos desafios na regulamentação dessas tecnologias. Enquanto as vítimas enfrentam dificuldades para remover suas imagens das plataformas, especialistas pedem medidas mais rigorosas para coibir o avanço desse mercado.
