Empresas de inteligência artificial e grandes players da tecnologia estão se unindo para enfrentar o problema de deepfakes pornográficas e imagens de abuso sexual. A iniciativa, anunciada pela Casa Branca na última quinta-feira (12), busca combater a disseminação de conteúdo íntimo não consensual e proteger as vítimas.
O governo dos Estados Unidos está liderando uma campanha voltada para reduzir a proliferação de materiais de abuso sexual infantil e imagens íntimas de adultos sem consentimento. O aumento na circulação dessas imagens tem gerado impactos severos, especialmente para mulheres, crianças e pessoas LGBTQI+.
++Tecnologia avança no combate a incêndios em um mundo cada vez mais quente
Entre as empresas que aderiram ao compromisso estão OpenAI, Microsoft, Adobe e Anthropic. No caso da OpenAI, criadora do ChatGPT, o compromisso envolve a exclusão de imagens de nudez dos conjuntos de dados utilizados para treinar modelos de IA, “quando apropriado e dependendo do propósito do modelo”, conforme informou a empresa. A Anthropic, desenvolvedora do Claude, também assumiu responsabilidades semelhantes.
A plataforma de dados Common Crawl, embora não tenha assinado todos os tópicos, garantiu que suas coletas de dados serão realizadas com cuidado para evitar a exposição de imagens abusivas.
Medidas ampliadas contra abuso de IA
++ Empresas apostam em chips que replicam órgãos humanos e prometem revolucionar testes de medicamentos
Outras empresas também anunciaram ações concretas para combater o uso indevido da IA. O GitHub já implementou restrições ao compartilhamento de ferramentas que facilitam a criação de deepfakes pornográficas, enquanto a Meta bloqueou aplicativos e serviços voltados à produção de conteúdo íntimo não consensual em suas plataformas. A empresa também removeu milhares de contas envolvidas em extorsão sexual no Instagram.
Snap e Google se comprometeram com medidas adicionais. A Snap oferecerá novos recursos para denúncias e apoio às vítimas de deepfakes pornográficas, enquanto o Google está atualizando seus mecanismos de busca para minimizar a exibição de imagens falsas de conteúdo explícito, além de facilitar o processo de remoção de tais materiais a pedido das vítimas.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
