O TikTok sairá na frente ao rotular automaticamente conteúdos gerados por inteligência artificial (IA), em resposta ao rápido avanço da IA generativa e às crescentes preocupações com a disseminação de desinformação e deepfakes online.
Plataformas como Meta, proprietária do Facebook, e o próprio TikTok, atualmente, exigem que os usuários identifiquem se imagens, áudios ou vídeos realistas foram produzidos com software de IA.
++ Accenture inaugura Gen AI studio em São Paulo
No caso do TikTok, a medida abrangerá conteúdos gerados com a ferramenta Firefly da Adobe, os geradores de imagens de IA do TikTok e o Dall-E da OpenAI.
Adam Presser, chefe de operações e segurança do TikTok, observou um aumento no conteúdo prejudicial gerado por IA, conforme relatado por especialistas com os quais trabalham. Ele enfatizou que a autenticidade é fundamental para a comunidade do TikTok.
O desafio contra conteúdos artificiais
Plataformas como TikTok, Meta, X e YouTube estão explorando maneiras de integrar a IA generativa em seus sistemas, oferecendo chatbots e novas ferramentas para auxiliar influenciadores e anunciantes na criação de conteúdo. No entanto, enfrentam críticas por permitir a proliferação de conteúdo gerado por IA de baixa qualidade.
++Como aplicar a técnica Feynman para estudar com eficiência
Em um ano marcado por eleições importantes em todo o mundo, essas empresas enfrentam pressão para introduzir medidas contra deepfakes enganosos, combater operações de influência encobertas e garantir uma moderação de conteúdo eficaz e imparcial.
Na última semana, o TikTok e a ByteDance entraram com um processo contra o governo dos EUA, desafiando uma lei que poderia forçar a venda ou proibição do aplicativo, diante de preocupações de legisladores sobre a potencial disseminação de desinformação e propaganda pela plataforma.
Nesta quinta-feira, 9, o TikTok anunciou sua adesão a uma coalizão de grupos de tecnologia e mídia liderada pela Adobe, que incorporam credenciais de conteúdo em produtos gerados por IA. A mesma coalizão inclui a OpenAI e integrará a tecnologia de impressão digital em todas as imagens geradas pelo seu modelo Dall-E. Futuramente, a OpenAI planeja aplicar essa tecnologia também em seu modelo gerador de vídeos, Sora, quando for amplamente lançado.
A Meta anunciou recentemente que começará a marcar conteúdos gerados por IA com o selo “Made by AI”, detectando marcadores invisíveis inseridos por grupos como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. A empresa também está desenvolvendo classificadores de detecção de deepfakes.
Especialistas alertam que atores mal-intencionados ou grupos de desinformação provavelmente usarão ferramentas de geração de IA de código aberto para criar deepfakes, tornando-os mais difíceis de rastrear e não detectáveis pelas tecnologias de impressão digital e marca d’água.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech