O assistente virtual Gemini, equipado com inteligência artificial, está sob acusação de escanear arquivos PDF armazenados no Google Drive sem a autorização dos usuários, conforme apontou um especialista em IA na plataforma X (antigo Twitter). O Gemini estaria resumindo automaticamente documentos, mesmo quando o recurso está desativado.
A descoberta veio à tona quando Kevin Bankston, conhecido especialista em IA (@KevinBankston no X), estava editando um documento pessoal no Google Docs. Ele relatou que, inesperadamente, o Gemini ofereceu uma versão resumida do arquivo, já completamente pronta.
O problema é que o documento era pessoal e Bankston não tinha intenção de usar a IA do Google. Portanto, o modelo do Google analisou e processou o arquivo sem a devida autorização.
++ Meta retira penalidades das contas de Donald Trump
“Acabei de acessar minha declaração de renda no Google Docs e, espontaneamente, o Gemini a resumiu. Então, o Gemini está ingerindo automaticamente até mesmo os documentos privados quando eu abro no Google Docs?”, questionou Bankston em sua publicação.
Na thread original, Bankston detalha o processo para tentar desativar o recurso — e nem mesmo o Gemini conseguiu fornecer as instruções corretas. Ele encontrou a configuração da função “Resumir documentos”, mas percebeu que já estava desabilitada.
Após uma investigação mais profunda, Bankston concluiu que o problema começou após ele ter acionado o botão do Gemini em pelo menos um documento, ativando assim a IA no Google Docs. A partir daí, todos os arquivos daquele formato passaram a acionar os recursos do modelo do Google.
Outra hipótese levantada por Bankston foi sua participação no Workspace Labs. Ele descobriu que estava cadastrado como testador desde 2023, e essa participação possivelmente se sobrepôs às configurações normais do assistente.
Riscos do resumo automático
Para gerar resumos de documentos, o Gemini precisa “digeri-los”. Esse processo envolve pegar o documento, enviá-lo para os servidores do Google e devolver a resposta pronta, como se fosse um comando em texto.
No entanto, esse comportamento automático é problemático para documentos pessoais, que podem conter informações sensíveis que o usuário não deseja compartilhar com a IA.
++ Google exibe anúncios políticos apesar de autoproibição
O fato de a opção para desativar a função não estar acessível também agrava o problema: usuários que não desejam a função habilitada podem encontrar dificuldades para desativá-la.
Até o momento, o Google não se manifestou sobre o assunto. Portanto, não é possível afirmar se a IA realmente está vasculhando documentos pessoais sem ser acionada pelos usuários ou se foi um equívoco específico de Bankston.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
