A OpenAI criou uma ferramenta para identificar textos gerados pelo ChatGPT, mas hesita em lançá-la devido ao receio de afastar usuários. Segundo uma reportagem do The Wall Street Journal, a empresa teme que a implementação do recurso de segurança possa levar à perda de uma parte significativa de sua base de usuários.
A ferramenta funciona de maneira semelhante às marcas d’água invisíveis utilizadas em imagens geradas por IA. No caso dos textos, ela prevê as palavras e frases mais prováveis que seguem uma determinada oração, criando um padrão reconhecível. Isso é similar ao que o Google aplica em seu modelo Gemini.
++ Magazine Luiza vai implementar Inteligência Artificial
Um levantamento realizado com os usuários do ChatGPT revelou que 30% dos entrevistados evitariam usar a IA se a marca d’água fosse ativada. Esse dado reflete a preocupação da OpenAI em perder uma parcela considerável de usuários que preferem utilizar o chatbot de maneira discreta.
Apesar de já existirem ferramentas para verificar se um texto foi gerado por IA, a própria OpenAI descontinuou seu detector anterior devido à falta de precisão. No entanto, documentos obtidos pelo WSJ indicam que o novo método de detecção acerta 99,9% das vezes. Contudo, a eficácia diminui ao identificar textos revisados por outro modelo generativo.
Se implementada, a ferramenta poderia se tornar um recurso valioso para professores e supervisores que buscam coibir o uso não autorizado de modelos de linguagem na produção de trabalhos acadêmicos. Isso poderia marcar o fim do uso do ChatGPT para a geração de artigos e ensaios escolares.
++ Google vai lançar calça super tecnológica
Atualmente, não há previsão para a implementação da marca d’água nos textos gerados pelo ChatGPT. A OpenAI também está explorando “métodos menos controversos”, como a marcação nos metadados dos textos, mas ainda é cedo para determinar como essa tecnologia será aplicada.
A decisão da OpenAI de implementar ou não essa ferramenta pode ter um impacto significativo no uso do ChatGPT, especialmente entre aqueles que dependem da discrição ao utilizar a inteligência artificial.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
