Nesta semana, a OpenAI, criadora do ChatGPT, desenvolveu uma avançada ferramenta para identificar textos escritos por Inteligência Artificial, prometendo uma precisão quase absoluta. Apesar da crescente preocupação com o uso da tecnologia para trapaças acadêmicas, a empresa ainda não lançou essa tecnologia por conta de discussões internas que têm impedido a liberação.
A hesitação da empresa acontece por diversos fatores, incluindo o impacto potencial sobre usuários que não falam inglês como língua nativa e a possível reação negativa de uma parte significativa da base de usuários da tecnologia.
Uma pesquisa interna revelou que quase um terço dos usuários poderia abandonar a plataforma se a tecnologia de detecção fosse implementada, a companhia está, portanto, ponderando os riscos de lançar a ferramenta contra os benefícios de manter a confiança dos usuários.
A ferramenta de detecção funciona através da inserção de pequenas alterações nos tokens utilizados pela plataforma para gerar texto, criando um padrão sutil e detectável conhecido como “marca d’água”. Invisível ao olho humano, esse padrão pode ser identificado pela tecnologia desenvolvida pela OpenAI, com uma eficácia de 99,9%, segundo documentos internos.
++Figure lança novo robô humanoide com tecnologia avançada
Contudo, a empresa reconhece que a marca d’água pode ser contornada por técnicas simples, como a tradução do texto para outro idioma ou a adição e remoção manual de elementos.
Alguns funcionários sugerem que ela seja entregue diretamente a educadores ou a empresas especializadas em detectar plágio acadêmico, enquanto outros argumentam que um acesso muito amplo poderia comprometer a segurança do sistema.
Em janeiro do ano passado, a OpenAI experimentou um lançamento de algoritmo que identificava textos gerados por modelos de Inteligência Artificial, mas a ferramenta teve um desempenho insatisfatório, acertando apenas 26% das vezes, o que levou à sua retirada em agosto do mesmo ano.
A busca por uma solução eficaz contínua, especialmente em instituições de ensino que enfrentam um aumento na utilização dessas tecnologias por estudantes. O desenvolvimento da tecnologia de marca d’água começou antes do lançamento oficial do ChatGPT, em novembro de 2022, sob a liderança de Scott Aaronson, professor de ciência da computação em licença da Universidade do Texas.
++Presidente da OpenAI decide viver período sabático
Em 2023, a OpenAI realizou várias discussões internas e pesquisas globais sobre a tecnologia e, apesar da aceitação global da ideia, uma pesquisa específica com usuários do ChatGPT indicou que 69% temem acusações falsas de uso de Inteligência Artificial, quase 30% afirmaram que usariam menos a ferramenta caso a marca d’água fosse implementada.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
