A Microsoft optou por não lançar sua ferramenta de inteligência artificial capaz de clonar vozes devido aos riscos associados ao seu uso. Pesquisadores envolvidos no projeto apontaram que o modelo, conhecido como VALL-E 2, é perigoso demais para ser disponibilizado ao público e será utilizado apenas para pesquisas.
O VALL-E 2 é um codificador neural de linguagem que utiliza redes neurais para codificar e decodificar informações linguísticas. A Microsoft anunciou em seu site oficial: “Atualmente, não temos planos de incorporar o VALL-E 2 em um produto ou expandir seu acesso ao público. Isso pode acarretar riscos potenciais no uso indevido do modelo, como falsificação de identificação de voz ou personificação de um locutor específico”.
++ Hackers atacam Windows e Linux em nova campanha de ransomware
Diferente do VALL-E original lançado em janeiro de 2023, o VALL-E 2 consegue sintetizar vozes não apresentadas durante o treinamento, copiando entonação e detalhes da voz original a partir de um pequeno clipe de áudio. Embora reconheça os potenciais usos da tecnologia em contextos como educação, entretenimento, jornalismo, conteúdo autoral ou acessibilidade, a Microsoft admite que o modelo ainda apresenta limitações. “Embora o VALL-E 2 possa falar com uma voz semelhante à do talento vocal, a semelhança e a naturalidade dependem da duração e da qualidade do prompt de fala, do ruído de fundo, bem como de outros fatores”, destacou a empresa.
Outras empresas também exploram tecnologias similares
Apesar da decisão da Microsoft, outras empresas continuam a testar IAs de clonagem de voz. Em abril, a OpenAI apresentou o Voice Engine, capaz de copiar a voz de alguém com apenas 15 segundos de demonstração. A OpenAI vê essa tecnologia como útil para fins educativos e para proporcionar acessibilidade, especialmente para pessoas com condições que prejudicam ou impedem a fala.
++ Índia enfrenta escassez de 1 milhão de engenheiros de alta tecnologia
Além disso, soluções comerciais já exploram o uso de IA para clonar vozes de pessoas reais. O AI Assistant do Truecaller, por exemplo, utiliza o Microsoft Azure AI Speech para responder chamadas com voz.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
