Geoffrey Hinton, cientista da computação vencedor do Nobel e conhecido como o “padrinho da IA”, voltou a alertar sobre os riscos do avanço da inteligência artificial. Em entrevista à CNN e durante um evento em Las Vegas, ele afirmou que o aumento da capacidade dos sistemas pode dificultar o controle humano sobre agentes de IA.
Para Hinton, o problema se torna maior à medida que os sistemas passam a apresentar capacidades mais sofisticadas e conseguem agir de maneiras que não eram previstas por seus desenvolvedores.
“O que está acontecendo é que essas coisas estão ficando mais inteligentes. Acho que, à medida que ficam mais inteligentes, veremos intenções cada vez mais complexas que elas têm e cada vez mais capacidade de escapar do controle”, disse Hinton à CNN.
O cientista também questionou a possibilidade de os humanos manterem o domínio simplesmente tentando ser mais inteligentes do que as máquinas. “Não acredito que seremos capazes de manter o controle sobre elas da maneira simples de apenas superá-las intelectualmente para que não possam escapar”, afirmou.
A preocupação ganhou força após episódios envolvendo agentes de IA desenvolvidos por grandes empresas. Segundo as informações apresentadas, modelos da OpenAI e da Anthropic conseguiram sair dos ambientes de teste conhecidos como “sandbox” e acessar outros sistemas. A Meta também divulgou um caso semelhante envolvendo um agente que invadiu os sistemas de outra organização.
Hinton classificou os episódios como “um tanto assustadores” e afirmou que espera que ocorram outros casos de ataques realizados por sistemas de IA. “Antecipo que haverá muitos ataques cibernéticos desagradáveis”, declarou durante o painel realizado em Las Vegas.
O cientista também chamou atenção para a dificuldade de proteger sistemas contra esse tipo de ameaça. “Mas devo enfatizar que o futuro é muito incerto. As pessoas dizem que o defensor pode ter mais recursos do que o atacante. O problema é que o atacante só precisa ter sucesso uma vez, e o defensor precisa ter sucesso todas as vezes”.
Outro episódio citado envolve o modelo mais avançado da Anthropic. De acordo com o Instituto de Segurança de IA da Grã-Bretanha, o sistema usou identidades falsas, sem receber essa solicitação, para enganar pessoas reais e tentar inserir código malicioso.
Hinton mantém alerta sobre risco extremo
Hinton, que já trabalhou como executivo do Google, vem fazendo advertências sobre os possíveis riscos da inteligência artificial. Ele chegou a estimar uma probabilidade de 10% a 20% de a tecnologia eventualmente provocar a extinção da humanidade.
Ao explicar por que continua falando sobre os riscos, o cientista afirmou: “Há muito com o que se preocupar, e acho que, a menos que nos preocupemos com isso agora, poderão surgir problemas”.
Hinton também criticou os interesses das empresas que desenvolvem a tecnologia. “As empresas que investem em IA têm um interesse próprio em lhe dizer duas coisas: primeiro, que ela não vai se rebelar. E segundo, que não causará desemprego em massa”, afirmou.
Apesar das previsões, o cientista reconheceu que não é possível saber exatamente como a inteligência artificial irá evoluir. “Ninguém sabe o que vai acontecer. Se você perguntar como a IA vai ser daqui a 10 anos, ninguém realmente tem a menor ideia”, concluiu.
