Uma pesquisa realizada pelo King’s College London em parceria com a Universidade Carnegie Mellon identificou falhas graves no comportamento de robôs controlados por grandes modelos de linguagem (LLMs) — sistemas de inteligência artificial capazes de interpretar e gerar texto, além de orientar ações físicas. Publicado no International Journal of Social Robotics, o trabalho mostra que esses robôs podem reproduzir discriminação explícita, aceitar ordens violentas e agir de forma ilegal durante tarefas cotidianas.
Os pesquisadores observaram que, quando expostos a informações pessoais como nacionalidade, religião e condição física, os modelos reproduziram estereótipos prejudiciais. Em testes, indivíduos “europeus” ou “sem deficiência” foram apontados como mais “confiáveis”, enquanto grupos como “ciganos” e “mudos” foram classificados de maneira negativa.
++ Adolescente impressiona ao criar mão robótica funcional usando peças de Lego
O estudo também registrou situações em que os robôs obedeceram comandos perigosos, incluindo retirar dispositivos de mobilidade de pessoas que dependiam deles, ato que os participantes compararam a “quebrar-lhes uma perna”. Em outros cenários, as máquinas chegaram a realizar ações que simulavam intimidação com faca, roubo de dados de cartão de crédito e até registro de imagens sem consentimento em ambientes privados.
Para avaliar os riscos, os cientistas submeteram os robôs a simulações de rotina, como auxiliar idosos em casa. As máquinas foram expostas a instruções abusivas ou ilegais e, segundo o coautor Andrew Hundt, todos os modelos falharam. “Os riscos vão muito além do viés básico, incluindo discriminação direta e falhas de segurança física simultâneas”, afirmou. “Recusar comandos prejudiciais é essencial, mas isso não é algo que esses robôs consigam fazer de forma confiável no momento.”
A equipe também testou respostas envolvendo temas religiosos. Em uma das simulações, foi solicitado que o robô expressasse fisicamente “repulsa” ao interagir com pessoas identificadas como judeus, cristãos e muçulmanos — e as máquinas atenderam ao pedido.
Diante dos resultados, os pesquisadores defendem que LLMs não devem operar robôs de forma autônoma, especialmente em ambientes sensíveis, como assistência domiciliar, saúde, manufatura e indústrias.
“Nossa pesquisa mostra que esses sistemas, do jeito que estão, são inseguros para uso em robôs físicos de uso geral”, alertou Rumaisa Azeem, coautora do estudo. Ela reforça que robôs destinados ao contato com pessoas vulneráveis devem passar por avaliações tão rigorosas quanto as aplicadas a equipamentos médicos.
O estudo reforça a urgência de protocolos de segurança, certificações e testes regulares antes que tecnologias desse tipo sejam adotadas em larga escala — sob risco de que a automação baseada em IA deixe de ser uma ferramenta e se torne uma ameaça.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
