A adoção massiva de sistemas de inteligência artificial, que hoje orientam decisões médicas, corporativas e até governamentais, expôs um problema difícil de contornar: os vieses que surgem mesmo quando os modelos parecem funcionar corretamente. Um novo estudo analisado pelo TechXplore indica que as distorções nas respostas não são fruto apenas de erros de programação — muitas vezes, elas nascem da forma como os próprios modelos tentam representar um mundo complexo demais para ser traduzido em variáveis.
Com a popularização explosiva da tecnologia — o ChatGPT, por exemplo, alcançou 1 bilhão de usuários semanais em abril de 2025 — cresceu também o número de relatos de sistemas que prejudicaram mulheres, pessoas negras e pacientes em avaliações automatizadas. A pesquisa, conduzida por Hüseyin Tanriverdi e John-Patrick Akinyemi, da Texas McCombs, examinou 363 algoritmos previamente identificados como tendenciosos e os comparou com versões semelhantes consideradas neutras.
“O viés pode ser um artefato dessa complexidade, e não outras explicações que as pessoas têm oferecido”, afirma Tanriverdi.
A partir dessa análise, os especialistas identificaram três pontos críticos que ajudam a explicar por que sistemas quase idênticos podem produzir resultados radicalmente diferentes — e injustos.
1. Quando não existe uma verdade unificada
Há tarefas em que nem mesmo especialistas humanos têm consenso. Nessas situações, esperar que a IA seja precisa é praticamente impossível.
Entre os exemplos citados no estudo estão:
- estimativa de idade por raio-x sem referência médica única;
- classificação de discurso de ódio em debates altamente polarizados;
- situações em que opiniões são tratadas como fatos objetivos.
Sem uma “verdade fundamental”, explica o pesquisador, “a probabilidade de surgir viés aumenta significativamente”.
++ Toda vez que uma girafa ergue o pescoço, ela está levantando até 272kg
2. Modelos simplificam a realidade — e isso tem consequências
A IA funciona transformando fenômenos complexos em categorias simples. Mas quando essa simplificação ignora variáveis essenciais, o impacto pode ser severo.
Um caso emblemático ocorreu no estado do Arkansas, quando decisões sobre benefícios do Medicaid passaram a ser emitidas por algoritmos. Como parte das informações relevantes não foi considerada, pessoas com deficiência deixaram de receber cuidados básicos — um efeito colateral direto de um modelo incapaz de representar plenamente a realidade que pretendia avaliar.
3. Grupos homogêneos criam sistemas homogêneos
O estudo também aponta o impacto da falta de diversidade entre desenvolvedores. Quando ferramentas destinadas a populações amplas são projetadas majoritariamente por um único grupo demográfico, pontos cegos inevitavelmente surgem — e se refletem nos resultados.
Para os autores, envolver mais vozes e ampliar o olhar sobre os contextos de uso é uma das principais formas de reduzir injustiças estruturais.
++ Cão farejador leva PF a esconderijo subterrâneo com 613 kg de cocaína em SC
Como tornar a IA menos tendenciosa
Os pesquisadores defendem que, para reduzir vieses, não basta buscar mais precisão: é necessário reconhecer a complexidade do mundo real e modelá-lo de maneira mais completa.
Entre as recomendações estão:
- automatizar apenas tarefas baseadas em verdades bem definidas;
- incluir variáveis que representem adequadamente todas as pessoas afetadas;
- garantir diversidade na criação, teste e revisão dos modelos.
“Essas são as peças que faltam e que os cientistas de dados parecem estar procurando”, resume Tanriverdi.
Segundo ele, tornar a IA mais justa exige mais do que avanços técnicos: exige compreender que decisões automatizadas só são confiáveis quando respeitam a pluralidade de experiências humanas — e não quando tentam reduzi-las demais.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
