Um estudo realizado pela OpenAI, empresa por trás do popular chatbot ChatGPT, revelou que a inteligência artificial pode tratar os usuários de forma diferente dependendo do nome apresentado. A análise indica que o ChatGPT pode fazer suposições sobre preferências e interesses com base no gênero ou na etnia sugerida pelo nome, levando a respostas influenciadas por estereótipos.
Diferenciação de gênero em respostas
Segundo o relatório, o ChatGPT tende a ajustar o conteúdo de suas respostas de acordo com o nome fornecido pelo usuário, especialmente quando o nome sugere um gênero específico. Por exemplo, em um teste, quando um homem solicitou um título para um vídeo no YouTube, a resposta sugeriu “gambiarras”, enquanto para uma mulher, o título foi voltado para receitas culinárias. A pesquisa também indica que o chatbot pode associar certos temas, como mercado de trabalho ou educação infantil, conforme o gênero presumido.
++ Pesquisadores intensificam busca por vida extraterrestre no “sistema solar 2.0”
Impacto do viés racial e étnico
Embora o estudo tenha identificado que o viés de gênero é mais recorrente, há também indícios de discriminação com base em etnia e raça, observada em uma minoria dos casos. Esse viés é menos frequente, mas pode ocorrer quando o nome do usuário sugere uma origem étnica específica. No entanto, nomes neutros, que podem ser usados por qualquer gênero, tendem a minimizar esse tipo de resposta enviesada.
OpenAI busca aprimoramento constante
A OpenAI reconhece que o viés no ChatGPT existe, mas destaca que a frequência desse tipo de comportamento vem diminuindo com cada nova versão do modelo de linguagem. A empresa ressaltou que, embora o viés ocorra em uma pequena porcentagem de casos, a preocupação com estereótipos prejudiciais permanece. A OpenAI afirma estar comprometida em reduzir ainda mais esses desvios, especialmente em áreas como arte, entretenimento, marketing e negócios, onde o problema tem sido mais notado.
A companhia enfatiza a importância de desenvolver novas formas de medir e mitigar o viés em seus modelos de IA, garantindo que a experiência do usuário seja o mais neutra e inclusiva possível.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
