A OpenAI anunciou um novo recurso de segurança no ChatGPT que permitirá aos usuários cadastrarem um “Contato de Confiança” para situações consideradas de risco emocional grave.
A ferramenta foi criada para adultos e permitirá indicar um amigo, familiar ou cuidador que poderá ser notificado caso os sistemas da empresa detectem sinais severos de automutilação ou ideação suicida durante conversas com o chatbot.
Segundo a empresa, o recurso surge em meio ao crescimento do uso do ChatGPT como apoio emocional ou “terapeuta digital”. Dados divulgados pela OpenAI indicam que mais de um milhão dos cerca de 800 milhões de usuários semanais relatam pensamentos suicidas em interações com a plataforma.
++ Especialistas alertam para risco de novos surtos de hantavírus após aumento de casos no mundo
O funcionamento do sistema ocorre em diferentes etapas. Primeiro, o usuário escolhe um contato de confiança nas configurações da conta. Essa pessoa recebe um convite e precisa aceitar a solicitação em até sete dias. Caso aceite, ela poderá ser acionada futuramente em situações consideradas críticas.
Se os sistemas automatizados identificarem conversas relacionadas a risco de autolesão ou suicídio, o ChatGPT avisará o próprio usuário de que o contato poderá ser informado. O sistema também incentivará a busca por ajuda profissional e sugerirá formas de iniciar uma conversa com pessoas próximas.
A OpenAI afirma que nenhuma notificação será enviada automaticamente sem revisão humana. Uma equipe especializada avaliará cada caso antes de qualquer alerta ser disparado por e-mail, SMS ou aplicativo.
++ Nem o oceano mais isolado do planeta escapou da poluição humana, revela estudo
Segundo a companhia, o contato receberá apenas um aviso geral de que a pessoa pode estar passando por um momento difícil, sem acesso ao conteúdo das conversas para preservar a privacidade do usuário.
O recurso foi desenvolvido com apoio de especialistas em saúde mental e organizações ligadas à prevenção do suicídio. A OpenAI afirma que a novidade não substitui atendimento psicológico ou serviços de emergência, funcionando apenas como uma camada adicional de proteção.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
