Meta, TikTok e Snap anunciaram uma parceria inédita para enfrentar um problema crescente nas redes sociais: a disseminação de conteúdos relacionados a automutilação e suicídio. O projeto, chamado Thrive, visa identificar e remover com mais agilidade postagens que possam incentivar comportamentos prejudiciais à saúde mental dos usuários.
Cooperação para monitorar e agir
O projeto envolve também a Mental Health Coalition e permitirá que as empresas compartilhem entre si dados e sinais de alerta sobre esse tipo de conteúdo. “Quando uma das plataformas detectar uma postagem preocupante, poderá avisar as demais para que verifiquem a existência de material similar em seus serviços”, explica a iniciativa. Isso deverá agilizar a remoção de postagens nocivas, evitando que mensagens perigosas se espalhem.
A Meta será a responsável pela estrutura tecnológica do projeto, utilizando uma técnica chamada hashing, que gera códigos numéricos associados a conteúdos potencialmente violadores. Importante ressaltar que o compartilhamento de dados pessoais dos usuários não faz parte desse processo, mantendo a privacidade intacta.
Histórico de ações da Meta
A Meta já vem atuando nessa frente com projetos voltados para a saúde mental. Entre abril e junho de 2024, a empresa retirou 12 milhões de conteúdos nocivos das suas plataformas. Além disso, a empresa ajustou seus algoritmos para limitar o alcance de postagens sensíveis para adolescentes, mesmo que o conteúdo tenha teor educativo.
++ Novo buscador da OpenAI não atinge expectativas e enfrenta desafios
No entanto, a Meta tem enfrentado duras críticas no passado por falhas em proteger jovens de conteúdos prejudiciais, sendo inclusive processada em tribunais por casos relacionados à depressão e suicídio entre adolescentes. Com a criação dessa coalizão, a expectativa é que as ações sejam mais eficazes e coordenadas entre as principais plataformas digitais.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
