O YouTube anunciou ter removido anúncios de mais de 2 milhões de vídeos de 50 mil canais, todos com conteúdo considerado impróprio.
A medida ocorreu após uma série de empresas pressionarem o Google por mais reformas em suas ferramentas de proteção de crianças de vídeos com conteúdo abusivo. O problema é ainda mais grave por esse tipo de vídeo aparecer na plataforma da empresa dedicada ao público infantil, o YouTube Kids.
Segundo o jornal Guardian, a fabricante de chocolates Mars, a HP e a empresa de alimentos Mondelez estão entre elas. Como resposta, a direção do YouTube anunciou ainda ter "encerrado mais de 270 contas e deletado mais de 150 mil vídeos" que violam as diretrizes. Além disso, anunciou a implementação de exigência de idade e login para que usuários assistam certos tipos de vídeo classificados como humor adulto.
Segundo publicação no blog da empresa, será implementado um sistema de aprendizado de máquina para ajudar a detectar vídeos que sejam perturbadores e utilizem personagens infantis para enganar pais e crianças — e o próprio YouTube, que coloca essas publicações em sequência de vídeos infantis legítimos.
Mas o problema é ainda maior e exige mais cuidado do YouTube. A seção de comentários de muitos vídeos reais para crianças era utilizado por pedófilos para discussões inapropriadas ao ponto da direção do site precisar fechar a seção de comentários de 625 mil vídeos.
Existe ainda outro problema: usuários afirmaram que após digitar "como fazer" nas buscas do YouTube, apareciam sugestões reprováveis — entre elas “como fazer s*xo com crianças” e “como fazer s*xo na escola”. Vídeos com centenas de visualizações apareciam em quem clicasse nessas sugestões.
Apesar da empresa já ter removido essas sugestões, a simples existência de tanto conteúdo perturbador envolvendo crianças demonstra que o YouTube não consegue lidar com a moderação dele.
A grande dificuldade apontada por especialistas é a dificuldade de algoritmos diferenciarem um vídeo legítimo de um personagem como a Peppa Pig, e outro com ela sendo torturada. Ou outro com personagens da Disney dizendo um monte de coisas impróprias. Apesar de alguns desses vídeos serem apropriados para maiores, crianças não deveriam ter acesso a ele, principalmente em uma plataforma como o YouTube Kids.
A plataforma afirma que "milhares de pessoas passarão a monitorar o conteúdo o tempo inteiro", enquanto a empresa "continua o trabalho para enfrentar esse trabalho em evolução".
0 comentários:
Enviar um comentário