Após uma série de vídeos questionáveis que se tornaram virais na plataforma, o YouTube está na ofensiva para impedir a disseminação de conteúdo polêmico. Desde o vídeo de Logan Paul, que mostrou um cadáver na "Floresta do Suicídio", no Japão, até os vídeos mais recentes do Tide Pod Challenge, os moderadores do YouTube tiveram muito trabalho desde o início do ano.
Agora, de acordo com um artigo recente de Buzzfeed News, O YouTube está planejando criar um 'Intelligence Desk' que detectará vídeos polêmicos na plataforma antes que se tornem virais. A nova iniciativa faz parte do esforço da empresa para melhorar seu sistema de moderação de conteúdo, que não tem tido um bom desempenho nos últimos tempos. O Intelligence Desk reunirá dados do Google, relatórios de usuários, tendências de mídia social e consultores terceirizados para sinalizar conteúdo polêmico antes que ele saia do controle.
Um porta-voz do YouTube confirmado para Buzzfeed Notícias sobre o início do Intelligence Desk e disse:
“Conforme destacamos em um blog em dezembro, estamos expandindo nosso trabalho contra malfeitores que tentam abusar de nossa plataforma. Isso inclui a contratação de mais pessoas para lidar com conteúdo potencialmente violento e o aumento do uso da tecnologia de aprendizado de máquina. Podemos confirmar que parte desses esforços incluirá a montagem de novas equipes dedicadas a proteger nossa plataforma contra tendências e ameaças emergentes. ”
A plataforma tem sido criticada por várias coisas, incluindo permitir que anúncios convencionais apareçam ao lado de conteúdo extremista e por não reconhecer o abuso perturbador de crianças em certos vídeos. O YouTube também foi criticado pela maneira como lidou com a situação de Paul, já que o vídeo ofensivo alcançou a lista dos 10 principais tendências antes de ser removido.
Um briefing de anunciante obtido por Buzzfeed News também indicou que a plataforma fará parceria com mais de 100 ONGs, organizações governamentais e acadêmicos para lidar com conteúdo controverso com maior experiência.