Como o Google e o YouTube usam anúncios direcionados para combater os radicais on-line

A publicidade está em todo lugar online, mas nos tornamos muito bons em ignorá-los, mesmo que estejam na sua cara - como no YouTube. Vamos encarar; ninguém gosta de ver anúncios invadindo sites úteis ou vídeos.

E embora a maioria dos anúncios seja considerada um incômodo, o Google quer usá-los para fazer uma grande diferença em uma área onde está sendo criticado por não fazer o suficiente. Nós estamos falando sobre discurso de ódio, radicalização de conteúdo - especialmente vídeos - e campanhas de notícias falsas. E a empresa da Alphabet, Jigsaw, é dedicado a resolver esses problemas urgentes com a ajuda da tecnologia.

Em uma entrevista recente com MIT Technology Review, Yasmin Green, diretor de pesquisa e desenvolvimento da Jigsaw falou sobre como a empresa está usando tecnologia para conter o terrorismo e várias formas de assédio digital. O sistema teve tanto sucesso que agora também está integrado ao YouTube.

Yasmin falou sobre como o ISIS se tornou mestre em mídia social no recrutamento de novos lutadores. Acontece que essas mesmas técnicas que o ISIS usa para recrutar também podem ser usadas para interromper o recrutamento. A Jigsaw se propôs a entender o processo de radicalização e voltou com uma lição importante: Timing. Green diz: “No momento em que recrutas em potencial são vendidos na ideologia, é tarde demais para influenciá-los; você tem que chegar até eles quando eles são simpáticos, mas ainda não foram vendidos. ”

Foi aqui que a Jigsaw usou publicidade online direcionada para influenciar aqueles que estavam no limiar. O Google é ótimo em anúncios direcionados, com cerca de US $ 100 bilhões em receita desse negócio, movido por seus poderosos algoritmos. A Jigsaw usou essa mesma tecnologia para revidar e redirecionou usuários suscetíveis por meio de anúncios a páginas e vídeos relevantes que poderiam efetivamente desenraizá-los.

Este conteúdo inclui vídeos e perfis de clérigos moderados, desertores e jornalistas cidadãos que poderiam suprimir a tendência do usuário de se radicalizar, com as informações certas. De acordo com Green, o programa atingiu cerca de 300.000 pessoas em 8 semanas. Teve uma taxa de cliques excepcionalmente alta nos anúncios e gerou meio milhão de minutos de tempo de exibição de vídeo.

“Não acho que ninguém imaginou que teríamos o nível de intimidação e discurso de ódio online que temos atualmente, e temos que nos esforçar muito para ter certeza de que estamos indo na frente disso.”

Então, como está sendo usado no YouTube?

Embora o YouTube tenha crescido enormemente, ele se deparou com uma série de problemas de conteúdo e moderação. Ultimamente, a plataforma tem ficado sob pressão após a controvérsia de Logan Paul e a pressão no YouTube para limpar o conteúdo é imensa, especialmente à luz da controvérsia do Tide Pod.

Green revelou que o YouTube integrou a tecnologia da Jigsaw para redirecionar as pessoas a um conteúdo reformativo quando se trata de termos de pesquisa confidenciais. Green acrescentou que o mesmo também se aplica à Pesquisa Google.

Embora não haja dados concretos sobre quais termos de pesquisa são preferidos e qual é a política oficial sobre eles, a abordagem do Jigsaw provavelmente também produzirá resultados para o YouTube; Terrorismo e ISIS são apenas um dos poucos exemplos das possibilidades da tecnologia.

A Jigsaw abriu o código-fonte desta tecnologia para uso por outros também e foi replicada pela Gen Next Foundation para começar. Da mesma forma, o Facebook, Twitter e outros gostos podem usá-lo para priorizar o conteúdo que é positivo em relação às postagens negativas, quando se trata de tendências.

O Facebook, em particular, está enfrentando um grande problema quando se trata de informações e notícias falsas. Na verdade, Mark Zuckerberg reconheceu isso e considerou sua missão reconquistar a confiança que o Facebook perdeu devido ao problema das notícias falsas.

Green acrescentou que o Jigsaw está constantemente procurando maneiras de melhorar suas capacidades de combate ao discurso de ódio e radicalização online, mas também para notícias falsas e desinformação. Não é provável que aconteça da noite para o dia, mas as mentes mais brilhantes do mundo estão ocupadas trabalhando para enfrentar essa ameaça crescente.