Por que é tão difícil conter fake news no TikTok?

Dancinhas virais dão cada vez mais espaço a conteúdo político.

Na Alemanha, as contas do TikTok personificaram figuras políticas proeminentes durante a última eleição nacional do país. Na Colômbia, postagens na plataforma atribuíram falsamente uma citação de um candidato a um vilão de desenho animado. Nas Filipinas, os vídeos do TikTok amplificaram versões maquiadas sobre os feitos do ex-ditador do país e ajudaram seu filho a prevalecer na corrida presidencial do país.

Agora, esses riscos chegaram aos Estados Unidos. Às vésperas das eleições para o Congresso americano, que serão realizadas em novembro, o TikTok está se tornando uma incubadora de informações falsas tão ou mais poderosa do que Facebook e Twitter já foram no passado, dizem pesquisadores que rastreiam fake news on-line.

O problema é que os mesmos atributos que fizeram o TikTok deslanchar na audiência com suas dancinhas virais – o enorme alcance da plataforma, a curta duração de seus vídeos e o algoritmo poderoso e pouco transparente – também criam um enorme desafio para conter a disseminação de conteúdo falso.

Teorias de conspiração infundadas sobre supostas fraudes eleitorais na vitória de Joe Biden sobre Donald Trump nas últimas eleições presidenciais são amplamente vistas no TikTok. A plataforma, que tem mais de um bilhão de usuários ativos por mês no mundo, proibiu a busca pela hashtag #StopTheSteal, usada por trumpistas para alegar que as eleições foram fraudadas.

Mas o termo com grafia ligeiramente modificado #StopTheSteallll acumulou quase um milhão de visualizações até que o TikTok desativou a hashtag após ser contatado pelo The New York Times.

A disseminação de fake news coloca o TikTok no mesmo dilema que Facebook e Twitter enfrentam há anos sobre como manter a liberdade de expressão e a moderação de conteúdo.

Mas a solução pode ser ainda mais difícil para o TikTok. Vídeo e áudio – a maior parte do que é compartilhado no aplicativo – podem ser muito mais difíceis de moderar do que textos, especialmente quando são postados com um tom irônico ou de comédia.

Além disso, o TikTok, controlado pela gigante chinesa de tecnologia ByteDance, é alvo de dúvidas em Washington sobre o quanto suas decisões de negócios relativas a moderação de conteúdo são influenciadas por Pequim.

- Quando você tem vídeos extremamente curtos com conteúdo de texto extremamente limitado, você simplesmente não tem espaço e tempo para discussões sutis sobre política - afirma Kaylee Fagan, pesquisadora do Projeto de Tecnologia e Mudança Social no Shorenstein Center, da Harvard Kennedy School.

O design do TikTok o torna um terreno fértil para desinformação, dizem os pesquisadores. Eles afirmam que os vídeos podem ser facilmente manipulados e republicados na plataforma e exibidos ao lado de conteúdo roubado ou original. Pseudônimos são comuns; vídeos de paródias e comédias são facilmente mal interpretados como fatos; a popularidade afeta a visibilidade dos comentários; e os dados sobre o tempo de publicação e outros detalhes não são exibidos claramente no aplicativo.

Os pesquisadores do Shorenstein Center observaram, no entanto, que o TikTok é menos vulnerável à chamada brigada, na qual os grupos se coordenam para fazer uma postagem amplamente divulgada, do que plataformas como Twitter ou Facebook.

Especialistas afirmam ainda que a desinformação vai continuar a prosperar no TikTok enquanto a plataforma se recusar a divulgar dados sobre as origens de seus vídeos ou compartilhar informações sobre seus algoritmos. No mês passado, o TikTok disse que ofereceria algum acesso a uma versão de sua interface de programação de aplicativos este ano, mas não disse se o faria antes das eleições americanas.

- Pelo menos com o Facebook e o Twitter, há algum nível de transparência, mas, no caso do TikTok, não temos ideia. Sem recursos, sem poder acessar os dados, não sabemos quem é suspenso, qual conteúdo é retirado, se atuam em denúncias ou quais são os critérios. É completamente opaco e não podemos avaliar nada de forma independente - afirma Filippo Menczer, professor de informática e ciência da computação e diretor do Observatório de Mídias Sociais da Universidade de Indiana.

Ele conta que procurou a empresa para propor colaborações em pesquisas, sem sucesso.

A temporada de eleições pode ser especialmente difícil para os moderadores, porque as postagens políticas do TikTok tendem a vir de uma coleção difusa de usuários que abordam questões amplas, e não de políticos ou grupos específicos, disse Graham Brookie, diretor sênior do Digital Forensic Research Lab, no Conselho do Atlântico.

- A conclusão é que todas as plataformas podem e precisam fazer mais pelo conjunto compartilhado de fatos dos quais a democracia depende. O TikTok, em particular, se destaca por seu tamanho, seu crescimento muito, muito rápido e o número de questões pendentes sobre como ele toma decisões - concluiu Brookie.

O dobro do alcance do Facebook
Se na última eleição presidencial americana o TikTok era apenas mais um app de entretenimento para jovens, hoje sua base de usuários nos EUA gasta em média 82 minutos por dia na plataforma - três vezes mais do que no Snapchat ou Twitter e duas vezes mais do que no Instagram ou Facebook, de acordo com um relatório recente da empresa de análise de aplicativos Sensor Tower.

E a rede social de vídeos curtos TikTok está se tornando cada vez mais importante como destino de conteúdo político, muitas vezes produzido por influenciadores.

A empresa insiste que está comprometida em combater informações falsas. No segundo semestre de 2020, removeu quase 350 mil vídeos que incluíam informação eleitoral falsas, desinformação e mídia manipulada, de acordo com um relatório divulgado no ano passado. Os filtros da plataforma impediram que 441 mil vídeos adicionais com alegações infundadas fossem recomendados aos usuários, segundo o relatório.

O serviço bloqueou o chamado conteúdo deepfake e coordenou campanhas de desinformação antes das eleições de 2020, tornou mais fácil para os usuários denunciar falsidades eleitorais e fez parceria com 13 organizações de verificação de fatos, incluindo o PolitiFact. Pesquisadores como Kaylee Fagan disseram que o TikTok trabalhou para encerrar termos de pesquisa problemáticos, embora seus filtros permaneçam fáceis de evitar com grafias criativas.

"Assumimos nossa responsabilidade de proteger a integridade de nossa plataforma e das eleições com a máxima seriedade”, disse o TikTok em comunicado. “Continuamos a investir em nossas equipes de política, segurança e proteção para combater a desinformação eleitoral.”

Durante o primeiro trimestre de 2022, mais de 60% dos vídeos com desinformação prejudicial foram vistos pelos usuários antes de serem removidos, disse o TikTok. No ano passado, um grupo de cientistas comportamentais que trabalhou com o TikTok disse que um esforço para anexar avisos a postagens com conteúdo infundado reduziu o compartilhamento em 24%, mas limitou as visualizações em apenas 5%.

Mas o histórico preocupante do serviço durante as eleições estrangeiras - inclusive na França e na Austrália este ano - não é um bom presságio para os Estados Unidos, avaliam especialistas.

Falhas no primeiro teste real
O TikTok está “falhando em seu primeiro teste real” na África nas últimas semanas, escreveu Odanga Madung, pesquisador da organização sem fins lucrativos Mozilla Foundation, em um relatório. O aplicativo lutou para conter a desinformação antes da eleição presidencial da semana passada no Quênia.

Madung citou um post no TikTok que incluía uma imagem alterada de um candidato segurando uma faca no pescoço e vestindo uma camisa manchada de sangue, com uma legenda que o descrevia como um assassino. O post recebeu mais de 500 mil visualizações antes de ser removido.

Controladora chinesa
A empresa disse que planeja manter os dados sobre seus usuários americanos separados de sua controladora chinesa. E também afirmou que suas regras mudaram desde que foi acusada de censurar postagens vistas como antagônicas aos objetivos políticos de Pequim.

A empresa se recusou a dizer quantos moderadores humanos ela tinha trabalhando ao lado de seus filtros automatizados. Um executivo do TikTok disse a políticos britânicos, em 2020, que a empresa tinha 10 mil moderadores em todo o mundo.

Mas os ex-moderadores reclamaram das difíceis condições de trabalho, dizendo que eram escassos e às vezes obrigados a revisar vídeos que usavam linguagens e referências desconhecidas – um eco das acusações feitas por moderadores em plataformas como o Facebook.