Tech & IA

Rostos roubados: a rede que usou a cara de 226 influenciadores para espalhar mentiras com IA, e por que o Brasil deveria prestar atenção

Um estudo da Universidade McGill achou quase 300 contas no TikTok e no Instagram que pegavam vídeos de pessoas reais, trocavam a voz e os lábios por IA e espalhavam boatos sobre a guerra comercial entre EUA e Canadá. Foram 22 milhões de visualizações, e quase ninguém percebeu.

Tela de celular em close, com o ícone do TikTok em destaque entre outros aplicativos desfocados
Imagem: Solen Feyissa / Wikimedia Commons, CC BY-SA 2.0

Cole Bennett é um comentarista político canadense com centenas de milhares de seguidores. No mês passado, começou a receber dos fãs vídeos em que aparecia falando coisas que nunca disse. "Alguns vídeos usavam o meu rosto, mas as palavras saindo da minha boca não eram minhas", contou ele à emissora CTV News.

Bennett não foi o único. Um estudo publicado em 12 de novembro de 2026 pelo Centro de Mídia, Tecnologia e Democracia da Universidade McGill, no Canadá, encontrou uma rede inteira de contas que fazia isso em escala industrial. O relatório se chama, sem rodeios, Stolen Faces ("Rostos Roubados").

Os números da rede

Segundo o relatório:

  • 293 contas, sendo 257 no TikTok e 36 no Instagram.
  • 3.201 vídeos publicados entre 7 de agosto e 4 de novembro de 2026.
  • 22,1 milhões de visualizações, 82% delas no TikTok.
  • 226 pessoas reais tiveram o rosto usado. Só três contas usavam avatares totalmente criados por IA.
  • A rede cresceu rápido: começou com 3 contas publicando 2 vídeos por dia e chegou a 157 contas publicando 108 vídeos por dia.

Como os vídeos eram feitos

A técnica é simples, e é isso que assusta. Segundo os pesquisadores:

  1. A rede pega um vídeo real de um criador de conteúdo.
  2. Troca a voz por uma voz sintética, gerada por IA a partir de um texto.
  3. Usa IA para redesenhar os lábios, que passam a acompanhar a nova fala. O cabelo, os olhos e o cenário continuam iguais aos do vídeo original.
  4. O roteiro, muitas vezes, também é escrito por máquina. Uma ferramenta de detecção estimou que cerca de 46% dos textos foram inteiramente gerados por IA, com margem de erro grande.

Como a base é um vídeo verdadeiro, o resultado engana mais do que um avatar inventado, inclusive os sistemas automáticos das redes.

A mentira mais vista

A maioria dos vídeos (84%) falava do Canadá, e a guerra comercial com os EUA respondia por 71% das visualizações. Os vídeos tomavam os dois lados do debate, e os narradores às vezes se apresentavam como canadenses, às vezes como americanos.

O boato de maior sucesso, segundo a Canadian Press, dizia que Donald Trump tinha dado um ultimato de 48 horas ao Canadá e que o primeiro-ministro Mark Carney respondera cancelando US$ 8 bilhões em contratos de defesa com os EUA. "Isso nunca aconteceu", diz o relatório, "mas a história foi compartilhada em 161 vídeos em 129 contas e reproduzida 5,1 milhões de vezes."

Segundo a emissora CTV, o estudo também encontrou vídeos sobre as eleições das províncias de Colúmbia Britânica e Quebec e sobre as eleições de meio de mandato nos EUA.

Quase ninguém percebeu

Esse talvez seja o dado mais importante do estudo:

  • Só 6,3% dos comentários diziam ou sugeriam que o vídeo era falso ou feito por IA. Segundo a Canadian Press, um em cada dez comentaristas falava com o narrador como se ele fosse uma pessoa de verdade.
  • Nenhum dos vídeos analisados avisava que tinha sido feito com IA.
  • O selo automático de IA do TikTok funcionou bem nos avatares inventados: marcou 22 de 24 vídeos. Mas, nos vídeos feitos a partir de gente real, marcou só 26 de 709, cerca de 4%.

Ou seja: a ferramenta pega o falso que parece falso. O falso feito a partir do verdadeiro passa.

Quem está por trás?

Ninguém sabe. O relatório traz algumas pistas, mas trata todas com cautela:

  • Os horários de publicação não batem com o fuso da América do Norte e caem quando é noite no leste e sudeste da Ásia.
  • Algumas contas usavam configurações em chinês ou foram registradas na China. O relatório diz que essa é "a única pista que temos sobre um país" e que ela é limitada.
  • A rede não ganhava dinheiro: nenhuma conta tinha os 10 mil seguidores exigidos pelo programa de pagamento do TikTok, e não havia links, produtos ou patrocínios.
  • Segundo a Canadian Press, os vídeos também não repetiam a propaganda de nenhum governo estrangeiro.

Sem lucro e sem bandeira, sobram hipóteses. A Canadian Press cita três: construir audiência para usar depois, testar uma ferramenta ou serviço, ou alguém pagando os operadores para influenciar os canadenses. A conclusão do relatório: "Não sabemos para que serve a rede, mas seus operadores estão dispostos a roubar rostos e espalhar mentiras que jogam canadenses contra os Estados Unidos, contra o próprio governo e uns contra os outros."

A resposta das plataformas

  • TikTok: segundo a Canadian Press, a empresa disse ter banido permanentemente as contas citadas no relatório, um dia depois da publicação. Até 11 de novembro, segundo os pesquisadores, todas ainda estavam ativas.
  • Meta, dona do Instagram: as reportagens consultadas não trazem resposta da empresa.

Os pesquisadores pedem que as plataformas apliquem as próprias regras e questionam se os vídeos feitos a partir de gente real são um ponto cego da detecção. Pedem também acesso a dados para pesquisa e proteção legal para quem tem o rosto usado.

Por que o Brasil deveria prestar atenção

O caso é canadense, mas a técnica não tem fronteira, e o Brasil acabou de passar por uma eleição.

  • O que diz a regra. O Tribunal Superior Eleitoral (TSE) proíbe deepfakes na propaganda eleitoral desde 2024 e, em março de 2026, passou a exigir aviso explícito em qualquer propaganda feita ou alterada por IA.
  • A brecha. Em setembro, o TSE fixou o entendimento de que, para a proibição valer, o conteúdo precisa ser caracterizado como propaganda eleitoral. Uma rede como a do Canadá, anônima, sem candidato, que só espalha boatos e divisão, pode ficar numa zona cinzenta. Ressalva: essa é uma leitura do RUNF9 sobre o alcance da regra, não uma decisão sobre um caso concreto.
  • A vítima invisível. As regras eleitorais protegem o eleitor e o candidato. O influenciador que tem o rosto roubado, como Cole Bennett, depende de denunciar à plataforma e, se quiser, de processar alguém que ninguém sabe quem é.

Quer aprender a desconfiar de um vídeo? Veja o guia Deepfakes: como identificar vídeos e áudios falsos e o que fazer. E, se você cria conteúdo, vale procurar o próprio rosto de vez em quando e pedir aos seguidores que avisem quando virem algo estranho.

O futuro distópico: o rosto como matéria-prima

Por muito tempo, o medo do deepfake era o vídeo falso de um presidente. O estudo da McGill mostra outro caminho, mais barato e mais difícil de combater: pegar emprestado a confiança de gente comum.

  • O rosto vira insumo. Cada vídeo que alguém publica pode virar matéria-prima para uma fala que nunca existiu. Quanto mais natural e espontâneo o vídeo, mais útil ele é para quem quer enganar.
  • A mentira em escala. Uma rede anônima, sem lucro aparente, publicando mais de cem vídeos por dia em dois países, com roteiros escritos por máquina. Não é um golpista: é uma fábrica.
  • A dúvida como produto. O efeito mais duradouro talvez não seja a mentira em si, mas a desconfiança. Se qualquer pessoa pode ser falsificada, qualquer vídeo verdadeiro pode ser chamado de falso.

No futuro que esse estudo esboça, o problema não é só acreditar no que não aconteceu. É deixar de acreditar no que aconteceu, e não saber mais quem está falando com você do outro lado da tela.

Leia também no RUNF9: Um Musk falso, 500 mil espectadores e uma IA contra a outra: o golpe do "carro voador" barrado pela Coinbase.

Fontes

  1. Stolen Faces: An Inauthentic TikTok and Instagram Network Inflaming the U.S.–Canada Trade War — Centre for Media, Technology and Democracy (McGill)
  2. A deepfake video network is spreading false information about the U.S. trade war: report — The Canadian Press, via CP24
  3. TikTok says it has taken down deepfake videos spreading trade falsehoods — The Canadian Press, via CTV News
  4. AI deepfakes use Canadian influencers' faces to spread political disinformation — CTV News
  5. TSE fixa tese sobre deepfake e delimita regra para as eleições 2026 — TSE