O TikTok anunciou mudanças em suas políticas de moderação de conteúdo para impor novas restrições na publicação de deepfakes gerados por inteligência artificial. Essas atualizações acontecem no meio de crescente pressão política sobre sua empresa matriz chinesa, ByteDance.
Enquanto a maioria das políticas de moderação do TikTok permanece inalterada, a nova seção expandida de “mídias sintéticas e manipuladas” cobre deepfakes de inteligência artificial, que têm crescido em popularidade na plataforma nos últimos meses.
Anteriormente, as regras do TikTok para deepfakes eram limitadas a uma única linha que proibia o conteúdo que pudesse “enganar os usuários distorcendo a verdade dos eventos ou causando danos significativos ao assunto do vídeo”. Agora, a empresa exige que todo o conteúdo gerado e editado com IA que pareça realista seja “claramente divulgado” como tal, seja na legenda do vídeo ou em uma etiqueta sobreposta.
O TikTok não permitirá nenhuma mídia sintética “que contenha a semelhança de qualquer figura privada real” ou que mostre uma figura pública endossando um produto ou violando outras políticas do aplicativo (como sua proibição de discurso de ódio). A empresa define figuras públicas como qualquer pessoa com mais de 18 anos com “um papel público significativo, como um oficial do governo, político, líder empresarial ou celebridade”.
O conteúdo gerado por IA aumentou em popularidade dentro do TikTok, em grande parte graças à crescente disponibilidade de ferramentas de clonagem de voz de IA que tornam fácil imitar a voz de alguém.
Essas ferramentas criaram novos subgêneros de conteúdo, muitas vezes centrados em situações inesperadas com figuras públicas como o presidente Joe Biden e o ex-presidente Donald Trump. Outros casos de uso são mais prejudiciais, com deepfakes que mostram essas mesmas figuras lendo declarações homofóbicas ou transfóbicas, que às vezes são confundidas com imagens reais.
A atualização das políticas do TikTok ocorre em um momento de crescente pressão política para a ByteDance, enquanto os governos ocidentais expressam temores sobre a coleta de dados privados do aplicativo e seu potencial de influenciar a opinião pública.
O governo dos Estados Unidos ameaçou proibir publicamente o TikTok se a ByteDance não vender sua participação, enquanto o aplicativo já foi banido em dispositivos da Comissão Europeia e computadores governamentais dos Estados Unidos, Reino Unido, Nova Zelândia e Canadá.
Embora o TikTok não aborde essas ameaças diretamente em suas políticas atualizadas, a empresa afirmou que deseja fornecer “muito mais transparência sobre nossas regras e como as fazemos cumprir”. A empresa também divulgará uma lista de oito “Princípios comunitários” que, segundo ela, “formam nosso trabalho diário e guiam como abordamos decisões difíceis de compliance”. Vale ressaltar que os dois primeiros princípios são “prevenir danos” e “permitir a livre expressão”.
