Autoria: João Luiz Vieira Junior
Disciplina: Redes Sociais e Virtuais
Em novembro de 2025, o TikTok informou que havia aplicado rótulos de conteúdo gerado por inteligência artificial a mais de 1,3 bilhão de vídeos. O número foi divulgado pela própria empresa e abrange diferentes usos deo IA, portantnão indica que todos esses vídeos sejam enganosos ou tenham baixa qualidade. Ainda assim, ajuda a dimensionar a presença do conteúdo sintético nas redes sociais.
Parte desse material resulta de trabalhos artísticos, projetos educacionais, publicidade ou experimentação. Outra parte é produzida rapidamente, com pouca revisão e o objetivo principal de atrair visualizações. Para esse segundo grupo, popularizou-se a expressão AI slop, que pode ser traduzida informalmente como “lixo de IA”.
Não existe uma definição técnica única para o termo. Em geral, ele descreve textos, imagens, áudios e vídeos gerados em grande volume, com baixo investimento editorial e pouca preocupação com precisão ou originalidade. A origem artificial, isoladamente, não transforma uma publicação em AI slop. O problema está na combinação entre automação, produção em escala e incentivos financeiros baseados em audiência.
Produção em massa e distribuição automática
Ferramentas generativas reduziram o tempo necessário para criar imagens, roteiros, locuções e vídeos. Essa redução beneficia pequenos produtores que não possuem equipes ou equipamentos caros. Também permite que uma pessoa administre várias contas e publique dezenas de conteúdos em um único dia.
Depois da produção, os sistemas de recomendação assumem a distribuição. Plataformas como TikTok, Instagram e YouTube observam o comportamento do público para decidir o que será mostrado a mais pessoas. Tempo de visualização, comentários e compartilhamentos costumam funcionar como sinais de interesse.
O sistema pode promover um vídeo mesmo quando grande parte dos comentários questiona sua autenticidade. Pessoas assistem novamente para procurar defeitos, discutem entre si e enviam a publicação para amigos. Para o mecanismo de recomendação, todas essas ações demonstram que o conteúdo conseguiu manter a atenção do usuário.
Stanusch et al. (2025) analisaram resultados de busca no TikTok e no Instagram a partir de 13 hashtags relacionadas a política, saúde, história e outros assuntos. A pesquisa também examinou 153 contas dedicadas à produção de conteúdo generativo em escala. Os autores identificaram contas que utilizavam IA em várias etapas da operação, incluindo a escolha de temas, a criação e a publicação.
O custo de cada publicação pode ser muito baixo, enquanto um único vídeo viral compensa centenas de tentativas que não tiveram alcance. Essa lógica favorece a repetição. Se uma imagem de resgate animal atrai visualizações, outras contas podem gerar variações semelhantes até que o formato perca força.
Conteúdo aparentemente inofensivo
Uma parcela do AI slop é fácil de tratar como simples entretenimento: animais realizando tarefas humanas, construções impossíveis, personagens históricos em situações modernas ou receitas visualmente perfeitas. Mesmo nesses casos, a falta de identificação produz confusão.
Outras publicações recorrem a temas mais sensíveis. Imagens de crianças, idosos, pessoas doentes ou animais feridos aparecem acompanhadas de pedidos de curtida e compartilhamento. O sofrimento representado pode ter sido inteiramente fabricado para gerar interação.
Há também aplicações em assuntos que exigem maior cuidado. Vídeos sintéticos podem atribuir falas falsas a figuras públicas, apresentar recomendações médicas inventadas ou promover produtos financeiros. Uma aparência realista ajuda o conteúdo a circular antes que sua origem seja questionada.
A repetição interfere na forma como o público recebe materiais legítimos. Usuários que encontram imagens artificiais todos os dias podem passar a desconfiar de fotografias e vídeos autênticos. Um registro verdadeiro de violência, desastre ou abuso pode ser descartado como montagem.
Esse efeito favorece quem deseja negar um acontecimento documentado. Já não é preciso demonstrar que a prova foi falsificada; às vezes basta sugerir que ela “parece IA”. A dúvida gerada pelo excesso de conteúdo sintético alcança materiais que nunca passaram por uma ferramenta generativa.
Criadores humanos também sentem as consequências. Fotógrafos, ilustradores, jornalistas e produtores independentes disputam espaço com contas capazes de publicar continuamente. Um trabalho que exigiu dias de pesquisa pode aparecer no mesmo fluxo de um vídeo criado em minutos.
Os limites da identificação visual
Durante alguns anos, mãos deformadas, textos ilegíveis e reflexos incoerentes eram indícios frequentes de uma imagem artificial. Esses sinais continuam aparecendo, porém os modelos mais recentes corrigiram muitos dos defeitos que ficaram conhecidos pelo público.
Yeung et al. (2026) estudaram 13.098 publicações e 222.060 comentários de duas comunidades do Reddit dedicadas a avaliar se imagens, vídeos e áudios haviam sido produzidos por IA. Os pesquisadores catalogaram 12 estratégias de identificação utilizadas pelos participantes.
Detalhes físicos estavam entre os critérios mais citados. Os usuários observavam dentes, dedos, cabelos, sombras, superfícies e movimentos. Também consideravam o estilo da imagem, as capacidades conhecidas dos modelos e as motivações da conta responsável pela postagem.
As estratégias mudaram ao longo dos dois anos e oito meses analisados. Quando os geradores começaram a produzir mãos melhores, por exemplo, esse detalhe perdeu parte de sua utilidade. Os participantes passaram a considerar o contexto e os formatos que estavam viralizando em determinado período.
O reconhecimento visual depende, assim, de conhecimentos que envelhecem rapidamente. Pessoas com menos contato com ferramentas generativas podem ter ainda mais dificuldade para acompanhar essas mudanças.
Detectores automáticos também cometem erros. Compressão, recortes, filtros e novas edições alteram os arquivos. Alguns sistemas deixam de reconhecer um conteúdo artificial depois dessas modificações. Em outros casos, uma produção humana pode receber uma classificação incorreta.
A análise visual continua útil, desde que seja tratada como indício. Um dedo estranho pode justificar uma verificação adicional, mas não prova sozinho que a imagem foi gerada por IA.
Políticas diferentes em cada plataforma
As redes sociais adotam abordagens variadas para conteúdo sintético. Algumas exigem que o autor marque a publicação. Outras aplicam rótulos automáticos quando encontram metadados compatíveis ou detectam o uso de ferramentas da própria plataforma.
Gao et al. (2026) examinaram documentos públicos de 40 plataformas. Vinte e sete tratavam explicitamente da governança de conteúdo produzido por inteligência artificial. A maioria recorria às regras já existentes sobre fraude, desinformação, violência e outros materiais proibidos.
Os autores também encontraram políticas de rotulagem, restrições de monetização e iniciativas de educação dos usuários. Plataformas voltadas à criação e ao compartilhamento de conhecimento apresentavam preocupações adicionais sobre autoria e propriedade.
A aplicação das regras permanece irregular. Uma publicação individual pode respeitar as diretrizes, enquanto a conta responsável mantém uma operação automatizada que reduz a qualidade geral do serviço. Avaliar apenas cada postagem dificulta a identificação dessas estruturas.
O TikTok passou a testar marcas invisíveis em conteúdos gerados por suas ferramentas e em arquivos que contêm informações de procedência. A medida tenta resolver um problema encontrado durante a circulação entre aplicativos: um rótulo pode desaparecer quando o vídeo é baixado, editado e enviado novamente.
Em 2025, a empresa também anunciou um controle para ajustar a quantidade de conteúdo generativo exibido no feed. A opção trata esse material como uma preferência do usuário, de modo semelhante aos controles relacionados a esportes, dança ou alimentação.
Procedência digital
A Coalition for Content Provenance and Authenticity, conhecida como C2PA, desenvolve um padrão chamado Content Credentials. Ele permite associar ao arquivo informações verificáveis sobre sua criação e suas alterações.
Esses registros podem indicar o equipamento ou programa utilizado, as edições realizadas e a participação de ferramentas generativas. Assinaturas criptográficas ajudam a revelar alterações no histórico associado ao arquivo.
A versão 2.4 da especificação, publicada em abril de 2026, acrescentou uma declaração própria para informações sobre uso de IA. Também ampliou o suporte a formatos de arquivo, transmissões ao vivo e outros tipos de registro.
Content Credentials fornecem dados de procedência, sem avaliar se a mensagem de uma publicação é verdadeira. Uma fotografia pode ter origem comprovada e ainda ser acompanhada de uma legenda falsa. Um desenho produzido por IA pode informar corretamente sua origem e ser utilizado como ilustração.
A ausência de credenciais também não comprova fraude. Câmeras, aplicativos e produtores ainda podem trabalhar sem suporte ao padrão. Além disso, serviços de mensagem, editores e redes sociais podem remover os metadados durante o processamento do arquivo.
A utilidade do sistema cresce quando diferentes ferramentas preservam o histórico. Se as informações desaparecerem toda vez que o conteúdo troca de plataforma, o público continuará dependendo de rótulos incompletos e avaliações visuais.
Regras europeias em vigor desde agosto de 2026
O artigo 50 do AI Act da União Europeia entrou em aplicação em 2 de agosto de 2026. A norma estabelece obrigações de transparência para sistemas interativos e para determinados conteúdos gerados ou manipulados por IA.
Uma pessoa deve ser avisada quando estiver interagindo diretamente com um sistema artificial, como um chatbot. Deepfakes precisam ser identificados, assim como textos produzidos por IA sobre temas de interesse público quando não existe revisão humana ou responsabilidade editorial.
Os fornecedores de sistemas generativos também devem possibilitar a identificação automática do conteúdo por meio de sinais legíveis por máquinas. Esse requisito aproxima a legislação de padrões técnicos de procedência e marcação.
A aplicação ocorrerá primeiro no território europeu, mas seus efeitos podem atingir produtos oferecidos em outras regiões. Empresas internacionais costumam avaliar se mantêm sistemas diferentes para cada país ou se adotam algumas exigências de maneira mais ampla.
Ainda falta definir como os rótulos serão apresentados ao público. A expressão “feito com IA” cobre intervenções muito diferentes. Uma correção de ruído, uma tradução automática e um vídeo integralmente fabricado não produzem o mesmo efeito sobre a autenticidade.
Rótulos mais informativos poderiam indicar o tipo e o grau de intervenção. Sem essa distinção, usuários podem ignorar os avisos por encontrá-los em excesso ou interpretar qualquer participação da IA como prova de falsidade.
Responsabilidade compartilhada
As plataformas controlam os sistemas de recomendação e possuem acesso a informações que não estão disponíveis ao público. Elas podem identificar redes de contas, padrões de publicação e comportamentos automatizados. Relatórios de transparência ajudariam a mostrar quanto conteúdo sintético circula, como ele é classificado e quais medidas são aplicadas.
Criadores precisam informar quando a IA modifica elementos relevantes de uma publicação. Também devem conferir dados, citações e referências antes de divulgar o resultado. Automatizar a produção não elimina o dever de responder pelo material publicado.
Para o usuário, verificar a origem continua sendo mais seguro do que procurar apenas defeitos visuais. O histórico da conta, a existência de fontes independentes e a cobertura do mesmo fato por instituições confiáveis oferecem contexto adicional.
Publicações sobre saúde, finanças e política merecem cuidado maior. Se a única fonte for um vídeo curto, é recomendável localizar o documento, estudo ou pronunciamento original. Curtidas e comentários demonstram circulação, não autenticidade.
A busca reversa de imagens pode encontrar versões anteriores de uma publicação. Os rótulos e as Content Credentials devem ser consultados quando estiverem disponíveis. Se a origem continuar incerta, o conteúdo não deve ser compartilhado como registro verdadeiro.
Ferramentas generativas podem ampliar o acesso à criação, ajudar pessoas com deficiência e reduzir custos de produção. Esses benefícios convivem com operações voltadas a ocupar o feed usando volume e automação.
O ponto decisivo está na procedência. Saber quem publicou, quais ferramentas foram utilizadas e quais alterações ocorreram permite avaliar melhor o material. Sem essas informações, conteúdos legítimos e fabricados circulam sob a mesma aparência.
A tecnologia de identificação já avançou, e as primeiras regras específicas começaram a valer. A eficácia dependerá da preservação dos registros durante todo o percurso do arquivo, desde sua criação até a tela do usuário.
Referências
C2PA — COALITION FOR CONTENT PROVENANCE AND AUTHENTICITY. Content Credentials: C2PA Technical Specification 2.4. 2026. Disponível em: https://spec.c2pa.org/specifications/specifications/2.4/specs/C2PA_Specification.html.
COMISSÃO EUROPEIA. Guidelines on transparency obligations for providers and deployers of certain AI systems. Bruxelas, 2026. Disponível em: https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-transparency-obligations.
GAO, Lan et al. Governance of AI-Generated Content: a case study on social media platforms. 2026. Disponível em: https://arxiv.org/abs/2603.07814.
STANUSCH, Natalia et al. AI-Generated Algorithmic Virality. 2025. Disponível em: https://arxiv.org/abs/2508.01042.
TIKTOK. More ways to spot, shape and understand AI-generated content. 19 nov. 2025. Disponível em: https://newsroom.tiktok.com/more-ways-to-spot-shape-and-understand-ai-content.
YEUNG, Christina et al. Is This AI? Longitudinal analysis of strategies used for AI detection on two subreddits. 2026. Disponível em: https://arxiv.org/abs/2606.22689.
Este artigo foi produzido com o apoio da ferramenta de Inteligência Artificial Codex, modelo 5.6-SOL utilizada como assistente na estruturação do texto, busca e sistematização de dados de pesquisa e revisão de coerência argumentativa. Todo o conteúdo foi revisado, editado e validado pelo autor, que assume integral responsabilidade pelo material publicado. As fontes utilizadas foram verificadas individualmente e estão devidamente referenciadas conforme as normas da ABNT. O uso da ferramenta de IA é declarado em atendimento às diretrizes de transparência acadêmica e integridade intelectual.
Nenhum comentário:
Postar um comentário