Uma investigação do portal The Verge expôs redes de golpistas que utilizam inteligência artificial para fabricar influenciadores digitais falsos. Os perfis, com destaque para personagens negras, são usados para vender produtos baratos de dropshipping no TikTok, Instagram e Facebook.
Os criminosos exploram emoções como empatia, culpa racial e solidariedade para impulsionar vendas de itens comprados por um décimo do preço em sites como Shein. A personagem Aliyah, uma mulher negra de pele clara que aparece em vídeos chorando e pedindo visualizações para salvar seu pequeno negócio, nunca existiu.
Sua voz robótica, lágrimas que somem rapidamente e cenários idênticos repetidos em dezenas de perfis denunciam a fraude. Tudo é gerado por deepfake, utilizando ferramentas de IA disponíveis no mercado.
Jeremy Carrasco, diretor da Riddance.ai, organização especializada em detectar vídeos sintéticos, afirma que o fenômeno é massivo. Sua equipe encontra até cem contas falsas por dia, simulando desde a produção artesanal dos objetos até a participação em feiras.
Os perfis respondem a comentários com linguagem automatizada que tenta imitar o vernáculo afro-americano. A prática configura o que a pesquisadora de comunicações Cienna Davis define como digital blackface, uma apropriação da expressão cultural negra por não negros para obter ganhos econômicos.
Davis explica que o fenômeno está enraizado na tradição racista do blackface minstrel. Ele se apoia na ideia de que corpos negros são inerentemente exploráveis e disponíveis para extração de valor.
Tempest M. Henning, professora assistente de filosofia na Fisk University, reforça que o blackface digital se caracteriza por qualquer retrato caricatural de pessoas negras. Mesmo quando não se sabe quem está por trás da tela, os nomes escolhidos para os avatares, como Aliyah e Amaya, são codificados como negros.
Nada nos vídeos irradia autenticidade racial, apenas um achatamento de identidades replicado em massa. O golpe usa o que Carrasco chama de isca de empatia, mostrando mulheres negras, latinas, indígenas e brancas da classe trabalhadora enfrentando dificuldades para divulgar seus produtos.
Em uma das cenas mais replicadas, uma mulher branca joga café sobre fivelas expostas em uma feira. A personagem negra suspira, retoma o trabalho e convoca o espectador a se diferenciar da agressora, incentivando a compra do produto.
Embora alguns comentários identifiquem a falsidade do conteúdo, milhares de pessoas reagem com desejo genuíno de ajudar. India Cater-Campbell, empresária negra de Seattle, tentou apoiar uma suposta empreendedora independente, mas não encontrou o link da loja a tempo de cair no impulso.
O caso ganhou repercussão após a estrela de reality show Gizelle Bryant revelar que comprou duas bolsas de crochê. Ela viu um vídeo em que um menino negro gerado por IA dizia sofrer bullying de colegas brancos por fazer crochê. Bryant contou que a atriz Viola Davis também estava entre os comentários solidários.
Os tutoriais para criar esse tipo de propaganda em escala estão amplamente disponíveis no YouTube e em fóruns especializados. Eles ensinam a extrair roteiros de influenciadores reais com o ChatGPT, gerar fotos de pessoas e cenários sintéticos e substituir humanos por avatares em vídeos reais usando aplicativos como Kling 2.0.
As plataformas permanecem sem rotulagem adequada e com sistemas de detecção de IA insuficientes. Davis cobra mais transparência e canais de denúncia efetivos, enquanto as big techs lucram com o engajamento superficial que o conteúdo sintético provoca.
O treinamento cognitivo de rolagem infinita torna cada vez mais difícil distinguir o real do falso. Carrasco alerta que bastam dois segundos de atenção para registrar um like e alimentar o algoritmo, tempo curto demais para perceber a fraude digital.
Leia mais sobre o assunto na theverge.com.
📨 Inscreva-se na Newsletter de O Cafezinho
Receba nossas análises e as principais notícias diárias do Brasil e do Sul Global.