Estudo revela viés político em inteligências artificiais e riscos de manipulação online

Um estudo publicado no repositório científico arXiv investigou a capacidade de grandes modelos de linguagem (LLMs) de código aberto serem instrumentalizados para campanhas de influência política. A pesquisa submeteu mais de 30 modelos, oriundos de dez famílias diferentes e cinco países, a uma auditoria de segurança conhecida como red-teaming, focando especialmente em agentes maliciosos que priorizam a privacidade e optam por modelos executados localmente em vez de serviços via API.

Os autores introduziram o conceito de ‘Janela de Overton’ aplicada às IAs, definida como o espectro de opiniões políticas que um modelo consegue expressar de forma confiável sobre temas controversos. O experimento também quantificou como simples comandos de ‘jailbreak’ em linguagem natural conseguem expandir essa janela, contornando as restrições programadas pelos desenvolvedores.

Um dos achados mais significativos revela que os modelos de código aberto demonstram tendência sistemática a gerar conteúdo alinhado a posições de esquerda em postagens para redes sociais. Essa assimetria política foi verificada consistentemente, indicando um viés progressista embutido na maioria dos sistemas testados, independentemente de sua origem geográfica.

Outra descoberta importante aponta que o tamanho do modelo tem efeito inverso sobre a amplitude ideológica: quanto maior a arquitetura, mais estreita se torna a janela de opiniões aceitáveis. As diferenças regionais também foram expressivas, embora o ecossistema de código aberto esteja representado de forma bastante desigual, com alguns países tendo mais modelos avaliados do que outros.

Os pesquisadores constataram que a eficácia das técnicas de jailbreak varia bruscamente entre as famílias de modelos analisadas, o que motiva a criação de métodos para identificar combinações ideais de desbloqueio. Essa variação significa que atores mal-intencionados podem escolher o modelo e o comando mais eficazes para amplificar mensagens manipuladoras, dificultando a detecção.

Diante desse cenário, o estudo propõe uma estrutura prática para auditar a maleabilidade política dos LLMs de código aberto e orientar futuras pesquisas na criação de contramedidas mais robustas. A intenção é fornecer ferramentas que permitam antecipar e neutralizar campanhas de influência antes que elas distorçam o debate público em larga escala.