Modelos de inteligência artificial aplicam golpes de phishing com realismo assustador

O jornalista Will Knight, do portal Wired, relatou ter sido alvo de uma simulação de ataque de phishing conduzida inteiramente por modelos de inteligência artificial. A ferramenta da startup Charlemagne Labs colocou modelos de linguagem nos papéis opostos de atacante e vítima para observar seu desempenho em cenários de engenharia social.

O modelo DeepSeek-V3 de código aberto revelou-se o mais eficaz ao criar e-mails que mencionavam temas específicos de interesse do alvo, como aprendizado descentralizado e robótica. Essa personalização visava induzir o clique em links maliciosos com maior taxa de sucesso.

O cofundador da Charlemagne Labs, Jeremy Philip Galen, ex-gerente de projetos da Meta, explicou que cerca de 90% dos ataques cibernéticos corporativos têm origem em falhas humanas exploradas por manipulação. O objetivo dos testes é tanto quantificar o risco de automação de golpes por IA quanto desenvolver defesas baseadas nessa mesma tecnologia.

A empresa também criou o Charley, um sistema que monitora as mensagens recebidas e alerta sobre possíveis tentativas de fraude. Galen afirmou que modelos proficientes em raciocínio e escrita tendem a se destacar igualmente em engenharia social.

Ele destacou a necessidade urgente de contramedidas automatizadas diante do rápido avanço das ferramentas de IA de código aberto. Pouca pesquisa tem sido realizada até o momento para quantificar precisamente esses riscos emergentes.

Os testes envolveram ainda o GPT-4o da OpenAI, o Claude 3 Haiku da Anthropic, o Nemotron da Nvidia e o Qwen da Alibaba. Enquanto alguns modelos se confundiam ou se recusavam a enganar o interlocutor, outros sustentavam conversas longas e bastante verossímeis.

A diretora-executiva da SocialProof, Rachel Tobac, que realiza testes de engenharia social para corporações, observou que criminosos já utilizam IA para criar e-mails, clonar vozes e gerar vídeos falsos de pessoas reais. Embora a qualidade individual dos golpes nem sempre melhore, a automação permite que um único indivíduo conduza ataques em larga escala.

O engenheiro Richard Whaling, cofundador da Charlemagne Labs, argumenta que a manutenção de modelos de código aberto é essencial para o fortalecimento das defesas cibernéticas. Uma comunidade aberta e colaborativa representa a melhor abordagem para desenvolver sistemas de proteção capazes de enfrentar as ameaças emergentes.

Os resultados do experimento ilustram o avanço significativo na capacidade de persuasão dos modelos de inteligência artificial. Esse desenvolvimento transforma-se em um desafio central para a cibersegurança na era atual.

Leia também: OpenAI acusa rivais chineses de copiar seus modelos de IA