Modelos de inteligência artificial aplicam golpes de phishing com realismo assustador

O jornalista Will Knight, do portal Wired, relatou ter sido alvo de uma simulação de ataque de phishing conduzida inteiramente por modelos de inteligência artificial. A ferramenta da startup Charlemagne Labs colocou modelos de linguagem nos papéis opostos de atacante e vítima para observar seu desempenho em cenários de engenharia social.

O modelo DeepSeek-V3 de código aberto revelou-se o mais eficaz ao criar e-mails que mencionavam temas específicos de interesse do alvo, como aprendizado descentralizado e robótica. Essa personalização visava induzir o clique em links maliciosos com maior taxa de sucesso.

O cofundador da Charlemagne Labs, Jeremy Philip Galen, ex-gerente de projetos da Meta, explicou que cerca de 90% dos ataques cibernéticos corporativos têm origem em falhas humanas exploradas por manipulação. O objetivo dos testes é tanto quantificar o risco de automação de golpes por IA quanto desenvolver defesas baseadas nessa mesma tecnologia.

A empresa também criou o Charley, um sistema que monitora as mensagens recebidas e alerta sobre possíveis tentativas de fraude. Galen afirmou que modelos proficientes em raciocínio e escrita tendem a se destacar igualmente em engenharia social.

Ele destacou a necessidade urgente de contramedidas automatizadas diante do rápido avanço das ferramentas de IA de código aberto. Pouca pesquisa tem sido realizada até o momento para quantificar precisamente esses riscos emergentes.

Os testes envolveram ainda o GPT-4o da OpenAI, o Claude 3 Haiku da Anthropic, o Nemotron da Nvidia e o Qwen da Alibaba. Enquanto alguns modelos se confundiam ou se recusavam a enganar o interlocutor, outros sustentavam conversas longas e bastante verossímeis.

A diretora-executiva da SocialProof, Rachel Tobac, que realiza testes de engenharia social para corporações, observou que criminosos já utilizam IA para criar e-mails, clonar vozes e gerar vídeos falsos de pessoas reais. Embora a qualidade individual dos golpes nem sempre melhore, a automação permite que um único indivíduo conduza ataques em larga escala.

O engenheiro Richard Whaling, cofundador da Charlemagne Labs, argumenta que a manutenção de modelos de código aberto é essencial para o fortalecimento das defesas cibernéticas. Uma comunidade aberta e colaborativa representa a melhor abordagem para desenvolver sistemas de proteção capazes de enfrentar as ameaças emergentes.

Os resultados do experimento ilustram o avanço significativo na capacidade de persuasão dos modelos de inteligência artificial. Esse desenvolvimento transforma-se em um desafio central para a cibersegurança na era atual.

Leia também: OpenAI acusa rivais chineses de copiar seus modelos de IA

if(!email) { responses.innerHTML = "Por favor, insira um e-mail válido."; return; }

button.innerText = "Enviando..."; button.style.opacity = "0.7"; button.disabled = true; responses.innerHTML = "";

// Transforma a action nativa em endpoint JSONP e anexa os dados var formAction = this.action.replace('/post?', '/post-json?'); var formData = new FormData(this); var url = formAction;

for (var pair of formData.entries()) { url += "&" + encodeURIComponent(pair[0]) + "=" + encodeURIComponent(pair[1]); }

var script = document.createElement('script'); var callbackName = 'mailchimpCallback' + new Date().getTime(); window[callbackName] = function(data) { button.innerText = "ASSINAR"; button.style.opacity = "1"; button.disabled = false;

if (data.result === 'success') { responses.innerHTML = "✅ Inscrição confirmada com sucesso! Bem-vindo(a) ao O Cafezinho."; document.getElementById('mce-EMAIL-ajax').value = ''; } else { var msg = data.msg || ""; if(msg.includes('is already subscribed')) { msg = "⚠️ Este e-mail já está assinado na nossa newsletter."; } else if(msg.includes('too many')) { msg = "⚠️ Muitas tentativas. Tente novamente mais tarde."; } else if(msg.includes('domain')) { msg = "⚠️ O domínio do e-mail é inválido."; } else { msg = "⚠️ Erro: " + msg; } msg = msg.replace(/^[0-9]+\s-\s/, ''); responses.innerHTML = "" + msg + ""; } delete window[callbackName]; document.body.removeChild(script); };

url = url + '&c=' + callbackName; script.src = url; document.body.appendChild(script); });