Google intercepta primeiro ataque zero-day criado com inteligência artificial

O Google anunciou ter bloqueado pela primeira vez um ataque cibernético zero-day desenvolvido com auxílio de inteligência artificial.

O Google Threat Intelligence Group identificou a tentativa de exploração de vulnerabilidade em uma ferramenta de administração de sistemas web de código aberto. A falha permitia contornar o sistema de autenticação de dois fatores e expor dados sensíveis de usuários em larga escala.

Os pesquisadores detectaram no código do exploit traços claros de assistência por modelos de IA. Os indícios incluíam um score CVSS alucinado e uma formatação didática que sugerem o uso de ferramentas de linguagem treinadas para gerar scripts maliciosos.

A vulnerabilidade baseava-se em uma falha lógica na qual o sistema confiava de forma inadequada na autenticação de dois fatores. Esse caso marca um ponto de virada no debate sobre o uso de inteligência artificial em ciberataques.

Hackers empregam estratégias como jailbreaking direcionado por persona para manipular os modelos e identificar vulnerabilidades. Eles ainda alimentam os sistemas com grandes repositórios de dados para refinar os ataques cibernéticos.

O relatório do GTIG alerta para o aumento do uso de inteligência artificial por criminosos cibernéticos. Os atores maliciosos criam exploits mais sofisticados e direcionam ataques a componentes integrados de sistemas de inteligência artificial.

Esses componentes incluem conectores de dados e habilidades autônomas das plataformas. A inteligência artificial apresenta um dilema na área de cibersegurança.

Ela pode reforçar defesas ao mesmo tempo em que se converte em arma poderosa para agentes mal-intencionados. Conforme reportado pelo Olhar Digital, o relatório do Google revela a primeira evidência concreta do uso de IA para criar ataques zero-day.

Essa constatação demanda uma resposta coordenada das empresas de tecnologia e dos governos. O relatório ainda destaca que a IA se tornou alvo de ataques além de servir como ferramenta ofensiva.

Componentes que garantem a funcionalidade de sistemas baseados em inteligência artificial estão sendo explorados por invasores. A descoberta reforça a necessidade de regulamentações mais rígidas e de maiores investimentos em pesquisa.

Especialistas enfatizam a importância de proteger esses sistemas contra ameaças cada vez mais avançadas. O caso evidencia que os riscos do emprego de IA na cibersegurança exigem atenção imediata do setor.