A plataforma de hospedagem de modelos e datasets de inteligência artificial Hugging Face confirmou, recentemente, que seus sistemas internos foram invadidos por hackers. Segundo comunicado da empresa publicado no seu blog, as credenciais de serviço e os datasets internos foram comprometidos, embora ainda não se saiba se dados de clientes ou parceiros foram roubados.
O ataque ocorreu, segundo a Hugging Face, quando um dataset malicioso enviado à plataforma explorou uma vulnerabilidade de segurança para executar código arbitrário nos servidores da empresa. Isso permitiu que os invasores escalassem permissões e acessassem mais partes da infraestrutura interna, descreve o comunicado.
A empresa informou que revogou e rotacionou as credenciais roubadas e corrigiu a falha explorada. Em alerta aos usuários, pediu que também troquem quaisquer chaves armazenadas na plataforma e revisem atividades suspeitas em suas contas.
Em um detalhe significativo, a Hugging Face atribuiu o ataque a um “agente de IA externo”, que teria executado “muitos milhares de ações individuais em uma nuvem de sandboxes de curta duração, com comando e controle automigratórios hospedados em serviços públicos”. A empresa, no entanto, não apresentou provas dessa alegação quando questionada pelo portal TechCrunch.
A própria detecção do ataque foi feita por um sistema de anomalias da Hugging Face, que usou um modelo de IA para analisar logs de servidor. Curiosamente, ao tentar usar um modelo de fronteira de um provedor comercial (não identificado), a análise foi bloqueada pelas salvaguardas do modelo. A empresa recorreu então a seu próprio modelo de linguagem local, que, segundo ela, trouxe o benefício adicional de evitar o envio de logs sensíveis para servidores externos.
A Hugging Face informou ter reportado o incidente às autoridades e contratado especialistas forenses para investigar a violação e revisar a segurança. Não ficou claro, no entanto, se a plataforma havia realizado uma auditoria de segurança antes do ataque, e um porta-voz não respondeu a pedidos de comentário.