O Google mantém equipes de engenharia no Brasil dedicadas a proteger o modelo de inteligência artificial Gemini contra ataques sofisticados e usos abusivos da plataforma. A informação é do diretor sênior de engenharia de software do Google no país, Alex Freire, em entrevista ao Podcast Canaltech.
As equipes operam dentro do Google Safety Engineering Center (GSEC), que, segundo Freire, opera em duas frentes principais. A primeira envolve a proteção clássica dos usuários contra fraudes, golpes, spam e conteúdos abusivos em produtos como Gmail e Google Maps.
A segunda frente, mais estratégica, trata diretamente da segurança do Gemini e da defesa contra ataques originados em sistemas de inteligência artificial de terceiros. Freire afirma que a empresa desenvolve o modelo de forma ousada, mas com enorme responsabilidade, garantindo que ele não seja exposto nem gere conteúdo abusivo.
Essa estrutura tem raízes profundas no Brasil, nascendo em Belo Horizonte durante a era do Orkut. Na época, engenheiros perceberam a necessidade de detectar e remover conteúdos abusivos de forma sistemática, tecnologia que evoluiu ao longo de duas décadas e hoje opera com times distribuídos entre Belo Horizonte, São Paulo e outros escritórios globais.
O GSEC adota o princípio de zero confiança como base de sua estratégia de segurança, em vez da simples ocultação de informações sobre o funcionamento dos sistemas. O Google publica o arcabouço SAFE (Secure AI Framework), com boas práticas para desenvolvimento responsável de IA, e adota padrões abertos como o FIDO para autenticação por hardware.
Para antecipar falhas, a equipe brasileira utiliza a própria inteligência artificial em processos de red teaming, testando ativamente os produtos contra vulnerabilidades. O monitoramento abrange desde tentativas de prompt hijacking com fins de entretenimento até ataques orquestrados por atores maliciosos, com respostas que escalam de educação para infrações leves a cancelamento de conta para reincidências.
Freire alerta que ferramentas de terceiros sem mecanismos de proteção equivalentes são frequentemente usadas para tentar acessar contas, roubar propriedade intelectual ou obter dados sensíveis. Há ainda uma equipe dedicada no Brasil a encontrar e corrigir falhas em programas de código aberto dos quais a empresa depende, trabalho que beneficia diretamente órgãos públicos e empresas privadas brasileiras.
Leia também: Google reconhece vulnerabilidade em IA e desenvolvedores enfrentam cobranças milionárias
📨 Inscreva-se na Newsletter de O Cafezinho
Receba nossas análises e as principais notícias diárias do Brasil e do Sul Global.