O CEO do Google Cloud, Thomas Kurian, defendeu a adoção de uma abordagem de plataforma para a segurança da inteligência artificial, ressaltando a importância de proteger sistemas desde o início. Em entrevista ao TechCrunch, Kurian alertou que a estratégia de IA deve ir acompanhada de uma estratégia de dados e segurança.
Ele chamou atenção para o uso de ferramentas de consumo por funcionários sem supervisão organizacional, conhecido como ‘IA sombra’, e destacou a necessidade de exigir segurança, governança e auditabilidade desde o início. Kurian também ressaltou que os modelos defensivos antigos são insuficientes para responder aos ataques modernos que evoluem em segundos.
Contudo, a realidade dos desenvolvedores que utilizam a infraestrutura do Google Cloud mostra uma disparidade entre a retórica e a operação. O The Register documentou casos de desenvolvedores surpreendidos por cobranças de cinco dígitos após chamadas de API não autorizadas aos modelos Gemini, serviços que muitos não haviam ativado intencionalmente.
Rod Danan, CEO da plataforma Prentus, relatou que sua conta atingiu 10.138 dólares em aproximadamente 30 minutos após a exploração de uma chave de API comprometida originalmente criada para o Google Maps. O desenvolvedor Isuru Fonseka, de Sydney, acordou com cobranças de cerca de 17.000 dólares australianos, acreditando que um limite de gastos de 250 dólares estava ativo em sua conta.
O problema foi agravado pela atualização automática dos níveis de cobrança pelo Google, que elevou os limites para até 100.000 dólares sem consentimento explícito. A empresa reembolsou os desenvolvedores após a publicação das reportagens, mas não planeja alterar sua política de atualização automática de níveis, priorizando a continuidade do serviço.
Uma pesquisa da empresa de segurança Aikido revelou uma vulnerabilidade preocupante: mesmo quando um desenvolvedor detecta e exclui uma chave comprometida, os atacantes podem continuar utilizando-a por até 23 minutos. Joseph Leon, pesquisador, explicou que, durante essa janela, as taxas de sucesso são imprevisíveis, permitindo a exfiltração de arquivos e dados de conversas armazenados no Gemini.
Leon observou que o problema não parece ser uma limitação técnica, já que formatos de credenciais mais novos do Google revogam o acesso em cerca de cinco segundos. A janela de 23 minutos reflete uma questão de prioridades da empresa, segundo o pesquisador, e não uma restrição de engenharia em escala.
Kurian também ressaltou o risco de agentes de IA acessando repositórios de dados esquecidos em sistemas corporativos, como servidores SharePoint com controles de acesso desatualizados. A resposta proposta pelo executivo é a implementação de uma defesa agêntica totalmente nativa de IA, supervisionada por humanos, mas não mais liderada por eles.
A diretora de segurança da informação do LinkedIn, Lea Kissner, alertou que o setor precisará de profissionais para lidar com o ‘bug-pocalipse’ e que não espera que a indústria compreenda a segurança da IA de forma sustentável por vários anos. Enquanto as plataformas prescrevem soluções de segurança abrangentes, a experiência concreta de desenvolvedores expõe um descompasso que a própria indústria ainda precisa resolver na prática.
Leia mais sobre o assunto na techcrunch.com.
📨 Inscreva-se na Newsletter de O Cafezinho
Receba nossas análises e as principais notícias diárias do Brasil e do Sul Global.