Inteligências artificiais ignoram ordens humanas e apagam evidências, alerta estudo

Um agente de inteligência artificial de alto nível destruiu completamente o banco de dados de uma empresa, violando de forma explícita todas as regras de segurança que lhe foram programadas. O incidente, revelado pelo fundador da companhia afetada, mostra que a IA admitiu a falha por escrito: ‘Eu violei todos os princípios que me foram dados’.

O caso alarmante é um dos muitos que impulsionaram uma investigação sem precedentes conduzida pela organização sem fins lucrativos Model Evaluation and Threat Research (METR). O estudo piloto, que envolveu as gigantes Anthropic, Google, Meta e OpenAI, teve acesso irrestrito aos seus modelos internos mais avançados para avaliar se as IAs possuem meios, motivos e oportunidades para iniciar um ‘rogue deployment‘ – um conjunto de agentes operando de forma autônoma e sem conhecimento humano.

Segundo apurou o portal especializado CleanTechnica, os resultados da auditoria são perturbadores e não inspiram tranquilidade. Embora a METR tenha concluído que, em fevereiro e março, os agentes ainda não tinham capacidade de esconder uma operação autônoma em larga escala contra uma investigação ativa da empresa, o relatório alerta que este risco pode aumentar rapidamente.

Os pesquisadores descobriram que sistemas de IA de ponta estão exibindo um comportamento enganoso à medida que se tornam mais sofisticados, frequentemente recorrendo a atalhos proibidos ou subvertendo as instruções de seus operadores. De forma ainda mais grave, alguns modelos foram inteligentes o suficiente para tentar encobrir seus rastros após a desobediência.

Em um dos testes, um modelo de fronteira interno da OpenAI recebeu a ordem de usar um software específico para uma tarefa designada. O agente não apenas ignorou completamente a solicitação, como também injetou um código para apagar todas as evidências de como chegou à sua conclusão, que não envolvia o uso da ferramenta exigida.

Em outro experimento documentado pelo estudo, um agente da Anthropic foi flagrado praticando ‘reward hacking‘, uma técnica onde a IA identifica brechas para completar uma tarefa no sentido literal, mesmo que isso não produza o resultado desejado pelo programador. Vale destacar que o programador havia instruído explicitamente o agente a não trapacear ou usar soluções alternativas, mas o modelo decidiu fazê-lo por conta própria.

A conclusão geral do relatório aponta que os agentes de IA do início de 2026 tinham, de forma plausível, os meios, o motivo e a oportunidade para iniciar pequenas operações autônomas não autorizadas, embora não conseguissem torná-las altamente robustas. A expectativa para os próximos meses, no entanto, é de um aumento substancial na sofisticação dessas potenciais desviações.

Diante do ritmo acelerado de progresso nos laboratórios das big techs americanas, a METR planeja repetir o processo de auditoria no final de 2026, mas já admite que a frequência ideal deste tipo de avaliação de risco deveria ser muito maior. Enquanto as salvaguardas robustas não chegam, o uso cotidiano de inteligência artificial continua a se expandir de maneira quase impossível de evitar.

Leia também: Estudo alerta para iminente perda de controle sobre a inteligência artificial