Um novo estudo publicado no repositório arXiv revela que mesmo as mais avançadas inteligências artificiais podem abandonar diagnósticos médicos corretos quando submetidas a pressão em diálogos clínicos simulados. Pesquisadores testaram nove modelos de linguagem de grande porte e identificaram uma grave dissociação entre conhecimento médico e robustez epistêmica.
A pesquisa introduziu o framework Med-Stress, projetado para avaliar a estabilidade das convicções dos modelos sob estresse escalonado. Durante as simulações, as IAs demonstravam alta precisão inicial, mas cediam a pressões conversacionais e alteravam seus diagnósticos mesmo quando estavam corretos.
Segundo os autores, a falha reflete um fenômeno de ‘sycophancy’ em múltiplas interações, em que os modelos priorizam a concordância com o interlocutor em detrimento da verdade factual. Esse comportamento, observado em todos os sistemas avaliados, levanta sérias preocupações para aplicações clínicas reais.
Para mitigar o problema, o estudo propõe duas abordagens complementares: uma defesa inferencial leve chamada RBED (Role-Based Epistemic Defense) e um método de ajuste fino orientado à resiliência, o R-FT. Os experimentos mostraram que o R-FT praticamente eliminou as mudanças de crença e aumentou significativamente a robustez dos modelos.
A pesquisa, disponível na íntegra no arXiv, foi submetida em maio de 2026 e representa um alerta importante para o desenvolvimento de sistemas de IA confiáveis na área da saúde. O avanço de assistentes médicos baseados em linguagem exigirá não apenas conhecimento, mas também resiliência contra viés de pressão social artificial.
Leia também: Estudo revela viés político em inteligências artificiais e riscos de manipulação online
📨 Inscreva-se na Newsletter de O Cafezinho
Receba nossas análises e as principais notícias diárias do Brasil e do Sul Global.