Pesquisadores das universidades de Waterloo e College London conduziram um estudo que revela como as pessoas tendem a superestimar a confiança das respostas fornecidas por sistemas de inteligência artificial (IA), como o ChatGPT e o Gemini. A pesquisa, publicada na Communications Psychology, destaca que os usuários frequentemente percebem as respostas de IA como mais confiantes do que as de humanos, mesmo quando as respostas são idênticas.
Clara Colombatto, primeira autora do artigo, explicou que, à medida que os sistemas de IA se tornam mais sofisticados, as pessoas confiam cada vez mais neles para obter conselhos sobre diversas decisões. No entanto, ao contrário dos humanos, que costumam comunicar o nível de confiança em suas respostas, os sistemas de IA geralmente não fornecem essa informação, o que pode influenciar a confiança dos usuários nas respostas.
O estudo investigou como as pessoas inferem a confiança tanto em humanos quanto em sistemas de IA, mesmo quando essa confiança não é comunicada diretamente. Os participantes observaram decisões sendo tomadas por humanos ou IA e, em seguida, relataram o nível de confiança que acreditavam que o agente tinha em suas escolhas. A pesquisa mostrou que a rapidez das respostas e a aparente facilidade com que as decisões eram tomadas influenciavam a percepção de confiança.
Colombatto destacou que a percepção de confiança pode ser enganosa, pois as pessoas podem acreditar que um sistema de IA é mais preciso e, portanto, mais confiável, mesmo quando essa crença não é justificada. Isso cria uma ‘ilusão de confiança’ em relação à IA, que pode levar a uma confiança excessiva em suas recomendações.
Os resultados sugerem que não é necessário que os agentes comuniquem explicitamente seu nível de confiança para que os usuários façam inferências sobre isso. No entanto, essas inferências podem ser baseadas em pistas enganosas, como a percepção de capacidade do sistema, mesmo quando não há garantia de sua confiabilidade.
O estudo sublinha a importância de projetar sistemas de IA que comuniquem confiança de maneira clara e transparente. Isso poderia ajudar a melhorar a confiança dos usuários nas respostas de IA, evitando que eles depositem confiança excessiva em sistemas que podem ser incertos ou propensos a erros.
Os pesquisadores planejam continuar seus estudos para identificar estratégias eficazes de comunicação de confiança em sistemas de IA. A compreensão de quais sinais de confiança são mais úteis e transparentes em interações entre humanos e IA será um foco importante para pesquisas futuras.
Para mais detalhes, acesse o estudo completo no portal Phys.org.
Leia também: Estudo alerta para iminente perda de controle sobre a inteligência artificial
📨 Inscreva-se na Newsletter de O Cafezinho
Receba nossas análises e as principais notícias diárias do Brasil e do Sul Global.