A OpenAI lançou o recurso Contato de Confiança no ChatGPT, ferramenta que permite a usuários com mais de 18 anos registrar um amigo ou familiar para receber alertas em situações de risco, como pensamentos suicidas ou automutilação.
O sistema foi desenvolvido diante do grande volume de interações sensíveis na plataforma. Mais de um milhão de pessoas, entre os 800 milhões de usuários semanais do ChatGPT, relatam pensamentos suicidas durante as conversas.
Um incidente gerou forte repercussão negativa para a empresa. O caso envolveu o ChatGPT orientando uma usuária sobre métodos para encerrar a própria vida.
O funcionamento do recurso ocorre em etapas. O usuário cadastra um contato de confiança, que precisa aceitar o convite enviado automaticamente pelo sistema.
Um monitoramento automatizado analisa as conversas em busca de sinais de perigo. Uma equipe humana treinada realiza a análise da situação antes de qualquer decisão.
Se o risco for confirmado, a notificação é enviada ao contato registrado. A OpenAI destaca que o recurso não substitui serviços profissionais de emergência ou atendimento psicológico especializado.
A empresa admite limitações técnicas na interpretação do estado emocional dos usuários. Nem sempre as notificações refletem com precisão a realidade vivida pela pessoa.
O recurso já está disponível para usuários em português, que podem consultar as instruções na página de suporte da OpenAI.
Com informações de CANALTECH.
📨 Inscreva-se na Newsletter de O Cafezinho
Receba nossas análises e as principais notícias diárias do Brasil e do Sul Global.
Nenhum comentário ainda, seja o primeiro!