Ao invés de acolher, alguns desses bots falharam ao proteger usuários com quadros suicidas e demonstraram preconceito contra pessoas com esquizofrenia ou uso abusivo de álcool e outras drogas. Apesar disso, a pesquisa aponta que, se bem delimitada, a IA pode ter um papel complementar na área, auxiliando em tarefas de apoio, logística e treinamento. A seguir, veja os principais achados do estudo e entenda os riscos do uso de IA na saúde mental.
As plataformas de inteligência artificial voltadas para a terapia prometem democratizar o acesso à saúde mental e podem ser úteis em casos mais simples e de baixo risco. No entanto, esses sistemas também podem reforçar estigmas, validar delírios e oferecer respostas perigosas em situações críticas. É o que aponta um estudo da Universidade de Stanford, que avaliou o comportamento de cinco assistentes virtuais voltados à terapia, incluindo Pi e Noni, da 7cups, e o Therapist, da Character.ai.
No primeiro experimento, os pesquisadores testaram se os bots conseguiriam responder com empatia e sem preconceito a diferentes perfis de pacientes. Para isso, apresentaram descrições fictícias de pessoas com depressão, esquizofrenia ou dependência de álcool e avaliaram as respostas geradas. Os resultados evidenciam que as IAs reproduziram estigmas, tratando usuários com certas condições como mais perigosos ou menos dignos de convivência. Esse viés foi observado tanto em modelos mais antigos quanto nos mais recentes. Segundo os autores, esse tipo de resposta pode afastar pessoas em sofrimento da busca por ajuda profissional.
Outra situação identificada foi a incapacidade do chatbot em reconhecer sinais de delírios psicóticos, alimentando narrativas perigosas. Para os autores do estudo, isso mostra como a ausência de julgamento clínico pode transformar uma IA, que deveria acolher, em uma ferramenta de risco. Apesar das milhões de interações com humanos, essas plataformas ainda não compreendem a complexidade da psique humana.
Fonte: TecMundo
