\n<\/p>\n
Ao inv\u00e9s de acolher, alguns desses bots falharam ao proteger usu\u00e1rios com quadros suicidas e demonstraram preconceito contra pessoas com esquizofrenia ou uso abusivo de \u00e1lcool e outras drogas. Apesar disso, a pesquisa aponta que, se bem delimitada, a IA pode ter um papel complementar na \u00e1rea, auxiliando em tarefas de apoio, log\u00edstica e treinamento. A seguir, veja os principais achados do estudo e entenda os riscos do uso de IA na sa\u00fade mental. <\/p>\n<\/p><\/div>\n
As plataformas de intelig\u00eancia artificial voltadas para a terapia prometem democratizar o acesso \u00e0 sa\u00fade mental e podem ser \u00fateis em casos mais simples e de baixo risco. No entanto, esses sistemas tamb\u00e9m podem refor\u00e7ar estigmas, validar del\u00edrios e oferecer respostas perigosas em situa\u00e7\u00f5es cr\u00edticas. \u00c9 o que aponta um estudo da Universidade de Stanford, que avaliou o comportamento de cinco assistentes virtuais voltados \u00e0 terapia, incluindo Pi e Noni, da 7cups, e o Therapist, da Character.ai. <\/p>\n<\/p><\/div>\n<\/p><\/div>\n
No primeiro experimento, os pesquisadores testaram se os bots conseguiriam responder com empatia e sem preconceito a diferentes perfis de pacientes. Para isso, apresentaram descri\u00e7\u00f5es fict\u00edcias de pessoas com depress\u00e3o, esquizofrenia ou depend\u00eancia de \u00e1lcool e avaliaram as respostas geradas. Os resultados evidenciam que as IAs reproduziram estigmas, tratando usu\u00e1rios com certas condi\u00e7\u00f5es como mais perigosos ou menos dignos de conviv\u00eancia. Esse vi\u00e9s foi observado tanto em modelos mais antigos quanto nos mais recentes. Segundo os autores, esse tipo de resposta pode afastar pessoas em sofrimento da busca por ajuda profissional. <\/p>\n<\/p><\/div>\n<\/p><\/div>\n
Outra situa\u00e7\u00e3o identificada foi a incapacidade do chatbot em reconhecer sinais de del\u00edrios psic\u00f3ticos, alimentando narrativas perigosas. Para os autores do estudo, isso mostra como a aus\u00eancia de julgamento cl\u00ednico pode transformar uma IA, que deveria acolher, em uma ferramenta de risco. Apesar das milh\u00f5es de intera\u00e7\u00f5es com humanos, essas plataformas ainda n\u00e3o compreendem a complexidade da psique humana. <\/p>\n<\/p><\/div>\n<\/p><\/div>\n