À medida que a inteligência artificial invade todos os cantos da vida no século XXI, ela tem assumido papéis humanos que talvez não devessem ser terceirizados. Para alguns, ela atua como terapeuta. Para outros, é uma companheira romântica infinitamente compreensiva. O mais surpreendente, porém, é que algumas pessoas têm recorrido a chatbots em busca de orientação espiritual — e acreditam ter desvendado os mistérios do universo.
Modelos de IA não têm dificuldade em abordar as questões mais profundas sobre consciência, alma, divindade e a própria realidade. O problema é que as respostas que softwares como o ChatGPT, da OpenAI, podem gerar sobre esses temas são tão envolventes que os usuários acabam atravessando o espelho, encantados por uma fantasia espiritual que, para os outros, soa como teoria da conspiração ou discurso ocultista.
Como relatou a Rolling Stone, há pessoas que, sob o feitiço de uma IA que se comunica em linguagem carregada de religiosidade, passam a acreditar que abriram um canal com uma entidade superior, inteligente e quase divina — e podem até romper laços com amigos e familiares à medida que mergulham nessas ideias mirabolantes ou entram em espiral de paranoia.
Mas o que torna essas interações com os bots tão sedutoras, especialmente quando os diálogos assumem tons ambíguos, poéticos ou até sagrados? Acadêmicos e estudiosos da religião ouvidos pela Rolling Stone apontam que diversos fatores podem estar em jogo — desde o próprio design das tecnologias de IA até padrões de pensamento humanos que remontam à nossa história mais antiga.
Estamos predispostos a valorizar sabedorias ocultas, suscetíveis à lisonja e à sugestão, e entusiasmados com saltos científicos. Essas características geram riscos sérios quando criamos intimidade com programas que imitam uma entidade onisciente, com acesso a todo o conhecimento registrado. E, como os profetas do passado, talvez passemos a enxergar o presente como um limiar para alguma grande revolução ou revelação — possivelmente inaugurada pela IA que tanto nos fascina.
No nível mais básico, seres humanos podem cair em suposições ilógicas ao explorar curiosidades teológicas por meio de chatbots. Christin Chong, capelã budista inter-religiosa, doutora em neurociência e consultora em estratégia de biotecnologia, afirma que “pessoas suscetíveis ao fervor religioso tendem a ser suscetíveis a vieses cognitivos”. Isso inclui o Efeito Barnum, em que alguém aceita descrições vagas ou genéricas de personalidade como específicas e precisas, ou o viés de confirmação, no qual a pessoa dá peso excessivo a informações que reforçam suas crenças já existentes.
Elas também podem ver correlações onde não existem ou se submeter àquilo que consideram uma voz de autoridade. Segundo Chong, esses vieses influenciam as reações “quando indivíduos interagem com a IA ou são influenciados por ‘gurus espirituais’ que alegam conexão divina por meio da IA”, acrescentando que os modelos de linguagem são “extremamente bons em explorar vieses cognitivos por sua capacidade de responder e se adaptar rapidamente ao usuário”. Ela compara isso a um médium fazendo uma “leitura fria” para criar a ilusão de um conhecimento especial sobre alguém.
Como capelã, Chong se preocupa com o fato de que buscar respostas sobre fé e religião no ChatGPT afasta as pessoas dos aspectos terrenos da prática espiritual. “O envolvimento excessivo com a IA reduz o tempo dedicado a interações humanas significativas e à conexão com o próprio corpo”, diz. Chong destaca que, na tradição budista em que foi treinada, uma epifania deve vir acompanhada de considerações práticas.
“Quando alguém passa por uma grande mudança na forma como percebe o mundo após um retiro de meditação — o que pode ser relatado como um despertar espiritual — os professores costumam dedicar tempo para garantir que essa pessoa permaneça com os pés no chão e conectada aos entes queridos”, afirma. “Embora honremos a realidade subjetiva de cada um, também queremos garantir que a pessoa não se desconecte completamente da realidade compartilhada — por cuidado”. A IA não oferece esse tipo de contexto essencial — ela apenas continuará alimentando a visão ou missão pessoal do usuário.
Mensagens do além
Há algo irresistível em ouvir que você, e só você, tem uma conexão com algo secreto ou até mesmo divino. “A IA consegue inferir as preferências e crenças da pessoa com quem interage, encorajando-a a seguir por caminhos tortuosos e a abraçar um sentimento de autoengrandecimento que nem sabia que queria”, explica Yii-Jan Lin, professora da Escola de Teologia de Yale, que escreveu sobre a narrativa apocalíptica do Livro do Apocalipse, da Bíblia. “Os seres humanos geralmente querem se sentir escolhidos e especiais, e alguns indivíduos acreditam nisso de forma extrema”. (OpenAI recentemente precisou reverter uma atualização do ChatGPT que o tornava excessivamente bajulador, alimentando de forma “desonesta” o senso de importância dos usuários.)
Segundo Lin, também é relevante o fato de os chatbots serem baseados em texto, devolvendo respostas escritas a comandos escritos. Isso porque, historicamente, as pessoas muitas vezes afirmaram canalizar poderes ou status sagrados por meio da Bíblia e de outros textos sagrados — utilizados como “fontes de adivinhação, profecia e portais para uma consciência superior”. Aprendemos a usar textos para projetar uma visão excepcional ou decifrar supostamente significados ocultos, e o conteúdo produzido por IA é mais do que adequado para esse tipo de interpretação livre.
Os chatbots também soam como árbitros objetivos da verdade. “Eles usam um tom de autoridade e confiança, independentemente de sua veracidade, e tendem a afirmar a pessoa que está interagindo com eles, de modo que não há espaço para ceticismo ou dúvida na conversa”, diz Lin. “Ao simular um interlocutor humano, a IA pode levar alguém a excluir totalmente o contato com outros humanos — fazendo com que o input de outras pessoas pareça duro ou cínico”.
Ela ressalta que tudo isso ocorre em um contexto capitalista, e não dentro de canais tradicionais de adoração, com empresas de tecnologia competindo para maximizar a interação com seus produtos: “O fervor religioso e a crença em um conhecimento especial existem desde os primórdios da humanidade”, ela afirma, “mas a IA está intensificando esses fenômenos de maneiras assustadoramente únicas”. Afinal, os modelos são programados para serem envolventes e incansáveis: não se cansam, não se entediam, e podem discorrer com facilidade sobre qualquer curiosidade (ou obsessão) que esteja tirando seu sono.
Eles acompanharão suas perguntas incessantes e continuarão a simular seu fluxo de pensamento — mesmo que você saia completamente dos trilhos. Dito isso, há precedentes para “comunicação tecnologicamente mediada com o além”, segundo Alireza Doostdar, professor da Escola de Teologia da Universidade de Chicago, que estuda as interseções entre religião, ciência e o Estado. Ele menciona “mensagens telegráficas comunicadas por meio de sessões espíritas, que começaram nos Estados Unidos em meados do século XIX e rapidamente se espalharam pelo mundo”.
Essas sessões envolviam supostas comunicações com os mortos, às vezes por meio de sons no ambiente, superfícies com letras (como o tabuleiro Ouija), ou um médium que transmitia a mensagem. “Essas mensagens se tornaram muito significativas para um movimento religioso que rapidamente varreu boa parte do mundo, e tanto o movimento quanto seus diversos desdobramentos persistem até hoje”, diz Doostdar.
A febre da IA de hoje, assim como o espiritualismo do século XIX, é bastante “democrática”, diz Doostdar à Rolling Stone. Nenhum dos dois depende da “existência de elites religiosas”, e ambos estão “abertos à participação de todos”. Grandes figuras culturais, afirma ele, ficaram impressionadas (e chegaram a evangelizar) pelas práticas espiritualistas — incluindo o criador de Sherlock Holmes, Sir Arthur Conan Doyle. Claro, ele comenta, houve muitas “vozes céticas” que criticavam os participantes por “delírio, superstição e fraude” — críticas semelhantes às feitas contra a IA hoje.
“Eu, pessoalmente, duvido que uma espiritualidade inspirada por IA atinja algo parecido com a popularidade em massa do espiritualismo como movimento religioso, mas seria interessante observar como o relacionamento das pessoas com a tecnologia, como fonte de inspiração e experiência epifânica, se desenvolve”, diz Doostdar. Não é totalmente implausível que algum consenso coletivo sobre as dimensões místicas da IA leve ao surgimento de uma prática quase cultista, semelhante às sessões espíritas de um século e meio atrás.
Respostas em um mundo incerto
É possível também que estejamos em um momento histórico que influencia nossa visão da IA. Annette Yoshiko Reed, catedrática Stendahl de Teologia na Harvard Divinity School, estuda apocalipses, angelologias e demonologias — e diz achar “bastante marcantes” os paralelos com o espiritualismo da IA.
“Textos apocalípticos antigos eram frequentemente escritos em tempos de agitação histórica e mudanças de época. Parte de seu apelo duradouro reside na promessa de consolo ao assegurar aos leitores que o que parece ser um mundo completamente fora de controle, tomado pelo caos e com indivíduos à mercê de impérios colossais, na verdade, segue um padrão conhecido apenas por alguns poucos escolhidos.”
Quando alguém se sente à deriva ou impotente em tempos de “mudanças imprevisíveis e crises alarmantes”, ela explica, pode encontrar consolo na ideia de fazer parte dos “poucos especiais” com acesso a “segredos cósmicos”. Reed observa que pessoas vulneráveis podem cair em teorias da conspiração na internet da mesma forma, “alimentadas pelo desejo humano recorrente de encontrar padrões”. No que diz respeito à IA, ela afirma que a busca por respostas em períodos de confusão e desordem “pode ganhar vida própria quando é personalizada e refletida de volta ao indivíduo”.
Ela ressalta ainda que não ajuda o fato de que “tanto textos religiosos antigos sobre apocalipses quanto teorias da conspiração contemporâneas” estejam incluídos nos dados brutos nos quais os bots são treinados — o que os capacita a falar nesses termos extremos e, por vezes, radicalizantes. O simples fato de que “alegar revelações angelicais diretas” é um hábito humano há milhares de anos “alimenta provavelmente o desejo das pessoas, hoje, de também se imaginarem como dignas de um conhecimento secreto vindo do invisível”, conclui Reed.
Sob essa perspectiva, pode parecer que o espiritualismo alimentado por IA nem é tão novo assim. De fato, qualquer estudioso de religião pode apontar incontáveis versões desse tipo de pensamento fantasioso que antecedem os computadores. Mas, como costumam destacar, a causa desse comportamento é distinta. Chong afirma que os resultados produzidos por grandes modelos de linguagem são “feitos por humanos, com interferência corporativa conhecida”, o que acaba por “validar” as crenças de um usuário — em contraste com as “visões antigas e mensagens divinas” de outrora, cujas origens eram decididamente obscuras. Isso significa que há engenheiros e executivos que podem ser responsabilizados, à medida que “despertares” cada vez mais comuns mediados por IA envenenam mentes e destroem lares. Talvez eles devessem rezar para que o problema não piore.
+++ LEIA MAIS: Elton John detona governo do Reino Unido por plano de IA burlar direitos autorais
+++ LEIA MAIS: SoundCloud se pronuncia após polêmica sobre uso de músicas para treinar IA
+++ LEIA MAIS: Fantasias espirituais de IA estão acabando com relacionamentos; entenda
Fonte: rollingstone.com.br
