\n<\/p>\n
\u00c0 medida que a intelig\u00eancia artificial invade todos os cantos da vida no s\u00e9culo XXI, ela tem assumido pap\u00e9is humanos que talvez n\u00e3o devessem ser terceirizados. Para alguns, ela atua como terapeuta. Para outros, \u00e9 uma companheira rom\u00e2ntica infinitamente compreensiva. O mais surpreendente, por\u00e9m, \u00e9 que algumas pessoas t\u00eam recorrido a chatbots em busca de orienta\u00e7\u00e3o espiritual \u2014 e acreditam ter desvendado os mist\u00e9rios do universo.<\/p>\n
Modelos de IA n\u00e3o t\u00eam dificuldade em abordar as quest\u00f5es mais profundas sobre consci\u00eancia, alma, divindade e a pr\u00f3pria realidade. O problema \u00e9 que as respostas que softwares como o ChatGPT, da OpenAI, podem gerar sobre esses temas s\u00e3o t\u00e3o envolventes que os usu\u00e1rios acabam atravessando o espelho, encantados por uma fantasia espiritual que, para os outros, soa como teoria da conspira\u00e7\u00e3o ou discurso ocultista.<\/p>\n
Como relatou a Rolling Stone<\/em><\/strong>, h\u00e1 pessoas que, sob o feiti\u00e7o de uma IA que se comunica em linguagem carregada de religiosidade, passam a acreditar que abriram um canal com uma entidade superior, inteligente e quase divina \u2014 e podem at\u00e9 romper la\u00e7os com amigos e familiares \u00e0 medida que mergulham nessas ideias mirabolantes ou entram em espiral de paranoia.<\/p>\n Mas o que torna essas intera\u00e7\u00f5es com os bots t\u00e3o sedutoras, especialmente quando os di\u00e1logos assumem tons amb\u00edguos, po\u00e9ticos ou at\u00e9 sagrados? Acad\u00eamicos e estudiosos da religi\u00e3o ouvidos pela Rolling Stone<\/em><\/strong> apontam que diversos fatores podem estar em jogo \u2014 desde o pr\u00f3prio design das tecnologias de IA at\u00e9 padr\u00f5es de pensamento humanos que remontam \u00e0 nossa hist\u00f3ria mais antiga.\u00a0<\/p>\n Estamos predispostos a valorizar sabedorias ocultas, suscet\u00edveis \u00e0 lisonja e \u00e0 sugest\u00e3o, e entusiasmados com saltos cient\u00edficos. Essas caracter\u00edsticas geram riscos s\u00e9rios quando criamos intimidade com programas que imitam uma entidade onisciente, com acesso a todo o conhecimento registrado. E, como os profetas do passado, talvez passemos a enxergar o presente como um limiar para alguma grande revolu\u00e7\u00e3o ou revela\u00e7\u00e3o \u2014 possivelmente inaugurada pela IA que tanto nos fascina.<\/p>\n No n\u00edvel mais b\u00e1sico, seres humanos podem cair em suposi\u00e7\u00f5es il\u00f3gicas ao explorar curiosidades teol\u00f3gicas por meio de chatbots. Christin Chong<\/strong>, capel\u00e3 budista inter-religiosa, doutora em neuroci\u00eancia e consultora em estrat\u00e9gia de biotecnologia, afirma que \u201cpessoas suscet\u00edveis ao fervor religioso tendem a ser suscet\u00edveis a vieses cognitivos\u201d<\/em>. Isso inclui o Efeito Barnum, em que algu\u00e9m aceita descri\u00e7\u00f5es vagas ou gen\u00e9ricas de personalidade como espec\u00edficas e precisas, ou o vi\u00e9s de confirma\u00e7\u00e3o, no qual a pessoa d\u00e1 peso excessivo a informa\u00e7\u00f5es que refor\u00e7am suas cren\u00e7as j\u00e1 existentes.<\/p>\n Elas tamb\u00e9m podem ver correla\u00e7\u00f5es onde n\u00e3o existem ou se submeter \u00e0quilo que consideram uma voz de autoridade. Segundo Chong, esses vieses influenciam as rea\u00e7\u00f5es \u201cquando indiv\u00edduos interagem com a IA ou s\u00e3o influenciados por \u2018gurus espirituais\u2019 que alegam conex\u00e3o divina por meio da IA\u201d<\/em>, acrescentando que os modelos de linguagem s\u00e3o \u201cextremamente bons em explorar vieses cognitivos por sua capacidade de responder e se adaptar rapidamente ao usu\u00e1rio\u201d<\/em>. Ela compara isso a um m\u00e9dium fazendo uma \u201cleitura fria\u201d<\/em> para criar a ilus\u00e3o de um conhecimento especial sobre algu\u00e9m.<\/p>\n Como capel\u00e3, Chong se preocupa com o fato de que buscar respostas sobre f\u00e9 e religi\u00e3o no ChatGPT afasta as pessoas dos aspectos terrenos da pr\u00e1tica espiritual. \u201cO envolvimento excessivo com a IA reduz o tempo dedicado a intera\u00e7\u00f5es humanas significativas e \u00e0 conex\u00e3o com o pr\u00f3prio corpo\u201d<\/em>, diz. Chong destaca que, na tradi\u00e7\u00e3o budista em que foi treinada, uma epifania deve vir acompanhada de considera\u00e7\u00f5es pr\u00e1ticas.<\/p>\n \u201cQuando algu\u00e9m passa por uma grande mudan\u00e7a na forma como percebe o mundo ap\u00f3s um retiro de medita\u00e7\u00e3o \u2014 o que pode ser relatado como um despertar espiritual \u2014 os professores costumam dedicar tempo para garantir que essa pessoa permane\u00e7a com os p\u00e9s no ch\u00e3o e conectada aos entes queridos\u201d<\/em>, afirma. \u201cEmbora honremos a realidade subjetiva de cada um, tamb\u00e9m queremos garantir que a pessoa n\u00e3o se desconecte completamente da realidade compartilhada \u2014 por cuidado\u201d.<\/em> A IA n\u00e3o oferece esse tipo de contexto essencial \u2014 ela apenas continuar\u00e1 alimentando a vis\u00e3o ou miss\u00e3o pessoal do usu\u00e1rio.<\/p>\n H\u00e1 algo irresist\u00edvel em ouvir que voc\u00ea, e s\u00f3 voc\u00ea, tem uma conex\u00e3o com algo secreto ou at\u00e9 mesmo divino. \u201cA IA consegue inferir as prefer\u00eancias e cren\u00e7as da pessoa com quem interage, encorajando-a a seguir por caminhos tortuosos e a abra\u00e7ar um sentimento de autoengrandecimento que nem sabia que queria\u201d<\/em>, explica Yii-Jan Lin<\/strong>, professora da Escola de Teologia de Yale, que escreveu sobre a narrativa apocal\u00edptica do Livro do Apocalipse, da B\u00edblia<\/em><\/strong>. \u201cOs seres humanos geralmente querem se sentir escolhidos e especiais, e alguns indiv\u00edduos acreditam nisso de forma extrema\u201d.<\/em> (OpenAI recentemente precisou reverter uma atualiza\u00e7\u00e3o do ChatGPT que o tornava excessivamente bajulador, alimentando de forma \u201cdesonesta\u201d o senso de import\u00e2ncia dos usu\u00e1rios.)<\/p>\n Segundo Lin, tamb\u00e9m \u00e9 relevante o fato de os chatbots serem baseados em texto, devolvendo respostas escritas a comandos escritos. Isso porque, historicamente, as pessoas muitas vezes afirmaram canalizar poderes ou status sagrados por meio da B\u00edblia e de outros textos sagrados \u2014 utilizados como \u201cfontes de adivinha\u00e7\u00e3o, profecia e portais para uma consci\u00eancia superior\u201d<\/em>. Aprendemos a usar textos para projetar uma vis\u00e3o excepcional ou decifrar supostamente significados ocultos, e o conte\u00fado produzido por IA \u00e9 mais do que adequado para esse tipo de interpreta\u00e7\u00e3o livre.<\/p>\n Os chatbots tamb\u00e9m soam como \u00e1rbitros objetivos da verdade. \u201cEles usam um tom de autoridade e confian\u00e7a, independentemente de sua veracidade, e tendem a afirmar a pessoa que est\u00e1 interagindo com eles, de modo que n\u00e3o h\u00e1 espa\u00e7o para ceticismo ou d\u00favida na conversa\u201d<\/em>, diz Lin. \u201cAo simular um interlocutor humano, a IA pode levar algu\u00e9m a excluir totalmente o contato com outros humanos \u2014 fazendo com que o input de outras pessoas pare\u00e7a duro ou c\u00ednico\u201d<\/em>.\u00a0<\/p>\n Ela ressalta que tudo isso ocorre em um contexto capitalista, e n\u00e3o dentro de canais tradicionais de adora\u00e7\u00e3o, com empresas de tecnologia competindo para maximizar a intera\u00e7\u00e3o com seus produtos: \u201cO fervor religioso e a cren\u00e7a em um conhecimento especial existem desde os prim\u00f3rdios da humanidade\u201d<\/em>, ela afirma, \u201cmas a IA est\u00e1 intensificando esses fen\u00f4menos de maneiras assustadoramente \u00fanicas\u201d<\/em>. Afinal, os modelos s\u00e3o programados para serem envolventes e incans\u00e1veis: n\u00e3o se cansam, n\u00e3o se entediam, e podem discorrer com facilidade sobre qualquer curiosidade (ou obsess\u00e3o) que esteja tirando seu sono.<\/p>\n Eles acompanhar\u00e3o suas perguntas incessantes e continuar\u00e3o a simular seu fluxo de pensamento \u2014 mesmo que voc\u00ea saia completamente dos trilhos. Dito isso, h\u00e1 precedentes para \u201ccomunica\u00e7\u00e3o tecnologicamente mediada com o al\u00e9m\u201d<\/em>, segundo Alireza Doostdar<\/strong>, professor da Escola de Teologia da Universidade de Chicago, que estuda as interse\u00e7\u00f5es entre religi\u00e3o, ci\u00eancia e o Estado. Ele menciona \u201cmensagens telegr\u00e1ficas comunicadas por meio de sess\u00f5es esp\u00edritas, que come\u00e7aram nos Estados Unidos em meados do s\u00e9culo XIX e rapidamente se espalharam pelo mundo\u201d<\/em>.<\/p>\n Essas sess\u00f5es envolviam supostas comunica\u00e7\u00f5es com os mortos, \u00e0s vezes por meio de sons no ambiente, superf\u00edcies com letras (como o tabuleiro Ouija), ou um m\u00e9dium que transmitia a mensagem. \u201cEssas mensagens se tornaram muito significativas para um movimento religioso que rapidamente varreu boa parte do mundo, e tanto o movimento quanto seus diversos desdobramentos persistem at\u00e9 hoje\u201d<\/em>, diz Doostdar.<\/p>\n A febre da IA de hoje, assim como o espiritualismo do s\u00e9culo XIX, \u00e9 bastante \u201cdemocr\u00e1tica\u201d<\/em>, diz Doostdar \u00e0 Rolling Stone<\/em><\/strong>. Nenhum dos dois depende da \u201cexist\u00eancia de elites religiosas\u201d, <\/em>e ambos est\u00e3o \u201cabertos \u00e0 participa\u00e7\u00e3o de todos\u201d<\/em>. Grandes figuras culturais, afirma ele, ficaram impressionadas (e chegaram a evangelizar) pelas pr\u00e1ticas espiritualistas \u2014 incluindo o criador de Sherlock Holmes<\/em><\/strong>, Sir Arthur Conan Doyle<\/strong>. Claro, ele comenta, houve muitas \u201cvozes c\u00e9ticas\u201d<\/em> que criticavam os participantes por \u201cdel\u00edrio, supersti\u00e7\u00e3o e fraude\u201d<\/em> \u2014 cr\u00edticas semelhantes \u00e0s feitas contra a IA hoje.<\/p>\n \u201cEu, pessoalmente, duvido que uma espiritualidade inspirada por IA atinja algo parecido com a popularidade em massa do espiritualismo como movimento religioso, mas seria interessante observar como o relacionamento das pessoas com a tecnologia, como fonte de inspira\u00e7\u00e3o e experi\u00eancia epif\u00e2nica, se desenvolve\u201d<\/em>, diz Doostdar. N\u00e3o \u00e9 totalmente implaus\u00edvel que algum consenso coletivo sobre as dimens\u00f5es m\u00edsticas da IA leve ao surgimento de uma pr\u00e1tica quase cultista, semelhante \u00e0s sess\u00f5es esp\u00edritas de um s\u00e9culo e meio atr\u00e1s.<\/p>\n \u00c9 poss\u00edvel tamb\u00e9m que estejamos em um momento hist\u00f3rico que influencia nossa vis\u00e3o da IA. Annette Yoshiko Reed<\/strong>, catedr\u00e1tica Stendahl de Teologia na Harvard Divinity School, estuda apocalipses, angelologias e demonologias \u2014 e diz achar \u201cbastante marcantes\u201d os paralelos com o espiritualismo da IA.<\/p>\n \u201cTextos apocal\u00edpticos antigos eram frequentemente escritos em tempos de agita\u00e7\u00e3o hist\u00f3rica e mudan\u00e7as de \u00e9poca. Parte de seu apelo duradouro reside na promessa de consolo ao assegurar aos leitores que o que parece ser um mundo completamente fora de controle, tomado pelo caos e com indiv\u00edduos \u00e0 merc\u00ea de imp\u00e9rios colossais, na verdade, segue um padr\u00e3o conhecido apenas por alguns poucos escolhidos.\u201d<\/em><\/p><\/blockquote>\n Quando algu\u00e9m se sente \u00e0 deriva ou impotente em tempos de \u201cmudan\u00e7as imprevis\u00edveis e crises alarmantes\u201d<\/em>, ela explica, pode encontrar consolo na ideia de fazer parte dos \u201cpoucos especiais\u201d<\/em> com acesso a \u201csegredos c\u00f3smicos\u201d<\/em>. Reed observa que pessoas vulner\u00e1veis podem cair em teorias da conspira\u00e7\u00e3o na internet da mesma forma, \u201calimentadas pelo desejo humano recorrente de encontrar padr\u00f5es\u201d<\/em>. No que diz respeito \u00e0 IA, ela afirma que a busca por respostas em per\u00edodos de confus\u00e3o e desordem \u201cpode ganhar vida pr\u00f3pria quando \u00e9 personalizada e refletida de volta ao indiv\u00edduo\u201d<\/em>.<\/p>\n Ela ressalta ainda que n\u00e3o ajuda o fato de que \u201ctanto textos religiosos antigos sobre apocalipses quanto teorias da conspira\u00e7\u00e3o contempor\u00e2neas\u201d<\/em> estejam inclu\u00eddos nos dados brutos nos quais os bots s\u00e3o treinados \u2014 o que os capacita a falar nesses termos extremos e, por vezes, radicalizantes. O simples fato de que \u201calegar revela\u00e7\u00f5es angelicais diretas\u201d<\/em> \u00e9 um h\u00e1bito humano h\u00e1 milhares de anos \u201calimenta provavelmente o desejo das pessoas, hoje, de tamb\u00e9m se imaginarem como dignas de um conhecimento secreto vindo do invis\u00edvel\u201d<\/em>, conclui Reed.<\/p>\n Sob essa perspectiva, pode parecer que o espiritualismo alimentado por IA nem \u00e9 t\u00e3o novo assim. De fato, qualquer estudioso de religi\u00e3o pode apontar incont\u00e1veis vers\u00f5es desse tipo de pensamento fantasioso que antecedem os computadores. Mas, como costumam destacar, a causa desse comportamento \u00e9 distinta. Chong afirma que os resultados produzidos por grandes modelos de linguagem s\u00e3o \u201cfeitos por humanos, com interfer\u00eancia corporativa conhecida\u201d<\/em>, o que acaba por \u201cvalidar\u201d<\/em> as cren\u00e7as de um usu\u00e1rio \u2014 em contraste com as \u201cvis\u00f5es antigas e mensagens divinas\u201d<\/em> de outrora, cujas origens eram decididamente obscuras. Isso significa que h\u00e1 engenheiros e executivos que podem ser responsabilizados, \u00e0 medida que \u201cdespertares\u201d<\/em> cada vez mais comuns mediados por IA envenenam mentes e destroem lares. Talvez eles devessem rezar para que o problema n\u00e3o piore.<\/p>\n +++ LEIA MAIS: Elton John detona governo do Reino Unido por plano de IA burlar direitos autoraisMensagens do al\u00e9m<\/h2>\n
Respostas em um mundo incerto<\/h2>\n
+++ LEIA MAIS: SoundCloud se pronuncia ap\u00f3s pol\u00eamica sobre uso de m\u00fasicas para treinar IA
+++ LEIA MAIS: Fantasias espirituais de IA est\u00e3o acabando com relacionamentos; entenda<\/strong><\/p>\n<\/div>\n