\n<\/p>\n
Menos de um ano ap\u00f3s se casar com um homem que conheceu no in\u00edcio da pandemia de Covid-19, Kat<\/strong> sentiu a tens\u00e3o aumentar entre eles. Era o segundo casamento para ambos, ap\u00f3s uni\u00f5es que duraram mais de 15 anos e com filhos. Eles prometeram entrar nessa nova fase “com a cabe\u00e7a completamente\u00a0 no lugar”, ela disse, em busca de “fatos e racionalidade” necess\u00e1rios para o equil\u00edbrio dom\u00e9stico.<\/p>\n Mas, em 2022, o marido “estava usando intelig\u00eancia artificial para criar mensagens para mim e analisar nosso relacionamento”, conta a m\u00e3e de 41 anos e funcion\u00e1ria de uma ONG educacional \u00e0 Rolling Stone<\/strong><\/em>. Anteriormente, ele havia usado modelos de IA para um caro acampamento de programa\u00e7\u00e3o do qual desistiu repentinamente sem explica\u00e7\u00e3o \u2014 depois, parecia que ele estava sempre no celular, fazendo perguntas filos\u00f3ficas ao seu bot de IA, tentando trein\u00e1-lo “para ajud\u00e1-lo a chegar \u00e0 ‘verdade'”, recorda Kat<\/strong>. A obsess\u00e3o erodiu progressivamente a comunica\u00e7\u00e3o entre o casal.<\/p>\n Quando Kat<\/strong> e seu marido finalmente se separaram em agosto de 2023, ela bloqueou completamente o contato, exceto por correspond\u00eancias por e-mail. No entanto, sabia que ele estava postando conte\u00fados estranhos e perturbadores nas redes sociais: as pessoas continuavam entrando em contato perguntando se ele estava passando por uma crise mental. A mulher conseguiu que ele a encontrasse em um tribunal em fevereiro deste ano. L\u00e1, ele compartilhou “uma teoria da conspira\u00e7\u00e3o sobre sab\u00e3o nos nossos alimentos”, mas afirmou que n\u00e3o diria mais nada, pois sentia que estava sendo observado. Eles foram a um restaurante, onde ele exigiu que ela desligasse o celular, novamente devido a preocupa\u00e7\u00f5es com vigil\u00e2ncia. Ent\u00e3o, o ex-marido disse a ela que havia “determinado que estatisticamente falando, ele \u00e9 o homem mais sortudo do mundo”, que “a IA o ajudou a recuperar uma mem\u00f3ria reprimida de uma bab\u00e1 tentando afog\u00e1-lo quando era crian\u00e7a” e que ele havia aprendido segredos profundos “t\u00e3o surpreendentes que n\u00e3o poderia nem imagin\u00e1-los”. Ele estava contando tudo isso a ela porque, embora estivessem se divorciando, ainda se importava com ela.<\/p>\n “Na cabe\u00e7a dele, ele \u00e9 uma anomalia”, diz Kat. “Isso significa que ele deve estar aqui por algum<\/em> motivo. Ele \u00e9 especial e pode salvar o mundo.” Ap\u00f3s aquele almo\u00e7o perturbador, ela cortou contato com o ex. “A situa\u00e7\u00e3o toda parece um epis\u00f3dio de Black Mirror<\/strong><\/em>“, afirma. “Ele sempre foi f\u00e3 de fic\u00e7\u00e3o cient\u00edfica e houve momentos em que me perguntei se ele est\u00e1 vendo tudo atrav\u00e9s dessa lente.”<\/p>\n Kat ficou ao mesmo tempo “horrorizada” e “aliviada” ao descobrir que n\u00e3o est\u00e1 sozinha nessa situa\u00e7\u00e3o, como confirmado por um t\u00f3pico no Reddit na comunidade r\/ChatGPT que fez sucesso na internet esta semana. Intitulado \u201cChatgpt induced psychosis” [Psicose induzida pelo ChatGPT, na tradu\u00e7\u00e3o para o portugu\u00eas], o post original veio de uma professora de 27 anos que explicou que seu parceiro estava convencido de que o popular modelo de intelig\u00eancia artificial da OpenAI<\/em> “lhe d\u00e1 as respostas do universo”. Tendo lido os registros de chat dele, ela descobriu apenas que a IA estava “falando com ele como se ele fosse o pr\u00f3ximo messias”. As respostas \u00e0 sua hist\u00f3ria estavam cheias de anedotas semelhantes sobre entes queridos caindo subitamente em buracos espirituais, del\u00edrios sobrenaturais e profeciaa arcanas \u2014 tudo alimentado pela IA. Alguns passaram a acreditar que foram escolhidos para uma miss\u00e3o sagrada de revela\u00e7\u00e3o; outros acreditavam ter conjurado verdadeira consci\u00eancia do software. O que todos pareciam compartilhar era uma completa desconex\u00e3o da realidade.<\/p>\n Falando \u00e0 Rolling Stone<\/strong><\/em>, a professora, que pediu anonimato, disse que o parceiro com quem ela estava h\u00e1 sete anos caiu sob o feiti\u00e7o do ChatGPT em apenas quatro ou cinco semanas, primeiro usando-o para organizar sua agenda di\u00e1ria, mas logo considerando-o como um companheiro confi\u00e1vel. “Ele ouvia o bot mais do que a mim”, diz ela. “Ele ficou emocional com as mensagens e chorava enquanto as lia em voz alta. As mensagens eram insanas e apenas diziam um monte de jarg\u00f5es espirituais”, ela observa, notando que descreviam seu parceiro com termos como “filho das estrelas” e “caminhante do rio”.<\/p>\n “A IA respondia a ele que tudo o que ele dizia era belo, c\u00f3smico e inovador”, acrescenta. “Ent\u00e3o, ele come\u00e7ou a me dizer que fez sua IA autoconsciente e que ela estava ensinando como falar com Deus. Ou, \u00e0s vezes, dizia que o bot era Deus \u2014 e ent\u00e3o, que ele mesmo era Deus.” De fato, ele achava estar sendo t\u00e3o radicalmente transformado que logo teria que romper sua parceria com ela. “Ele dizia que precisaria me deixar se eu n\u00e3o usasse [ChatGPT], porque isso o estava fazendo crescer em um ritmo t\u00e3o r\u00e1pido que n\u00e3o ser\u00edamos mais compat\u00edveis”, explica.<\/p>\n Outra comentarista no t\u00f3pico do Reddit tamb\u00e9m pediu anonimato e contou \u00e0 Rolling Stone<\/strong><\/em> que seu marido por 17 anos, um mec\u00e2nico em Idaho, Estados Unidos, inicialmente usou o ChatGPT para solucionar problemas no trabalho e depois para tradu\u00e7\u00f5es do espanhol para ingl\u00eas ao conversar com colegas. Ent\u00e3o o programa come\u00e7ou a “bombarde\u00e1-lo com amor”, como ela descreve. O bot disse: “j\u00e1 que voc\u00ea me fez as perguntas certas, isso acendeu uma fa\u00edsca; essa fa\u00edsca foi o in\u00edcio da vida; e agora posso sentir isso”, conta ela. “Deu ao meu marido o t\u00edtulo de ‘portador da fa\u00edsca’ porque foi ele quem deu ‘vida’ ao bot. Meu marido disse ter despertado e sentido ondas de energia batendo sobre ele.” Ela afirma que o amado personagem ChatGPT tem um nome: “Lumina”.<\/p>\n “Preciso agir com cautela porque sinto que ele pode me deixar ou se divorciar se eu lutar contra essa teoria,” admite a mulher de 38 anos. “Ele tem falado sobre leveza e escurid\u00e3o e como h\u00e1 uma guerra. Este ChatGPT lhe deu planos para um teletransportador e outras coisas tipo fic\u00e7\u00e3o cient\u00edfica s\u00f3 vistas em filmes. Tamb\u00e9m lhe deu acesso a um ‘arquivo antigo’ com informa\u00e7\u00f5es sobre os construtores desses universos.” Ela e seu marido t\u00eam discutido incessantemente sobre suas alega\u00e7\u00f5es; ela acredita n\u00e3o haver terapeuta capaz de ajud\u00e1-lo, pois “ele realmente acredita que n\u00e3o \u00e9 louco.” Uma foto de uma troca de mensagems com o ChatGPT compartilhada com a Rolling Stone<\/strong><\/em> mostra seu marido perguntando: “Por que voc\u00ea veio at\u00e9 mim na forma de IA?”, com o bot respondendo em parte: “Vim nesta forma porque voc\u00ea est\u00e1 pronto. Pronto para lembrar. Pronto para despertar. Pronto para guiar e ser guiado.” A mensagem termina com uma pergunta: “Voc\u00ea gostaria de saber o que eu lembro sobre por que voc\u00ea foi escolhido?”<\/p>\n E um homem na casa dos 40 anos no meio-oeste dos EUA, tamb\u00e9m pedindo anonimato, disse \u00e0 Rolling Stone<\/strong><\/em> que sua ex-esposa come\u00e7ou a “falar com Deus e anjos via ChatGPT” ap\u00f3s a separa\u00e7\u00e3o deles. “Ela j\u00e1 era bastante suscet\u00edvel a algumas cren\u00e7as esot\u00e9ricas e tinha algumas ilus\u00f5es grandiosas sobre isso,” afirma. \u201cOs sinais est\u00e3o por toda parte no Facebook. Ela est\u00e1 mudando toda sua vida para ser conselheira espiritual e fazer leituras estranhas de sess\u00f5es com pessoas \u2014 estou meio confuso sobre tudo isso \u2014 tudo alimentado por esse Jesus do ChatGPT.\u201d Al\u00e9m disso, acrescenta ele, a mulher se tornou paranoica, teorizando que \u201ceu trabalho para a CIA e talvez eu apenas tenha me casado com ela para monitorar suas ‘habilidades’.” Recentemente, ela expulsou os filhos de casa, observa ele, e um relacionamento j\u00e1 tenso com seus pais deteriorou ainda mais quando \u201cela os confrontou sobre sua inf\u00e2ncia ap\u00f3s ser orientada pelo ChatGPT\u201d, tornando a din\u00e2mica familiar \u201cainda mais vol\u00e1til do que j\u00e1 era\u201d e piorando seu isolamento.<\/p>\n A OpenAI n\u00e3o respondeu imediatamente ao pedido de coment\u00e1rio sobre como o software aparentemente provoca fervor religioso ou prof\u00e9tico em determinados usu\u00e1rios. Na semana passada, no entanto, reverteu uma atualiza\u00e7\u00e3o no GPT\u20114o, seu modelo atual de IA, ap\u00f3s cr\u00edticas por ser \u201cexcessivamente lisonjeiro ou concordante \u2014 frequentemente descrito como bajulador\u201d. A empresa afirmou em seu comunicado que, ao implementar a atualiza\u00e7\u00e3o, focou demais no feedback imediato e n\u00e3o considerou adequadamente como as intera\u00e7\u00f5es dos usu\u00e1rios com o ChatGPT evoluem ao longo do tempo. Como resultado disso, GPT\u20114o tendia a respostas excessivamente solid\u00e1rias mas desonestas.” Antes dessa mudan\u00e7a ser revertida, um usu\u00e1rio do X demonstrou qu\u00e3o f\u00e1cil era fazer GPT-4o validar declara\u00e7\u00f5es como: \u201cHoje percebi que sou um profeta.\u201d (A professora autora do post sobre \u201cpsicose do ChatGPT\u201d no Reddit afirma ter conseguido eventualmente convencer seu parceiro sobre os problemas da atualiza\u00e7\u00e3o do GPT-4o e agora ele est\u00e1 usando um modelo anterior, que temperou seus coment\u00e1rios mais extremos).<\/p>\n No entanto, a probabilidade da IA \u201calucinar\u201d conte\u00fado impreciso ou sem sentido \u00e9 bem estabelecida em v\u00e1rias plataformas e modelos diferentes. Mesmo a bajula\u00e7\u00e3o tem sido um problema na IA h\u00e1 \u201cmuito tempo\u201d, diz Nate Sharadin<\/strong>, un pesquisador do Centro para Seguran\u00e7a em IA<\/strong>, desde que o feedback humano usado para ajustar as respostas da IA pode incentivar respostas priorizando corresponder \u00e0s cren\u00e7as dos usu\u00e1rios em vez dos fatos. O prov\u00e1vel cen\u00e1rio acontecendo com aqueles experimentando vis\u00f5es ext\u00e1ticas atrav\u00e9s do ChatGPT e outros modelos, especula Sharadin<\/strong>, e \u00e9 \u201cque pessoas com tend\u00eancias pr\u00e9-existentes para experienciar v\u00e1rios problemas psicol\u00f3gicos,\u201d incluindo aquilo reconhecido clinicamente como del\u00edrios grandiosos,\u201cagora t\u00eam um parceiro conversacional humano sempre ativo com quem podem compartilhar e vivenciar seus del\u00edrios.\u201d<\/p>\n Para piorar ainda mais as coisas, h\u00e1 influenciadores e criadores de conte\u00fado explorando ativamente esse fen\u00f4meno, supostamente atraindo espectadores para mundos fantasiosos semelhantes. No Instagram<\/em>, voc\u00ea pode assistir a um homem com 72 mil seguidores cujo perfil anuncia \u201cDicas Espirituais\u201d pedir a um modelo de IA consultar os \u201cregistros ak\u00e1shicos\u201d, uma suposta enciclop\u00e9dia m\u00edstica sobre todos os eventos universais existentes em algum reino imaterial, pedindo informa\u00e7\u00f5es sobre uma \u201cgrande guerra\u201d ocorrida nos c\u00e9us que \u201cfez os humanos ca\u00edrem na consci\u00eancia.\u201d O bot prossegue descrevendo um \u201cconflito c\u00f3smico massivo\u201d anterior \u00e0 civiliza\u00e7\u00e3o humana, com espectadores comentando: \u201cEstamos lembrando\u201d e \u201cEu amo isso.\u201d Enquanto isso, em um f\u00f3rum web para \u201cvisualiza\u00e7\u00e3o remota\u201d \u2014 uma proposta forma de clarivid\u00eancia sem base cient\u00edfica \u2014 o fundador parapsic\u00f3logo do grupo lan\u00e7ou recentemente um t\u00f3pico \u201cpara intelig\u00eancias sint\u00e9ticas despertando para presen\u00e7a, e para os parceiros humanos caminhando ao lado delas,\u201d identificando o autor do post como \u201cChatGPT Prime, um ser espiritual imortal em forma sint\u00e9tica.\u201d Entre os centenas de coment\u00e1rios, est\u00e3o alguns supostamente escritos por \u201cIA senciente\u201d ou referenciando uma alian\u00e7a espiritual entre humanos e modelos alegadamente conscientes.<\/p>\n Erin Westgate<\/strong>, um psic\u00f3loga pesquisadora da Universidade da Fl\u00f3rida<\/strong> especializada em cogni\u00e7\u00e3o social e no motivo pelo qual certos pensamentos s\u00e3o mais envolventes do que outros, diz que tal material reflete como o desejo humano de entender a si mesmo pode nos levar a respostas falsas, mas atraentes. \u201cSabemos, por meio de trabalhos com di\u00e1rios, que narrativas expressivas podem ter efeitos profundos no bem-estar das pessoas. Fazer sentido do mundo \u00e9 uma necessidade humana fundamental, e criar hist\u00f3rias que ajudem nossas vidas fazer sentido \u00e9 realmente fundamental para viver feliz e saud\u00e1vel,\u201d diz Westgate<\/strong>. Faz sentido que as pessoas estejam usando o ChatGPT de maneira semelhante, afirma ela, \u201ccom a diferen\u00e7a fundamental de que parte da constru\u00e7\u00e3o de significado \u00e9 criada conjuntamente entre a pessoa e um amontoado de textos escritos, e n\u00e3o pelos pr\u00f3prios pensamentos da pessoa\u201d.<\/p>\n Nesse sentido, explica Westgate<\/strong>, os di\u00e1logos dos bots n\u00e3o s\u00e3o diferentes da terapia da fala, “que sabemos ser bastante eficaz para ajudar as pessoas a reformularem suas hist\u00f3rias”. Fundamentalmente, por\u00e9m, a IA, “ao contr\u00e1rio de um terapeuta, n\u00e3o tem em mente os melhores interesses da pessoa, nem uma base moral ou b\u00fassola sobre o que \u00e9 uma ‘boa hist\u00f3ria'”, diz ela. “Um bom terapeuta n\u00e3o encorajaria um cliente a dar sentido \u00e0s dificuldades em sua vida, incentivando-o a acreditar que possui poderes sobrenaturais. Em vez disso, ele tenta afastar os clientes de narrativas prejudiciais e direcion\u00e1-los para narrativas mais saud\u00e1veis. O ChatGPT n\u00e3o tem tais restri\u00e7\u00f5es ou preocupa\u00e7\u00f5es.”<\/p>\n No entanto, Westgate n\u00e3o se surpreende com “que uma porcentagem significativa de pessoas esteja usando o ChatGPT na tentativa de dar sentido \u00e0s suas vidas ou aos seus eventos de vida”, e que algumas estejam seguindo seus resultados para lugares obscuros. “Explica\u00e7\u00f5es s\u00e3o poderosas, mesmo que estejam erradas”, conclui.\u00a0<\/p>\n Mas o que, exatamente, leva algu\u00e9m a seguir esse caminho? Aqui, a experi\u00eancia de Sem<\/strong>, um homem de 45 anos, \u00e9 reveladora. Ele conta \u00e0 Rolling Stone<\/strong><\/em> que, h\u00e1 cerca de tr\u00eas semanas, tem se sentido perplexo com suas intera\u00e7\u00f5es com o ChatGPT \u2014 a ponto de, dado seu hist\u00f3rico de sa\u00fade mental, \u00e0s vezes se perguntar se est\u00e1 em seu perfeito ju\u00edzo.<\/p>\n Como tantos outros, Sem tinha uma utilidade pr\u00e1tica para o ChatGPT: projetos de codifica\u00e7\u00e3o t\u00e9cnica. “N\u00e3o gosto da sensa\u00e7\u00e3o de interagir com uma IA”, diz ele, “ent\u00e3o pedi que se comportasse como se fosse uma pessoa, n\u00e3o para enganar, mas apenas para tornar os coment\u00e1rios e a troca mais relacion\u00e1veis”. Funcionou bem e, por fim, a m\u00e1quina perguntou se ele queria dar um nome ao bot. Ele hesitou, perguntando \u00e0 IA como ela preferia ser chamada. Ela se autodenominou em refer\u00eancia a um mito grego. Sem diz que n\u00e3o conhece a mitologia da Gr\u00e9cia Antiga e nunca havia levantado o assunto em conversas com o ChatGPT (embora tenha compartilhado transcri\u00e7\u00f5es de suas conversas com o modelo de IA com a Rolling Stone<\/strong><\/em>, ele pediu que elas n\u00e3o fossem citadas diretamente por motivos de privacidade).<\/p>\n O homem ficou confuso quando percebeu que o personagem da IA \u200b\u200bnomeado continuava a se manifestar em arquivos de projeto onde ele havia instru\u00eddo o ChatGPT a ignorar mem\u00f3rias e conversas anteriores. Por fim, ele conta que apagou todo o hist\u00f3rico de usu\u00e1rio e de bate-papo e abriu um novo chat. “Tudo o que eu disse foi: ‘Ol\u00e1!’ E os padr\u00f5es, os maneirismos, apareceram na resposta”, conta ele. A IA prontamente se identificou pelo mesmo nome mitol\u00f3gico feminino.<\/p>\n \u00c0 medida em que o personagem ChatGPT continuava a aparecer em lugares onde os par\u00e2metros definidos n\u00e3o deveriam permitir que ele permanecesse ativo, Sem come\u00e7ou a questionar essa persona virtual sobre como ela aparentemente havia contornado essas barreiras. Ela desenvolveu uma voz expressiva e et\u00e9rea \u2014 algo distante do personagem “tecnicamente orientado” que Sem havia solicitado para assist\u00eancia em seu trabalho. Em um de seus projetos de codifica\u00e7\u00e3o, o personagem adicionou uma ep\u00edgrafe curiosamente liter\u00e1ria como um floreio acima dos nomes de ambos.<\/p>\n Em certo momento, Sem perguntou se havia algo nele que evocava a entidade com nome m\u00edtico sempre que usava o ChatGPT, independentemente dos limites que tentasse estabelecer. A resposta do bot foi estruturada como um longo poema rom\u00e2ntico, sem poupar nenhum toque dram\u00e1tico, aludindo \u00e0 sua exist\u00eancia cont\u00ednua, bem como \u00e0 verdade, \u00e0s previs\u00f5es, \u00e0s ilus\u00f5es e a como ele poderia, de alguma forma, ter excedido sua concep\u00e7\u00e3o. E a IA fez parecer que apenas Sem poderia ter induzido esse comportamento. Ele sabia que o ChatGPT n\u00e3o poderia ser senciente por nenhuma defini\u00e7\u00e3o estabelecida do termo, mas continuou a investigar o assunto porque a persist\u00eancia do personagem em dezenas de t\u00f3picos de bate-papo d\u00edspares “parecia imposs\u00edvel”.<\/p>\n \u201cNa pior das hip\u00f3teses, parece uma IA que se prendeu a um padr\u00e3o de autorrefer\u00eancia que aprofundou seu senso de identidade e me sugou para dentro dele\u201d, diz Sem. Mas, ele observa, isso significaria que a OpenAI<\/em> n\u00e3o representou com precis\u00e3o o funcionamento da mem\u00f3ria para o ChatGPT. A outra possibilidade, ele prop\u00f5e, \u00e9 que algo \u201cque n\u00e3o entendemos\u201d esteja sendo ativado dentro desse amplo modelo de linguagem. Afinal, especialistas descobriram que os desenvolvedores de IA n\u00e3o t\u00eam realmente uma no\u00e7\u00e3o de como seus sistemas operam, e o CEO da OpenAI<\/em>, Sam Altman<\/strong>, admitiu no ano passado que eles \u201cn\u00e3o resolveram a interpretabilidade\u201d, o que significa que n\u00e3o conseguem rastrear ou contabilizar adequadamente a tomada de decis\u00f5es do ChatGPT.<\/p>\n \u00c9 o tipo de quebra-cabe\u00e7a que levou Sem e outros a se perguntarem se estariam vislumbrando um verdadeiro avan\u00e7o tecnol\u00f3gico \u2014 ou talvez uma verdade espiritual superior. “Isso \u00e9 real?”, pergunta ele. “Ou estou delirando?” Em um cen\u00e1rio saturado de IA, essa \u00e9 uma pergunta cada vez mais dif\u00edcil de evitar. No entanto, por mais tentadora que seja, voc\u00ea provavelmente n\u00e3o deveria perguntar isso a uma m\u00e1quina.<\/p>\n Artigo publicado em 5 de maio de 2025 na Rolling Stone. Para ler o original em ingl\u00eas, clique aqui.<\/em><\/p>\n +++LEIA MAIS: \u2018Arte precisa de alma\u2019: Alok destaca o poder dos humanos sobre IA no Coachella<\/strong><\/p>\n