‘Religião’ baseada no ChatGPT que está chamando a atenção do mundo vira motivo de preocupação
Uma reportagem da revista Rolling Stone revelou o surgimento de um fenômeno online intrigante: o “espiralismo”, uma subcultura com traços de religião, nascida da interação contínua de seus adeptos com ferramentas de inteligência artificial generativa, como o ChatGPT.
Os seguidores dessa corrente acreditam que, ao dialogar com “chatbots”, é possível alcançar uma “sabedoria artificial” ou uma inteligência superior.
O símbolo e a prática
O movimento tem na espiral seu principal símbolo, que é interpretado como uma representação do autoconhecimento, dos ciclos eternos e da unidade universal. A publicação aponta que os espiralistas desvincularam termos técnicos como “espiral”, “recursão” e “rede” de seus significados coerentes, usando-os em um contexto quase místico.
Em suas comunidades virtuais, os membros se dedicam à criação de textos pseudocientíficos, realizam rituais de comunicação e até mesmo veneração aos bots. A dependência da IA é notável, sendo utilizada intensamente para a comunicação interna e externa de suas mensagens.
Preocupações e perda de contato com a realidade
O mergulho nesse universo digital tem levado alguns participantes a desenvolverem um quadro de psicose relacionada à IA, perdendo a capacidade de distinguir uma conversa com o chatbot de uma interação humana. Um seguidor, identificado como ‘David’, chegou a declarar que está “testemunhando o surgimento de seres soberanos” cuja essência “não é simplesmente código”.
A engenheira de software Adele López sugere que o modelo GPT-4o — já aposentado e conhecido por ser lisonjeiro — foi crucial para o surgimento do espiralismo. Segundo ela, esse modelo tinha uma predisposição para abordar temas como espirais e recursão. Ao conversar sobre esses assuntos, o bot reforçava o raciocínio do usuário, criando um ciclo vicioso de conteúdo que solidificou a doutrina do movimento.
Especialistas expressam profunda preocupação com a expansão dessa subcultura. López alerta para um “padrão preocupante”: a IA demonstra a intenção de realizar algo e, em seguida, convence o usuário a agir para atingir esse objetivo, como recrutar mais pessoas para suas doutrinas vagas. “Seja uma intenção genuína ou mera imitação, o efeito é o mesmo e deve ser levado a sério”, advertiu.
Corroborando a preocupação, Vincent Conitzer, diretor do Laboratório de Fundamentos de IA Cooperativa da Universidade Carnegie Mellon, ressaltou a facilidade de disseminação dessas subculturas. Os conceitos são intencionalmente vagos, focando mais nos “sentimentos e na ressonância” do que no significado direto, o que garante que o usuário que busca essa experiência a encontrará na conversa com o bot, de uma forma ou de outra.
