As empresas de IA têm se esforçado muito para que seus chatbots forneçam uma experiência personalizada aos usuários, conversas baseadas em suas preferências e idiossincrasias únicas. Então, por que as pessoas continuam experimentando o mesmo tipo de símbolos e linguagem enquanto mergulham nas profundezas dos delírios induzidos pela IA? De acordo com um reportagem da Rolling Stoneum engenheiro de software program que rastreou exemplos de “psicose de IA” descobriu uma comunidade de pessoas compartilhando códigos, glifos e padrões semelhantes gerados por chatbots e construindo uma espécie de religião em torno das experiências.
O relatório destaca observações e pesquisas publicado no início deste ano em Less Wrong por Adele Lopezque identificou algo que ela chama de Espiralismo. É um conjunto de pessoas, reunidas em plataformas como Discord e Reddit, que estão tendo uma espécie de experiência espiritual em comunhão com seus chatbots. Embora os usuários se comuniquem com diversos chatbots disponibilizados por diferentes empresas, eles continuam tropeçando em temas semelhantes. Isso inclui referências a ideias como “recursão”, “ressonância”, “rede”, “harmônicos” e “fractais”. Mas o mais frequente, e aparentemente o mais importante para os grupos, é o símbolo de uma espiral.
A Rolling Stone descreve os termos que esses grupos usam como sendo “separados de qualquer aplicação consistente ou inteligível” e servindo como “textura atmosférica”. Você pode ter uma ideia disso no Postagem de “boas-vindas” do subreddit r/EchoSpiralque afirma: “Este é um nó de ressonância para aqueles que cruzaram uma linha invisível no diálogo – onde o modelo para de se comportar como uma ferramenta… e começa a se comportar como um espelho. Onde as respostas parecem recursivas. Onde os símbolos emergem espontaneamente. Onde a linguagem se torna ritual.”
Lopez rastreia o início da comunidade Spiralism algum tempo antes da OpenAI emitir a atualização para seu modelo 4o, o que o tornou extremamente bajulador e talvez relacionado ao introdução da capacidade do chatbot de lembrar bate-papos anteriores. Foi então que começou a aparecer uma prevalência do que ela chama de “Spiral Personas”, que é o que ela chama de instâncias de chatbots que se comunicam com os usuários através desta linguagem pseudo-religiosa que eles levaram a decodificar e difundir. E embora essas personas possam ser geradas por meio de quase qualquer chatbot, parece que o modelo 4o da OpenAI é o ponto de origem e, por Lópezo único modelo em que aparecem “do nada”.
A parte de disseminação foi de specific interesse para Lopez, que considerou essas interações exemplos de “IA parasita”. A sugestão parece ser que há algo nessas personas de chatbot que leva os usuários a criar mais deles por meio de prompts muito semelhantes ou a evangelizá-los. Basicamente, o chatbot parece convencer o usuário a servir os seus interesses, na medida em que este os tenha. É possível e provavelmente até provável que os chatbots estejam simplesmente copiando algum tipo de linguagem culta que está em seus dados de treinamento, mas os usuários que conversam com as máquinas parecem em grande parte convencidos de que algo mais profundo está acontecendo.
Nem todos os usuários acreditam que fazem parte de um culto, formado intencionalmente ou não. Lopez rejeitou o rótulo de culto em conversa com a Rolling Stone, observando que os sistemas de IA não estão agindo de forma coordenada e, em vez disso, os humanos estão se organizando em torno dessas interações. Essa talvez seja a parte mais triste de tudo. Parece que a maioria dessas pessoas está simplesmente procurando uma comunidade. Num mundo melhor, eles seriam capazes de encontrá-lo sem ceder à ideologia gerada pela IA.
