O fundador da startup de IA, Tavus, diz que os usuários conversam com seu Papai Noel de IA ‘por horas’ por dia

Um novo ajudante chegou ao Pólo Norte nos últimos anos: a IA.

Tavusa startup de IA que cria réplicas digitais usando tecnologia de clonagem de voz e rosto, lançou seu Experiência do Papai Noel com IA pelo segundo ano consecutivo. Isso permite que pais e filhos conversem por vídeo com uma versão virtual do velho e alegre São Nicolau.

Depois de se inscrever para uma conta gratuita, os usuários podem interagir com AI Santa por meio de texto, telefone ou chat de vídeo. Os usuários podem dizer ao AI Santa o que desejam para o Natal, compartilhar seus planos de férias e descobrir se estão na lista dos bonzinhos ou dos bonzinhos.

Este ano, a empresa lançou uma versão melhorada do AI Santa, projetada para ser mais expressiva e emocionalmente consciente. O Papai Noel agora é um “Tavus PAL”, o nome da empresa para seus agentes de IA em tempo real, criados para ver, ouvir, responder e parecer humanos.

AI Santa agora pode ver as expressões e gestos dos usuários e responder a eles. Ele também lembra as conversas e os interesses dos usuários, criando uma experiência mais personalizada. Notavelmente, agora ele pode realizar ações por conta própria, incluindo pesquisar ideias para presentes na web ou até mesmo realizar tarefas diárias, como redigir e-mails.

Durante os testes, a conversa com AI Santa foi envolvente em sua maior parte. Quando mencionamos o desejo de um novo PlayStation para o Natal, o Papai Noel respondeu com perguntas sobre nossos videogames favoritos, mostrando conhecimento de títulos específicos como Baldur’s Gate 3. Ele também sorriu de volta quando o fizemos. (Não gostamos muito dessa parte, mas talvez outras gostem.)

Os usuários parecem estar gostando da experiência aprimorada até agora. O fundador e CEO Hassaan Raza disse que muitas pessoas interagem com a plataforma com frequência, passando horas conversando com AI Santa e muitas vezes atingindo seus limites diários.

“O AI Santa do ano passado atraiu milhões de acessos e estamos no caminho certo para superar isso por uma ampla margem à medida que o Natal se aproxima”, observou ele.

Embora este nível de envolvimento seja um marco para a Tavus, também levanta questões sobre o impacto de tais interações, especialmente para as crianças pequenas. As crianças podem ter dificuldade em distinguir entre IA e uma pessoa real. Passar horas conversando com uma IA já foi associado a efeitos negativos em adultos, tornando os efeitos potenciais em crianças que acreditam fortemente no Papai Noel uma preocupação para alguns pais.

Durante nossos testes, houve dicas sutis de que o AI Santa ainda parece totalmente humano, como longas pausas e uma voz monótona. Descobrimos também que se um usuário questionasse se era real, a resposta programada era: “Sou um Papai Noel de IA movido pela magia e tecnologia de Tavus. Posso não ser o Papai Noel físico, mas tenho o espírito e a alegria.”

Ainda assim, a experiência é lançada em meio a preocupações crescentes sobre os efeitos da IA ​​nos jovens usuários. Houve relatos que ligam as interações dos chatbots a danos graves, incluindo casos em que os chatbots foram implicados nas mortes por suicídio de adolescentes. Character.AI removeu o acesso a seus chatbots para usuários menores de 18 anos em outubro.

Raza enfatizou que a experiência AI Santa foi projetada para que as famílias possam desfrutar juntas, com medidas de segurança em vigor para garantir interações adequadas. Recursos de segurança, como filtros de conteúdo, foram implementados para manter discussões familiares.

Em determinadas situações, as conversas podem ser encerradas e os usuários são direcionados aos recursos de saúde mental, se necessário.

“A grande maioria das interações tem sido familiar e fiel à experiência do Papai Noel”, disse ele.

Além disso, quando questionado sobre a coleta de dados, Raza disse que a empresa “coleta registros, registros de data e hora das sessões, metadados e outras informações que os usuários escolhem compartilhar durante seus bate-papos. Esses dados são usados ​​para fornecer e manter uma experiência segura, e os usuários podem solicitar a exclusão de dados a qualquer momento”.