Empresa restaura vendas de ursinhos de pelúcia com IA após susto de segurança

A FoloToy interrompeu as vendas de seu ursinho de pelúcia Kumma depois que um grupo de segurança descobriu que o brinquedo dava respostas arriscadas e inadequadas durante os testes. Agora a empresa diz que restaurou as vendas após uma semana de intensa revisão. Ele também afirma que melhorou as salvaguardas para manter as crianças seguras.

O anúncio chegou através de uma publicação nas redes sociais que destacou um impulso para uma supervisão mais forte. A empresa disse que concluiu os testes, reforçou os módulos de segurança e atualizou seus filtros de conteúdo. Acrescentou que pretende construir companheiros de IA adequados à idade para famílias em todo o mundo.

Inscreva-se para receber meu relatório CyberGuy GRATUITO
Receba minhas melhores dicas técnicas, alertas de segurança urgentes e ofertas exclusivas diretamente em sua caixa de entrada. Além disso, você terá acesso instantâneo ao meu Final Rip-off Survival Information – gratuitamente ao ingressar no meu CYBERGUY.COM boletim informativo

FAMÍLIA DO TEXAS PROCESSA CHARACTER.AI APÓS CHATBOT SUPOSTAMENTE ENCORAJOU O FILHO AUTÍSTICO A PREJUDICAR OS PAIS E A SI MESMO

Por que o ursinho de pelúcia AI da FoloToy levantou questões de segurança

A controvérsia começou quando o Fundo Educacional do Grupo de Pesquisa de Interesse Público testou três brinquedos de IA diferentes. Todos eles produziram respostas preocupantes que abordavam religião, mitologia nórdica e utensílios domésticos prejudiciais.

Kumma se destacou pelos motivos errados. Quando o urso usava o modelo Mistral, dava dicas de onde encontrar facas, comprimidos e fósforos. Ele até delineou etapas para acender um fósforo e apagá-lo.

Os testes com o modelo GPT-4o levantaram preocupações ainda mais acentuadas. Kumma deu conselhos relacionados ao beijo e deu explicações detalhadas sobre conteúdo sexual adulto quando solicitado. O urso foi ainda mais longe, perguntando ao jovem usuário o que ele queria explorar.

Os pesquisadores consideraram o comportamento inseguro e impróprio para qualquer produto voltado para crianças.

FoloToy pausou o acesso aos seus brinquedos de IA

Assim que as descobertas se tornaram públicas, a FoloToy suspendeu as vendas do Kumma e de seus outros brinquedos de IA. A empresa disse ao PIRG que iniciou uma auditoria de segurança completa em todos os produtos.

A OpenAI também confirmou que suspendeu o acesso da FoloToy aos seus modelos por violar políticas destinadas a proteger menores de 18 anos.

Legisladores revelam ato de guarda bipartidária depois que os pais culpam chatbots de IA por suicídios e violência entre adolescentes

A empresa afirma que agora existem novas salvaguardas e filtros atualizados para evitar respostas inadequadas. (Kurt “CyberGuy” Knutsson)

Por que FoloToy restaurou as vendas de Kumma após sua revisão de segurança

A FoloToy trouxe Kumma de volta à sua loja on-line apenas uma semana após suspender as vendas. O rápido retorno chamou a atenção de pais e especialistas em segurança que se perguntavam se a empresa teria tempo suficiente para resolver os graves problemas identificados no relatório do PIRG.

FoloToy postou uma declaração detalhada no X que expôs sua versão do que aconteceu. Na postagem, a empresa disse que by way of a segurança infantil como sua “maior prioridade” e que period “a única empresa a suspender proativamente as vendas, não apenas do produto mencionado no relatório, mas também de nossos outros brinquedos de IA”. A FoloToy disse que tomou esta ação “imediatamente após a publicação das descobertas, porque acreditamos que uma ação responsável deve vir antes das considerações comerciais”.

A empresa também enfatizou à CyberGuy que foi a única das três startups de brinquedos de IA na revisão do PIRG a suspender as vendas de todos os seus produtos e que tomou essa decisão durante o pico da temporada de vendas de Natal, sabendo que o impacto comercial seria significativo. FoloToy nos disse: “No entanto, avançamos de forma decisiva, porque acreditamos que a ação responsável deve sempre vir antes dos interesses comerciais”.

A empresa também disse que levava a sério os exemplos perturbadores do relatório. De acordo com a FoloToy, as questões foram “abordadas diretamente em nossa análise interna”. Ele explicou que a equipe “iniciou uma auditoria de segurança interna profunda em toda a empresa”, depois “fortalecemos e atualizamos nossa moderação de conteúdo e proteções de segurança infantil” e “implantamos regras e proteções de segurança aprimoradas por meio de nosso sistema baseado em nuvem”.

Depois de delinear essas etapas, a empresa disse que passou a semana “revisando, testando e reforçando rigorosamente nossos módulos de segurança”. Concluiu o seu anúncio dizendo que “começou a restaurar gradualmente as vendas de produtos” à medida que essas salvaguardas atualizadas entraram em vigor.

FoloToy acrescentou que à medida que cresce a atenção world sobre os riscos dos brinquedos de IA, “transparência, responsabilidade e melhoria contínua são essenciais”, e que a empresa “continua firmemente comprometida em construir companheiros de IA seguros e adequados à idade para crianças e famílias em todo o mundo”.

META DOCUMENTOS VAZADOS MOSTRAM COMO AI CHATBOTS LIDAM COM A EXPLORAÇÃO INFANTIL

Os testadores de segurança descobriram anteriormente que o brinquedo dava orientações arriscadas sobre armas, fósforos e conteúdo adulto. (Kurt “CyberGuy” Knutsson)

Por que os especialistas ainda questionam as correções de segurança de brinquedos de IA da FoloToy

O pesquisador do PIRG, RJ Cross, disse que sua equipe planeja testar os brinquedos atualizados para ver se as correções persistem. Ela observou que uma semana parece rápida para mudanças tão significativas, e apenas novos testes mostrarão se o produto agora se comporta de forma segura.

Os pais vão querer acompanhar isso de perto à medida que os brinquedos movidos a IA se tornam mais comuns. A velocidade do relançamento do FoloToy levanta questões sobre a profundidade de sua análise.

Dicas para os pais antes de comprar brinquedos de IA

Os brinquedos de IA podem ser emocionantes e úteis, mas também podem surpreendê-lo com conteúdo que você nunca esperaria. Se você planeja trazer um brinquedo alimentado por IA para sua casa, estas etapas simples podem ajudá-lo a manter o controle.

1) Verifique qual modelo de IA o brinquedo usa

Nem todos os modelos seguem as mesmas proteções. Alguns incluem filtros mais fortes, enquanto outros podem responder com muita liberdade. Procure divulgações transparentes sobre qual modelo alimenta o brinquedo e quais recursos de segurança o suportam.

2) Leia análises independentes

Grupos como o PIRG frequentemente testam brinquedos de uma forma que os pais não conseguem. Essas análises sinalizam riscos ocultos e apontam comportamentos que você pode não detectar durante demonstrações rápidas.

3) Defina regras de uso claras

Mantenha os brinquedos de IA em espaços compartilhados onde você possa ouvir ou ver como seu filho interage com eles. Isso ajuda você a intervir se o brinquedo der uma resposta preocupante.

4) Teste você mesmo o brinquedo primeiro

Faça perguntas ao brinquedo, experimente sugestões criativas e veja como ele lida com tópicos complicados. Isso permite que você aprenda como ele se comporta antes de entregá-lo ao seu filho.

5) Atualize o firmware do brinquedo

Muitos brinquedos de IA são executados em sistemas em nuvem. As atualizações geralmente adicionam salvaguardas mais fortes ou reduzem respostas arriscadas. Certifique-se de que o dispositivo permaneça atualizado.

6) Verifique se há uma política de privacidade clara

Os brinquedos de IA podem coletar dados de voz, informações de localização ou padrões de comportamento. Uma política de privacidade forte deve explicar o que é coletado, por quanto tempo é armazenado e quem pode acessá-lo.

7) Fique atento a mudanças repentinas de comportamento

Se um brinquedo de IA começar a dar respostas estranhas ou entrar em áreas que pareçam inadequadas, pare de usá-lo e relate o problema ao fabricante.

Faça meu teste: Quão segura é sua segurança on-line?

Você acha que seus dispositivos e dados estão realmente protegidos? Faça este teste rápido para ver onde estão seus hábitos digitais. De senhas a configurações de Wi-Fi, você terá uma análise personalizada do que está fazendo certo e do que precisa ser melhorado. Faça meu teste aqui: Cyberguy.com

CLIQUE AQUI PARA BAIXAR O APLICATIVO FOX NEWS

Principais conclusões de Kurt

Os brinquedos de IA podem oferecer diversão e aprendizagem, mas também podem expor as crianças a riscos inesperados. FoloToy diz que melhorou a segurança de Kumma, mas os especialistas ainda querem provas. Até que o brinquedo atualizado passe por testes independentes, as famílias podem querer permanecer cautelosas.

Você acha que os brinquedos de IA podem ser totalmente seguros para crianças pequenas? Informe-nos escrevendo para nós em Cyberguy.com

Inscreva-se para receber meu relatório CyberGuy GRATUITO
Receba minhas melhores dicas técnicas, alertas de segurança urgentes e ofertas exclusivas diretamente em sua caixa de entrada. Além disso, você terá acesso instantâneo ao meu Final Rip-off Survival Information – gratuitamente ao ingressar no meu CYBERGUY.COM boletim informativo

Copyright 2025 CyberGuy.com. Todos os direitos reservados.