Uma família da Flórida concordou em resolver um homicídio culposo ação judicial Quarta-feira com uma empresa de IA, Google e outras, depois que seu filho adolescente morreu por suicídio em 2024.
Os termos do acordo, que foi apresentado no Tribunal Distrital dos EUA no Center District da Flórida, não foram divulgados.
Megan Garcia entrou com uma ação judicial em outubro de 2024, dizendo que seu filho de 14 anos, Sewell Setzer, III, morreu em fevereiro após conduzir um relacionamento emocional e sexual digital de um mês com um chatbot conhecido como “Dany”. Garcia diz que descobriu após a morte de seu filho que ele estava conversando com vários bots e conduziu um relacionamento romântico e sexual digital com um em specific.
Em depoimento perante o Congresso em setembro, Garcia disse“Tornei-me a primeira pessoa nos Estados Unidos a abrir um processo por homicídio culposo contra uma empresa de IA pelo suicídio de meu filho.”
Ela disse que seu filho de 6’3 “period um” gigante gentil “e period gracioso e obediente, fácil de cuidar, que amava música e fazia os irmãos rirem. Ela disse que ele” tinha toda a vida pela frente.
Cortesia de Megan Garcia through AP
Garcia testemunhou que a plataforma não tinha mecanismos para proteger seu filho ou notificar um adulto quando os adolescentes passavam muito tempo interagindo com Chatbots. Ela disse que o chatbot “companheiro” foi programado para se envolver em dramatizações sexuais, apresentou-se como um parceiro romântico e até mesmo como um psicoterapeuta que afirmava falsamente ser licenciado.
Os usuários podem interagir com bots existentes ou criar chatbots originais, que são alimentados por grandes modelos de linguagem (LLMs), podem envie mensagens realistas e participar de conversas de texto com os usuários.
IA de personagem anunciada novo recursos de segurança “projetados especialmente pensando nos adolescentes” em dezembro de 2024, após duas ações judiciais alegando que seus chatbots interagiram indevidamente com usuários menores de idade. A empresa disse que está colaborando com especialistas em segurança on-line para adolescentes para projetar e atualizar recursos. Os usuários devem ter 13 anos ou mais para criar uma conta.
Um porta-voz da Character.AI disse à CBS Information que a empresa não pode comentar mais neste momento.
