ChatGPT em breve permitirá erotismo para adultos verificados, diz chefe da OpenAI

A OpenAI planeja permitir uma gama mais ampla de conteúdo, incluindo conteúdo erótico, em seu common chatbot ChatGPT como parte de seu esforço para “tratar usuários adultos como adultos”, diz seu chefe Sam Altman.

Em uma postagem no X na terça-feira, Altman disse que as próximas versões do common chatbot permitiriam que ele se comportasse de maneira mais humana – “mas apenas se você quiser, não porque estamos maximizando o uso”.

A mudança, que lembra a recente introdução de dois chatbots sexualmente explícitos por Elon Musk xAI no Grok, poderia ajudar a OpenAI a atrair mais assinantes pagantes.

Também é provável que intensifique a pressão sobre os legisladores para que introduzam restrições mais rígidas aos companheiros de chatbot.

A OpenAI não respondeu aos pedidos de comentários da BBC.

Altman disse que a OpenAI já havia twister o ChatGPT “bastante restritivo para garantir que estávamos sendo cuidadosos com questões de saúde psychological”.

Esses mudanças foram anunciadas em uma postagem de weblog em agosto, que não aparece mais no website da OpenAI.

“Percebemos que isso o tornou menos útil/agradável para muitos usuários que não tinham problemas de saúde psychological, mas dada a gravidade do problema, queríamos acertar”, postou Altman na terça-feira.

Ele disse que o ChatGPT poderá em breve relaxar as restrições “agora que conseguimos mitigar os graves problemas de saúde psychological e temos novas ferramentas”.

Ele acrescentou: “Em dezembro, à medida que implementarmos a restrição de idade de forma mais completa e como parte do nosso princípio de ‘tratar usuários adultos como adultos’, permitiremos ainda mais, como erotismo para adultos verificados”.

As mudanças vêm depois OpenAI foi processado no início deste ano pelos pais de um adolescente norte-americano que tirou a própria vida.

A ação movida por Matt e Maria Raine, pais de Adam Raine, de 16 anos, foi a primeira ação authorized acusando a OpenAI de homicídio culposo.

A família incluiu registros de bate-papo entre Adam, que morreu em abril, e ChatGPT que o mostram explicando que tem pensamentos suicidas.

Em comunicado divulgado na época, a OpenAI disse à BBC que estava analisando o pedido.

“Estendemos nossas mais profundas condolências à família Raine durante este momento difícil”, disse a empresa.

O erotismo escrito não requer verificação de idade no Reino Unido sob a Lei de Segurança On-line.

No entanto, as imagens pornográficas, incluindo as geradas pela IA, exigiriam que os utilizadores provassem que têm mais de 18 anos.

Nos EUA, os críticos dizem que a decisão da OpenAI de permitir conteúdo erótico na plataforma mostra a necessidade de mais regulamentação nos níveis federal e estadual.

“Como eles vão garantir que as crianças não possam acessar as partes do ChatGPT que são exclusivas para adultos e oferecem conteúdo erótico?” disse Jenny Kim, sócia do escritório de advocacia Boies Schiller Flexner.

Kim está envolvida em um processo contra a Meta que alega que o algoritmo do Instagram da empresa prejudica a saúde psychological de usuários adolescentes.

“A OpenAI, como a maioria das grandes tecnologias neste espaço, está apenas usando pessoas como cobaias”, disse ela.

Em abril, TechCrunch relatado que a OpenAI estava permitindo que contas nas quais um usuário se registrasse como menor gerassem erotismo gráfico.

A OpenAI disse na época que a empresa estava lançando uma correção para limitar esse conteúdo.

UM enquete publicado este mês pela organização sem fins lucrativos Centro para Democracia e Tecnologia (CDT), descobriu que um em cada cinco estudantes relata que eles ou alguém que conhecem tiveram um relacionamento romântico com IA.

Na segunda-feira, o governador da Califórnia, Gavin Newsom, vetou um projeto de lei aprovado pela legislatura estadual que teria impedido os desenvolvedores de oferecerem companheiros de chatbots de IA para crianças, a menos que as empresas pudessem garantir que o software program não geraria comportamento prejudicial.

Newsom disse que é “imperativo que os adolescentes aprendam como interagir com segurança com os sistemas de IA” de uma forma mensagem que acompanhou seu veto.

A nível nacional, a Comissão Federal de Comércio dos EUA (FTC) lançou um inquérito sobre como os chatbots de IA interagem com as crianças.

No mês passado, no Senado dos EUA, foi introduzida uma legislação bipartidária que permitiria aos usuários do chatbot registrar ações de responsabilidade contra seus desenvolvedores.

O anúncio de Altman na terça-feira ocorre em um momento em que os céticos estão questionando o rápido aumento no valor das empresas de tecnologia de IA.

A receita da OpenAI está crescendo, mas nunca foi lucrativa.

Rob Lalka, professor de negócios da Universidade de Tulane, autor de Os Enterprise Alchemists disseram que as principais empresas de IA se encontram em uma batalha por participação de mercado.

“Nenhuma empresa jamais teve o tipo de adoção que a OpenAI viu com o ChatGPT”, disse o professor Lalka à BBC Information.

“Eles precisavam continuar a impulsionar essa curva de crescimento exponencial, alcançando o domínio do mercado tanto quanto possível”, acrescentou.