A inteligência synthetic geral pode estar a apenas cinco anos de distância, embora o caminho não seja isento de riscos, disse Demis Hassabis do Google
O caminho para a criação de inteligência synthetic geral (AGI) poderia envolver “resultados catastróficos” como ataques cibernéticos à infraestrutura de energia ou água, alertou o CEO do Google DeepMind, Demis Hassabis. Ele sugeriu que a AGI poderia chegar na próxima década.
Falando no Axios AI+ Summit em São Francisco na semana passada, Hassabis descreveu AGI como um modelo que exibe “todas as capacidades cognitivas” dos seres humanos, incluindo habilidades inventivas e criativas.
Ele argumentou que os atuais grandes modelos de linguagem permanecem “inteligências irregulares” com lacunas no raciocínio, planejamento de longo prazo e aprendizado contínuo. No entanto, ele sugeriu que a AGI poderia em breve se tornar uma realidade com expansão contínua e “mais um ou dois grandes avanços.”
Ao mesmo tempo, Hassabis reconheceu que o período que antecede a AGI provavelmente incluirá riscos tangíveis e “resultados catastróficos”, como ataques cibernéticos a infraestruturas energéticas ou hídricas.
“Isso provavelmente já está acontecendo agora… talvez ainda não com uma IA muito sofisticada,” ele disse, chamando isso de “vetor vulnerável mais óbvio”. Ele acrescentou que maus atores, agentes autônomos e sistemas que “desviar” dos objetivos pretendidos, todos exigem mitigação séria. “É diferente de zero,” ele disse sobre a possibilidade de que sistemas avançados pudessem “pular o guardrail.”
As preocupações de Hassabis ecoam alertas mais amplos em toda a indústria tecnológica. Uma carta aberta publicada em outubro e assinada por importantes tecnólogos e figuras públicas afirmou que “superinteligente” Os sistemas podem ameaçar a liberdade humana ou mesmo a sobrevivência, apelando a uma proibição world do desenvolvimento da IA até que a segurança possa ser garantida. Os signatários incluem o cofundador da Apple, Steve Wozniak, os pioneiros da IA Geoffrey Hinton e Yoshua Bengio, o fundador do Virgin Group, Richard Branson, e figuras políticas e culturais proeminentes.
Outros adotaram uma visão mais otimista. Elon Musk disse no mês passado que os avanços na IA e na robótica poderiam funcionar “opcional” dentro de 10 a 20 anos e previu que a moeda poderia se tornar “irrelevante” numa economia impulsionada pela IA, observando ao mesmo tempo que ainda é necessário um progresso tecnológico significativo antes que esse futuro possa emergir.
Você pode compartilhar esta história nas redes sociais:
