Quanto mais robôs começar a aparecer em armazéns, escritórios e até mesmo nas casas das pessoas, a ideia de grandes modelos de linguagem invadindo sistemas complexos soa como materials de pesadelos de ficção científica. Então, naturalmente, os pesquisadores da Antrópico estavam ansiosos para ver o que aconteceria se Claude tentasse assumir o controle de um robô – neste caso, um cão-robô.
Em um novo estudo, os pesquisadores da Anthropic descobriram que Claude foi capaz de automatizar grande parte do trabalho envolvido na programação de um robô e na execução de tarefas físicas. Por um lado, as suas descobertas mostram as capacidades de codificação de agentes dos modelos modernos de IA. Por outro lado, eles sugerem como esses sistemas podem começar a se estender para o domínio físico à medida que os modelos dominam mais aspectos da codificação e melhoram a interação com software program – e também com objetos físicos.
“Suspeitamos que o próximo passo para os modelos de IA é começar a alcançar o mundo e afetá-lo de forma mais ampla”, disse Logan Graham, membro da equipe vermelha da Anthropic, que estuda modelos para riscos potenciais, à WIRED. “Isso realmente exigirá que os modelos interajam mais com os robôs.”
Cortesia de Antrópico
Cortesia de Antrópico
A Anthropic foi fundada em 2021 por ex-funcionários da OpenAI que acreditavam que a IA poderia se tornar problemática – até mesmo perigosa – à medida que avançasse. Os modelos atuais não são inteligentes o suficiente para assumir o controle complete de um robô, diz Graham, mas os modelos futuros poderão ser. Ele diz que estudar como as pessoas aproveitam os LLMs para programar robôs poderia ajudar a indústria a se preparar para a ideia de “modelos eventualmente autoincorporados”, referindo-se à ideia de que a IA poderá algum dia operar sistemas físicos.
Ainda não está claro por que um modelo de IA decidiria assumir o controle de um robô – e muito menos fazer algo malévolo com ele. Mas especular sobre o pior cenário faz parte da marca da Anthropic e ajuda a posicionar a empresa como um ator-chave no movimento de IA responsável.
No experimento, batizado de Projeto Fetch, a Anthropic pediu a dois grupos de pesquisadores sem experiência anterior em robótica que assumissem o controle de um cão-robô, o quadrúpede Unitree Go2, e o programassem para realizar atividades específicas. As equipes tiveram acesso a um controlador e depois foram solicitadas a concluir tarefas cada vez mais complexas. Um grupo estava usando o modelo de codificação de Claude – o outro estava escrevendo código sem assistência de IA. O grupo que usou Claude foi capaz de concluir algumas tarefas, embora não todas, mais rapidamente do que o grupo de programação apenas humano. Por exemplo, foi capaz de fazer o robô andar e encontrar uma bola de praia, algo que o grupo formado apenas por humanos não conseguiu descobrir.
A Anthropic também estudou a dinâmica de colaboração em ambas as equipes, registrando e analisando suas interações. Eles descobriram que o grupo sem acesso a Claude exibia mais sentimentos negativos e confusão. Isso pode ocorrer porque Claude tornou a conexão com o robô mais rápida e codificou uma interface mais fácil de usar.
Cortesia de Antrópico
O robô Go2 usado nos experimentos da Anthropic custa US$ 16.900 – relativamente barato, para os padrões dos robôs. Normalmente é implantado em setores como construção e manufatura para realizar inspeções remotas e patrulhas de segurança. O robô é capaz de andar de forma autônoma, mas geralmente depende de comandos de software program de alto nível ou de uma pessoa operando um controlador. Go2 é fabricado pela Unitree, com sede em Hangzhou, China. Seus sistemas de IA são atualmente os mais populares do mercado, de acordo com um recente relatório da SemiAnalysis.
Os grandes modelos de linguagem que alimentam o ChatGPT e outros chatbots inteligentes normalmente geram texto ou imagens em resposta a um immediate. Mais recentemente, estes sistemas tornaram-se adeptos da geração de código e software program operacional – transformando-os em agentes em vez de apenas geradores de texto.
