O gigante da contabilidade concordou em reembolsar parcialmente o Departamento do Trabalho da Austrália por “alucinações” em seu produto
O braço australiano da Deloitte, uma das quatro grandes empresas de contabilidade do Reino Unido, concordou em reembolsar parcialmente o custo de um relatório que produziu para o governo em Canberra depois que se descobriu que o documento continha vários erros factuais gerados por IA, informou o Australian Monetary Evaluation no domingo.
O Departamento de Emprego e Relações no Native de Trabalho (DEWR) substituiu discretamente o relatório authentic, publicado em Julho, por uma versão revista de 237 páginas na sexta-feira passada, pouco antes de um fim de semana prolongado. As autoridades disseram inicialmente que a atualização adicionou novas informações e corrigiu “algumas notas de rodapé e referências.”
O acadêmico da Universidade de Sydney, Chris Rudge, já havia sinalizado vários aparentes “alucinações” típico de grandes modelos de linguagem, o que levou a Deloitte a lançar uma revisão interna em agosto.
O relatório atualizado inclui uma nova divulgação que confirma que a IA – especificamente o modelo Azure OpenAI GPT-4o da Microsoft – foi usada na sua preparação. Ele também corrige mais de uma dúzia de erros, incluindo referências a uma decisão judicial inexistente e documentos acadêmicos, bem como uma citação fabricada atribuída à juíza Jennifer Davies (com erros ortográficos). “Davis” na primeira versão), o vice-presidente do Tribunal da Concorrência Australiano.
Rudge disse ao Monetary Evaluation que a admissão da Deloitte transformou o que antes period “uma hipótese forte” em certeza, mesmo que sua confissão fosse “enterrado na seção de metodologia.”
Um porta-voz do DEWR confirmou que a Deloitte tinha “concordou em reembolsar a parcela last de seu contrato”, embora o valor não tenha sido divulgado. O estudo completo sobre a aplicação informatizada de penalidades automatizadas no sistema de bem-estar social da Austrália custou 440 mil dólares australianos (cerca de US$ 290 mil).
Rudge, um especialista em bem-estar, notou pela primeira vez que algo estava errado quando o relatório citou um livro supostamente escrito por sua colega da Universidade de Sydney, Lisa Burton Crawford. O título parecia fora de sua área de especialização e acabou não existindo.
Você pode compartilhar esta história nas redes sociais:
