A consultoria holandesa KPMG retirou de circulação um relatório sobre inteligência artificial após a descoberta de que o próprio documento continha alucinações geradas por IA. O estudo sobre os benefícios da tecnologia apresentava exemplos que nunca existiram.

O relatório, intitulado “Redefinindo a excelência na era da IA agêntica”, analisava a adoção da IA por empresas ao redor do mundo. No entanto, o documento dizia que organizações como o banco suíço UBS, o Serviço Nacional de Saúde do Reino Unido (NHS) e as Ferrovias Federais Suíças (SBB) já aplicavam serviços de IA na sua rotina.

Segundo o Financial Times, as informações eram totalmente falsas ou exageradas. Em um dos exemplos, a KPMG afirmava que o UBS utilizava agentes de IA para consultoria de investimentos, gestão de riscos e monitoramento regulatório. O banco afirmou que a descrição era “factualmente incorreta”.

Em outros trechos, de acordo com o jornal britânico, as alegações pareciam ter sido construídas a partir de comunicados reais, mas citavam funcionalidades e aplicações de IA que nunca foram anunciadas por essas organizações.

As inconsistências foram identificadas pela GPTZero, empresa especializada em detecção de conteúdo gerado por inteligência artificial. Segundo os pesquisadores, os exemplos apresentavam características típicas de alucinações de modelos de IA.

Ao Financial Times, a KPMG informou que removeu o estudo de seus sites enquanto investiga as circunstâncias da publicação.

“Esperamos que todos os nossos funcionários sigam nossas diretrizes sobre o uso responsável da IA, incluindo supervisão humana para validar o conteúdo e verificar fontes independentes”, afirmou um porta-voz da consultoria.

Caso parecido já aconteceu antes

O episódio se soma a uma lista curiosa. No final do ano passado, a famosa consultoria Deloitte passou pela mesma situação – duas vezes. 

Em outubro, a Deloitte abriu mão de parte do pagamento recebido do governo australiano após identificar que um relatório entregue pela consultoria continha erros de IA, incluindo citações, referências e fontes que não existiam.

Um mês depois, em novembro, a empresa entregou um relatório com citações e estudos acadêmicos que não existem ao setor público do Canadá.

Relatório sobre IA tinha erros cometidos por IA