Considerada uma das maiores consultorias globais de tecnologia, a Deloitte terá que devolver 440 mil dólares ao governo da Austrália após admitir ter utilizado em um relatório entregue com diversos erros.
A denúnciaAto pelo qual alguém leva ao conhecimento dos responsáveis um fato contrário à lei, à ordem pública ou a algum regulamento, que seja e suscetível de punição ou correção.... veio à tona depois que um senador trabalhista acusou a empresa de sofrer de um “sério problema de inteligência humana”. A informação foi posteriormente confirmada pelo Departamento de Emprego e Relações de Trabalho da Austrália, que informou que o contrato entre o governo e a consultoria será tornado público após a devolução do valor acordado.
A Deloitte havia sido contratada para revisar a estrutura interna dos sistemas de complianceSubstantivo advindo do verbo to comply (agir de acordo, cumprir, obedecer). Estado de estar de acordo com as diretrizes ou especificações estabelecidas pela lei ou regras, políticas e procedimentos de... e tecnologia da informação, utilizados para automatizar penalidades aplicadas pela Assistência Social em casos de descumprimento de obrigações por parte de trabalhadores.
O relatório, entregue em 4 de julho, continha uma série de erros e informações não rastreáveis. Em agosto, o documento foi revisado, mas a polêmica só ganhou força depois que um pesquisador da Universidade de Sydney apontou publicamente as incoerências, classificando-as como chamadas “alucinações” de sistemas de IA, usadas para preencher lacunas de informação.
“Em vez de substituir as alucinações inventadas por uma referência real, eles acrescentaram novas informações falsas no lugar das apontadas anteriormente”, afirmou o pesquisador Christopher Rudge ao jornal The Guardian. “O que isso sugere é que as afirmações feitas no relatório não foram baseadas em nenhuma fonte probatória real.”
Na versão atualizada, a Deloitte incluiu uma menção ao uso de inteligência artificial gerativa no apêndice que lista as ferramentas empregadas na produção, reconhecendo que parte do conteúdo foi gerada pela plataforma Azure OpenAI.
Questionada sobre o episódio, a consultoria não confirmou se o uso da IA foi o responsável pelos erros originais. Em nota, limitou-se a afirmar que “o assunto foi resolvido diretamente com o contratante”.