【编者按】
在人工智能浪潮席卷各行各业的今天，德勤澳大利亚分公司的这起乌龙事件犹如一记警钟。这家全球顶尖咨询机构竟交出一份充斥着AI幻觉的政府报告——虚构法官引述、捏造学术文献，连根本不存在的法律专著都赫然在列。当悉尼大学研究员揭开这个”皇帝的新衣”时，我们不禁要问：在追逐效率的狂热中，专业机构是否正在丢失最基本的职业操守？更令人心惊的是，报告涉及的是关乎民众福祉的福利制度自动化惩戒系统。倘若连法律条文都能被AI随意杜撰，我们又将如何守护社会公平的底线？这起事件不仅是科技滥用的典型案例，更是对行业监管的尖锐拷问。
墨尔本讯——德勤澳大利亚分公司将部分退还澳大利亚政府支付的44万澳元（29万美元）款项，因其提交的报告充斥着由人工智能生成的明显错误，包括编造联邦法院判决引述，以及引用根本不存在的学术研究成果。
这家金融服务公司向就业与劳资关系部提交的报告，最初于7月发布在该部门官网。经悉尼大学健康与福利法研究员克里斯·拉德吉向媒体揭露该报告”充满虚构引用”后，修订版于上周五重新发布。
该部门周二发布声明称，德勤已重新审阅这份237页的文件，并”确认部分脚注和参考文献存在错误”。
“德勤同意退还合同尾款，”声明强调，具体金额将在退款完成后公开。
当被问及报告失实问题时，德勤向美联社回应称”此事已与客户直接解决”。
对于错误是否源自AI的追问，德勤始终保持沉默。
生成式AI系统这种虚构信息的倾向，被业界称为”幻觉现象”。
该报告旨在评估政府各部门在澳大利亚福利体系中运用信息技术实施自动惩戒的情况。部门声称报告”核心内容”保持完整，建议方案未作调整。
修订版新增声明，确认在撰写过程中使用了生成式AI语言系统Azure OpenAI。
被删除的内容包括编造的联邦法院法官引述，以及虚构的法律专家和软件工程专家报告引用。
拉德吉透露，他在报告初版中发现的错误多达20处。
最令人瞠目的错误，是张冠李戴地声称悉尼大学公法与宪法教授丽莎·伯顿·克劳福德撰写过一本根本不存在的著作，且书名明显超出其专业领域。
“我立刻意识到这要么是AI产生的幻觉，要么是世上保守最严的秘密——我从未听说过这本书，而且书名听起来就很荒谬。”拉德吉直言。
他进一步指出，报告作者将学界同行的研究成果当作”合法性筹码”——引用却未实际阅读，并强调在这份实质是法律合规审计的报告中，错误引用法官言论比学术失范更为严重。
“他们完全曲解了司法判例，还编造法官言论。这已经超出学术尊严的范畴，是在向澳大利亚政府歪曲法律事实。我认为必须捍卫专业严谨性。”拉德吉郑重表示。
澳大利亚绿党公共部门发言人芭芭拉·波科克参议员强烈要求德勤全额退还44万澳元（29万美元）。
“德勤滥用AI的行为极不专业：错误引用法官、使用虚构参考文献，”波科克向澳大利亚广播公司指出，”这种错误连大一新生都会受到严惩。”
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/nw/23703.html
