埃森哲报告被指15条引用造假:AI幻觉还是编造案例?
IT之家 11 月 8 日消息,埃森哲(Accenture)被指发布了一份充斥人工智能“幻觉”的研究报告,其中不仅包含大量虚假信息,还出现了多处疑似捏造的研究案例。据 GPTZero 最新分析,这家咨询巨头发布的一份报告涉嫌包含 15 条虚假引用,以及完全虚构的案例研究,因此正受到外界审查。这份名为《跨越式发展》(Le
11 月 8 日,埃森哲(Accenture)被曝出一份研究报告里混进了大量人工智能“幻觉”内容,虚假信息不少,还有多处研究案例疑似伪造。
GPTZero 的最新分析显示,这家咨询巨头发布的报告涉嫌含有 15 条虚假引用,案例研究也完全是编造的,目前正接受外界审视。
报告名为《跨越式发展》(Leapfrogging Development),由埃森哲联手马德里 IE 大学的研究人员共同发布,主题是人工智能如何提升非洲农业产业的生产力。
对于这些错误,埃森哲方面否认是人工智能造成的。
但这件事仍可能让埃森哲难堪。公司管理层此前曾放话,不肯用人工智能的员工可能被解雇。
埃森哲首席执行官朱莉 · 斯威特(Julie Sweet)去年就警告过,作为公司人工智能转型的一部分,用不上这项技术的顾问会被“淘汰”。
GPTZero 的报告点出了咨询行业越来越多使用人工智能带来的隐忧。风险之一在于,人工智能“幻觉”会借聊天机器人的回答和摘要扩散虚假信息,进而“污染信息源”。
GPTZero 称:“该公司认为,虚构引用对研究人员、学者、顾问、学生,以及任何通过互联网搜索信息的人而言,都是迫在眉睫的现实威胁。”
咨询行业摊上类似麻烦,这已经不是头一回。德勤、安永、毕马威和普华永道等大型咨询公司此前也被指报告中存在人工智能错误。
另一边,全球一些规模最大、收费最高的律师事务所同样承认,重要法律文件里出现过人工智能生成的错误。
英国大型律师事务所之一 Pinsent Masons 此前承认,其提交给英国高等法院的法律文件含有 AI“幻觉”内容。
另一家律所 Sullivan & Cromwell 的律师收费最高达每小时 3,000 美元(现汇率约合 20,058 元人民币),该公司今年早些时候也承认,递交纽约一家法院的文件中存在人工智能错误。
在专业服务公司中,埃森哲是积极推动员工使用人工智能的众多企业之一。
可员工用得太猛,公司上个月不得不为人工智能工具的使用设下新限制。此前,部分员工使用 Claude 等工具,月度账单超过了 1,000 美元(现汇率约合 6,686 元人民币)。
埃森哲一位发言人回应了 GPTZero 的结论,表示并不认同。该发言人称,经公司核查,报告里出现的差错来自人工操作环节;现有材料无法支撑“这些差错由人工智能幻觉所致”的判断。这份报告目前正在修改,相关工作完成后会重新发布。该发言人还表示,公司一向乐于借这类机会把报告做得更好。