EchoChat:港中文与微软新框架,如何拦住共情推理里的错误传播?
NeurlPS'26|如何减少共情推理中的错误传播?
新智元报道
新智元报道

在多阶段推理里,前一步判断偏了,后一步就可能把它当成前提,偏差会一路往下传。共情语音对话中,这个问题更明显——感知、心理状态推断、回应生成彼此咬得很紧,早期的小偏差,最后可能变成对说话人需求的误解,回应也跟着不合适。哪怕后面的分析逻辑自洽、话说得漂亮,依据本身也可能是错的。
只看最终回复做整体评价,很难指出偏差出在哪一步,也就给不出有针对性的反馈。要想减少多阶段推理中的错误传播,关键就在于把阶段之间的依赖关系建好模,再把反馈落到对应的步骤上。
香港中文大学与微软研究团队为此提出EchoChat。团队认为,如果把共情简化成从输入直接映射到回复,模型很容易陷入「共情模仿」(empathetic mimicry):回应听起来温暖,却和说话人真正的心理状态与实际需求对不上。要提升共情能力,得往回应背后的认知过程里看。
EchoChat把感知、心智理论推理与语音回复生成放进同一个优化框架,用级联门控奖励约束阶段依赖,再由步骤级信用分配给出有针对性的更新信号,让错误不至于在推理过程中一路延续。该工作发表于NeurIPS 2026。
论文链接:https://arxiv.org/abs/2610.04826
共情对话里,情绪强度被低估,模型就可能忽略说话人迫切的支持需求;心理需求判断错了,回应策略又会偏离对话真正要解决的问题。
EchoChat把这一过程显式拆成感知、心理状态推断、策略规划与回复生成,各环节在结构上可以区分。
不过,推理结构清楚,不代表判断就可靠:后续分析即便逻辑连贯,也可能顺着错误前提继续推。
所以训练时要看清各阶段各自的表现,弄明白哪一步给了可靠依据、哪一步带进了偏差,再分别给出反馈。
EchoChat在强化学习阶段,从奖励设计和信用分配两个层面入手应对这一难题。
不同阶段的评分之间并非彼此独立。感知一旦出现偏差,建立在这一感知之上的心理分析就算表面合理,也缺少可靠前提。后续阶段若仍拿到较高奖励,整体分数就可能把上游的错误盖住。级联门控的思路正是:后续奖励需要可靠的前序依据。
EchoChat据此给推理奖励加上级联门控,让心理状态推断和策略规划得到的奖励受前序阶段表现约束,压低模型用后续看似合理的分析去补偿前序错误的可能。
奖励考虑了阶段依赖,还得明确这些反馈该落到哪些步骤上,这一步对应SDCA。标准GRPO一般按整条轨迹的总奖励算出一个统一的优势信号,套到所有生成token上,各阶段的贡献很难区分开。
针对这一点,EchoChat提出Step-Decomposed Credit Assignment(SDCA):分阶段各自计算组内相对优势,再把这些优势分配到对应生成片段的token上,让每个步骤拿到与自身表现相符的训练信号。
在此基础上,EchoChat把回复层面的多模态奖励也纳入进来,对推理过程、回应内容与语音表达做联合优化。
要减少错误传播,还得看推理最初依赖的信息。长链推理(Long CoT)常遇到一个风险:生成文本越积越多,模型可能越来越信自己已有的判断,对原始输入的关注慢慢减弱。共情语音对话里这个问题更需留意。语调、节奏、停顿与声音强弱承载的情绪信息,很难被文字完整保留。推理一旦逐渐由生成文本主导,这些声学线索就可能被忽略,最初的误判也更容易在后续心理状态推断和策略选择中延续下去。
为此,EchoChat在监督微调阶段引入Acoustic-Anchored Attention(AAA),用注意力约束让感知阶段的推理更多关注声学表征,情绪判断更充分地建立在声音证据上,为后续推理与回应打好基础。
学习信号方面,研究团队构建了EchoDialogue-400K。该数据集覆盖多样化对话情境、语言风格与细粒度情感表达,并把感知、心理状态分析、策略选择和回应串联起来,为多阶段学习提供结构化监督。
共情能力要尽量客观地衡量,团队除了对最终回复做主观评价,还进一步看模型是否准确感知情绪、合理推断心理状态与支持需求,让共情评价有更明确、可分析的依据。研究团队为此提出EchoEval,采用真人录制语音与心理学专家标注,覆盖隐含情绪、语义与语气冲突、情绪变化等复杂表达。评测以专家标注为参照分层进行,把对共情的整体感受细化为对感知、推理与回应质量的系统考察。
EchoChat在感知、推理和回应对齐方面表现领先。消融与错误传播分析进一步显示,级联门控与步骤级信用分配能改善不同阶段之间的衔接,缓解中间误判对后续推理和回应的影响,为这套训练方法的有效性提供了支持。
说到底,共情的语音对话本身就是一个认知过程,感知、推断、决策几个环节彼此依赖。表达再温暖,如果没弄懂说话人处于什么心理状态、实际需要什么,那就只能算是「共情模仿」(empathetic mimicry)。
EchoChat把这一过程显式建模并统一优化,想看的是中间误判的延续能不能压下去,让回应建立在更充分的声学依据和更可靠的推理之上。
参考资料:
https://arxiv.org/abs/2610.04826