稀疏自编码器要喂多少数据:华盛顿大学与IBM测试给出新答案

资讯 腾讯网 作者:科技行者 全文 4652 字 · 约 12 分钟读完

你有没有遇到过这种情况:攒钱买了顶配电脑,结果发现日常用的软件,其实中配机器就能流畅运行,那些多花的钱,买的是心理安慰,而不是真实需求。机器学习圈子里正在发生一件类似的事。训练稀疏自编码器,这个听起来很专业的东西,大家默认的做法是砸几亿到几十亿个数据token进去,越多越好,仿佛数据量就是正义。但华盛顿大学和IB...

攒钱买了顶配电脑,日常软件中配机器就能跑得顺,多花的钱买的是心理安慰,不是真实需求——这种经历不少人有过。

机器学习圈里眼下正上演类似的一幕。

训练稀疏自编码器时,大家默认的做法是砸几亿到几十亿个数据token进去,仿佛数据量就是正义。华盛顿大学和IBM的研究者却做了件反常识的事:认真测了一遍,这些海量数据真的都有必要吗?结论是"看你要干什么",而这个回答本身就挺有意思。

先说清楚稀疏自编码器要解决什么

稀疏自编码器

SAE

要读懂这篇论文,先得明白为什么需要它。

大语言模型内部有个麻烦事,叫

SAE想解决的正是这个问题:学一个编码器,把模型内部纠缠的激活信号映射进一个更大、更稀疏的特征空间,让每个特征尽量只对应一个清晰概念;再学一个解码器,把稀疏特征还原成原始激活信号。做得好,你就能像拆积木一样看清模型内部在表达什么。

如今这套方法已被用到GPT-4、Claude 3这类前沿模型上,训练规模随之水涨船高,从几亿到几十亿个激活token不等。但没有人真正系统地问过一个基础问题:这么多数据,真的都用得上吗?

这篇论文做的就是把这个被忽略的问题认真测了一遍。

两种"收敛":一个是假象,一个是真相

研究者提出了一个关键区分,它构成整篇论文的骨架。

功能收敛

功能收敛

特征收敛

这个区分听着抽象,打个比方就清楚了。两个学生同考一场试都拿95分,看上去"学得一样好"。可细看答题过程,一个真懂了知识点,另一个是选择题蒙对、大题押中方向,实际掌握的内容完全不是一回事。分数相同,脑子里装的知识体系未必是同一套。

SAE的功能指标,比如重建损失、

研究者为何要区分这两件事?因为SAE存在的根本意义不只是把激活信号重建得漂亮,更在于挖出的每个特征都是真实、可复现的"概念单元",能反复用于科学分析。今天训练出的某个特征,换一批数据训练就消失或变了样,它还算不算真实存在?这关系到SAE作为研究工具的可信度。

为了让这个问题不只停留在实验直觉上,研究者先搭了一套理论框架。

理论先行:数据少了,特征还能对上吗

论文给出一个定理,大意是:如果两次训练用的架构、预处理、损失函数完全一致,训练数据量都足够大、优化过程也都收敛到位,同时问题本身有"

定理本身不算惊天动地,更像把直觉严格化了。它真正有价值的地方在一个推论:即便编码器和解码器两边各自算出的"最佳匹配"是同一个参考特征,也不代表这两个特征方向真的高度相似。换句话说,两个系统"选中了同一个对象",和这两个系统"长得一模一样",是两件不同的事。

好比两家猎头公司都给你推荐了"最适合这个岗位的人",巧的是推的是同一个人。这只能说明两家公司的筛选标准都指向了他,不代表它们对"什么是好候选人"的理解完全一致。换一个岗位,两家可能就分道扬镳,推出完全不同的人选。

Hungarian匹配

匈牙利算法,一种求解最优一对一分配问题的算法,这里用来按余弦相似度把两个SAE各自学到的特征两两配对,找出最佳对应关系

有了这套理论打底,研究者便能放手做实验,他们清楚自己要观察的是两件不同的事:功能表现趋同的速度,和特征本身趋同的速度。

实验怎么做的

研究团队挑了三款语言模型来做实验。

训练数据量从500万token起步,最高做到5亿token当参考基准,中间插了若干个档位;每个档位只把激活流里的1%、5%、10%或100%喂给模型。

有个细节需要说明,他们采用的是

评估环节用到的指标包括

功能指标这块:数据量小,追得却很快。

先给结论:重建效果上,5000万token左右就已经接近5亿token参考答案的水平,继续加数据,带来的提升相当有限。

以

这倒不算太出人意料。重建任务说到底是在学“激活信号大体长什么样”,这类统计规律通常不需要太多样本就能摸清。好比要估计一座城市的平均气温,抽一个月的数据和抽十年的数据,算出来的均值差不了多少,前提是抽样方式本身没问题。

稀疏探测

Sparse Probing 的做法是,看某个概念能不能被单个或少数几个SAE特征准确认出来,以此判断这个概念有没有被“定位”到具体的特征单元上。

稀疏探测的结果差不多,各数据量档位之间拉不开明显差距,个别情况下小数据量还跑到了大数据量参考模型前面。

自动化可解释性方面

AutoInterp 的思路是,让另一个语言模型看着某个SAE特征被激活的样本,去猜这个特征对应什么语义,再用这个猜测预测该特征在新样本上会不会激活,借此衡量特征的语义清晰度。

这个指标是整篇论文里波动最大的,它和数据量之间几乎谈不上单调关系,有时数据越多分数反倒越低。可见一个特征的语义清不清晰,跟它“重建得准不准”完全不是一码事。

其余指标,比如虚假相关性剔除、目标探针扰动、RAVEL解耦,同样表现出非单调、对配置敏感的特征,遗忘能力这一项的起伏尤其大。研究者还做了配对统计检验,结论进一步支持“功能指标对数据量不敏感”这个总体判断。

这里有个很实际的信号:怎么选数据,比单纯堆数据量更要紧。

研究者又测了另一个变量:数据预算相同,换不同的数据子集,结果会不会有差别。他们比较了两种抽样策略。

随机抽样和

随机抽样(RS):不看激活值大小,随机留下一部分激活信号,理论上能保住原始数据分布的样子。

最远点抽样(FPS):每次都优先挑和已选集合距离最远的激活信号,主动去追求几何上的多样性。

结果很明确:随机抽样更保得住重建效果和那些涉及“干预”的指标,像虚假相关性剔除、目标探针扰动、RAVEL解耦,随机抽样在这些指标上普遍占优,有时甚至超过500万token的全量参考模型。

最远点抽样则在自动化可解释性上赢得几乎没悬念,在所有架构、模型、预算的组合里,79%的情况下FPS的AutoInterp分数高于随机抽样。

背后的原因,研究者用

这个现象不难懂。打个比方,一家公司招人时追求团队多样性,优先录用背景差别大的候选人,团队视角确实更丰富,讨论问题时更容易碰出有意思的想法,这对应AutoInterp分数高、特征语义解释更清楚。可要是你的目标是准确复刻整个行业的平均薪资,这种刻意追求差异化的招人策略反而会让统计结果偏离真实情况,因为你系统性地把“普通”样本排除掉了,这对应重建效果下滑。要哪一头,取决于你想干什么。

特征层面:指标达标,不等于学到了同一个东西。

重建效果追上了,各项功能指标也差不太多,这能说明小数据量的SAE和大数据量的SAE已经“一样好”了吗?

研究者随后做的分析,给出了一个相当关键的否定回答。

他们用

结果不太好看。在Gemma-2-2B上训练的BatchTopK SAE,用500万token时,编码器和解码器各自独立算出的最佳匹配里,有66.6%的特征选中了同一个参考特征——单看这个数字似乎还行。可一旦套上τ=0.7的严格标准,真正复现出来的特征只剩2.2%。

66.6%对2.2%,两个数字摆在一起,正好印证了前文理论部分的那个推论:一对一匹配能对上,不等于特征本身够像。差距这么大,说明绝大多数被“匹配上”的特征只是方向大致接近,离“同一个概念”还差得远。

好消息是,数据量上去之后这个数字会稳步爬升。50万token时,编码器与解码器的一致匹配率升到83.47%,严格复现率也从2.2%涨到28.86%。ReLU架构如此,另外两个语言模型上也一样。

研究者还挑了几个案例做定性分析。低相似度区间里,500万token的SAE学到一个特征,描述是“与average一词及周围数学/统计表达相关”,而参考模型中被匹配上的对应特征却是“数学格式、LaTeX代码、变量下标等表达”。听着沾边,显然不是一回事。到了高相似度区间,两边的描述几乎一字不差,都是“比较级形容词和副词,常后接than”。量化结果由此得到直观印证:弱匹配对应的是语义上说不清道不明的相似,强匹配才算真正把同一个特征复现了出来。

这就碰到了整篇论文最核心的判断:功能相似,不等于特征可复现。

这话听着像一句正确的废话,但它点出了一个长期被忽视的风险。只盯重建误差或下游任务指标,很容易误以为自己用更少的数据训出了一个“差不多”的SAE。可要是打算把其中某个特征当作科学研究对象去深挖,去讨论“这个特征代表了模型对某个概念的理解”,那就得格外小心——换一批训练数据,这个特征可能根本不复现。

好比两份简历,工作经历栏写得几乎一样,深入面谈才发现:一个人的“项目管理经验”是真刀真枪带团队磨出来的,另一个只是挂了个名,实际没参与多少决策。表面信息吻合,内核并不一致。招聘时只看简历关键词匹配、不做深入面谈,就可能把后者当前者用,代价要等正式上岗才暴露。

这篇论文想传达的,正是这种“别只看表面指标”的提醒。

写在后面

读完这篇论文,最触动我的是那个2.2%。

一个看起来“功能上没问题”的SAE,拿去做特征级别的科学分析时,真正站得住脚的特征可能连3%都不到。放到医学检测场景里,大概相当于告诉你“这个化验结果大体正常”,可深究到细胞层面,真正符合预期的样本只有百分之二点几,剩下的绝大多数看着正常,细究起来经不起推敲。

另一个让我反复琢磨的地方,是“最远点抽样提升AutoInterp但损害重建”这个发现。它其实暗示了一个更普遍的道理:任何追求“多样性”的数据策略,本质上都是拿牺牲代表性来换覆盖面。这事不只发生在SAE训练里,

还有一点论文没明说,但我觉得值得多问一句:连随机子采样都会让特征复现率大幅下降,那SAE训练里的随机种子、初始化方式、优化器选择,会不会带来更大的不确定性?论文引用的另一项研究已经发现,同一批数据、不同随机种子训练出的SAE,学到的特征也有相当程度的不一致。两个发现摆在一起,是不是意味着SAE这个工具在“特征可复现性”上还有相当长的路要走?

这个问题论文没有回答,但问题已经被问得足够清楚了。

Q&A

Q1:稀疏自编码器SAE的训练数据量是不是越大越好?

A:不一定。论文发现重建效果和多数功能指标在5000万token左右就能接近5亿token的参考水平,继续加数据收益有限,但特征层面的一对一复现率会随数据量持续改善。

Q2:随机抽样和最远点抽样哪个更适合训练SAE?

A:看目标。随机抽样更擅长保住重建效果,以及虚假相关性剔除、目标探针扰动等干预类指标;最远点抽样在79%的对比中提升了自动化可解释性分数,但会让训练数据偏向高范数激活,损害重建表现。

Q3:为什么SAE功能指标表现好,特征却不一定可复现?

A:编码器和解码器的一对一匹配选中了同一个参考特征,不代表这两个特征方向真的高度相似。论文实验显示,匹配一致率能到66.6%,但严格相似度阈值下真正复现的特征只有2.2%。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. LSHub 发布 P1 与 MAX 工程 AI 终端:覆盖八大专业,两种部署可选

    日前,四川无量枢人工智能科技有限公司(品牌 LSHub)推出 LSHub P1 与 LSHub MAX 两款工程 AI 智能终端,面向建筑工程行业提供 CAD 出图辅助、工程量计算辅助、图纸审查辅助及工程专业知识问答四类应用。 两款产品对应两种部署需求 LSHub P1 为主力产品,形态是巴掌大小的 AI 智能盒子,连

    来源 AI 行业观察
  2. 李彦宏的“最紧迫”与雷军的“热想象”

    APEC时间,科技掌门人谈了什么?作者/ IT时报 孙妍 综合报道编辑/ 孙妍 11月17日至18日,2026年亚太经合组织(APEC)工商领导人峰会在深圳前海国际会议中心举行。作为亚太经合组织第三十三次领导人非正式会议的配套活动,峰会由中国贸促会主办,主题为“共促繁荣,共赢未来”,2000余位政商代表参会,参会企业包

    来源 腾讯网
  3. 陈立泉:锂电之外钠电也要挑大梁

    封面新闻记者 吴凯文 11月20日,国家最高科学技术奖获得者、中国工程院院士、中国科学院物理研究所研究员陈立泉,以视频形式出现在“汇智赋能·科创兴达——打造达州工业高质量发展新引擎”专场活....

    来源 腾讯网
  4. 16岁辍学创业做AI导弹:他把“击杀成本”当卖点

    16岁高中生Henrijs Dandzbergs辍学加入YC,创办AI导弹初创公司,宣称要用新型导弹把美国及其盟友的“击杀成本”降到最低。本文梳理其背景、产品逻辑与争议,并追问:当战争效率被硅谷式指标衡量,创新与伦理边界在哪里?

    来源 AI 科技快讯
  5. AI穿戴设备扎堆:从眼镜到戒指,谁在为“去手机化”买单?

    过去两年,科技公司突然对人类的身体产生了浓厚兴趣。眼镜、耳机、胸针、吊坠、手环、戒指……只要是身上能佩戴的地方,几乎都有人想塞进一个AI。最近,极米推出了名为“极米记得”的AI记忆手环。与传统智能手环不同,它不靠屏幕显示消息,而是通过录音记录会议和日常对话,再由AI整理成纪要、待办事项。类似的产品正在扎堆...

    来源 腾讯网
  6. 企业用 AI 面试我,我能用 AI 回答吗?

    写在前面 在面试时,使用 AI 来回答问题,是对企业和个人来说,都已经是一个已经无法回避的问题。 有 HR 对此深恶痛绝,认为是诚信问题。一个面试官和我说过一个真事,当时线上面试的时候,他们希望候选人分享自己做过的一个项目,结果候选人一不小心投屏的时候把 AI 辅助回答给亮了出来。 本来他们对于候选人的资质非常认可,但

    来源 AI 行业观察
  7. APEC观察丨对话中欧数字协会创始主席、意大利经济学家鲁乙己:AI带动的新一轮全球化正在到来

    2026年亚太经合组织(APEC)领导人会议周正在深圳举行,数字经济与人工智能是贯穿始终的关键词。 11月19日,中欧数字协会创始主席、意大利经济学家鲁乙己(Luigi Gambardella)在峰会间隙接受新京报贝壳财经记者的专访。 作为非APEC经济体受邀嘉宾,这是他首次参加APEC工商领导人峰会。这位长期活跃于中

    来源 腾讯网
  8. 马斯克深圳谈中美关系与特斯拉FSD,力挺黄仁勋

    埃隆·马斯克(Elon Musk)。图片由AI生成 北京时间11月19日,身在中国深圳的埃隆·马斯克(Elon Musk)谈到了自己对中国的印象。他称赞深圳的城市规模、现代化程度和科技产业活力,建议外界亲自来中国看看,并表示自己对中国抱有敬意。 在谈及中美关系时,他表示,双方保持良好关系、经贸磋商取得积极进展,对两国乃

    来源 AI 行业观察
  9. APEC时间,中国硬科技踏浪而来

    财联社11月19日讯(记者 王碧微)11月18日,亚太经合组织(APEC)第三十三次领导人非正式会议在深圳开幕,经济总量约占全球60%的21个成员经济体代表齐聚一堂。这是APEC会议首次在深圳举办,财联社记者观察到,会议期间,会场和新闻中心里出现了不少深圳硬科技企业的产品。APEC新闻中心 图片来源源:财联社记者/摄在

    来源 腾讯网
  10. 四大利好尽出,美股为何就是涨不动?野村:有人想出货

    野村策略师McElligott指出,如果所有机械买盘都已就位,市场却仍涨不动,那么问题就不再是仓位,而是“有人想出货”;“增长恐慌”可能是真实的。与此同时,高盛数据显示,对冲基金净杠杆已降至5年新低,科技股抛售速度创十年最快;但散户群体与401(k)投资者尚未跟进抛售。

    来源 华尔街见闻
  11. 黄仁勋卸任英伟达CEO:评级下调、数据威胁与AMD做空风波

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑AMD订单真实性与流动性安全,叠加台积电对英伟达超额订单提出预付现金要求,AI芯片板块的风险预期快速升温。勒索软件组织G

    来源 腾讯网
向下滚动自动加载更多