稀疏自编码器要喂多少数据:华盛顿大学与IBM发现答案取决于目标

资讯 网易科技 作者:网易 全文 5929 字 · 约 15 分钟读完 配图 1 张

稀疏自编码器到底要喂多少数据才够?答案可能颠覆你的直觉,算法,信号,范数,解码器,数据量,自编码器

稀疏自编码器要喂多少数据:华盛顿大学与IBM发现答案取决于目标(配图 1)

攒钱上了顶配电脑,日常软件跑起来其实中配就够用,多掏的那部分钱买到的是心里踏实,不是实际需要。这种情形你大概也碰上过。

机器学习领域眼下也撞上了差不多的事。

训练稀疏自编码器时,行业里默认的玩法是往里灌几亿到几十亿个数据token,多多益善,好像数据量天然占理。华盛顿大学和IBM的研究者却反着来,认认真真测了一遍:这些海量数据真都派得上用场吗?他们给出的结论是"看你要干什么"。这个答案本身就耐人寻味。

先弄清稀疏自编码器管的是什么

稀疏自编码器,英文缩写SAE,全称Sparse Autoencoder,是一类神经网络结构,能把语言模型内部纠缠在一起的激活信号拆成一组稀疏、彼此相对独立的特征。

要看懂这篇论文,先得弄明白SAE为什么存在。

大语言模型内部有个绕不开的毛病,叫多义性。同一个神经元可能同时响应好几个八竿子打不着的概念,比如既对"猫"有反应,又对"法律文件"有反应,对某种数学符号也敏感。好比公司里一个员工兼着好几摊活,你根本分不清他此刻在忙哪一摊,想单独评估他某一项工作的表现,无从下手。

SAE就是冲着这个毛病来的。它先学一个编码器,把模型内部那团纠缠的激活信号映射进一个更大、也更稀疏的特征空间,让每个特征尽量只对应一个清晰的概念;再学一个解码器,把这些稀疏特征还原成原始激活信号。做得好的话,模型内部在表达什么,你就能像拆积木一样看明白。

眼下这套方法已经用在GPT-4、Claude 3这类前沿模型上,训练规模也一路往上走,从几亿到几十亿个激活token不等。但有一个基础问题始终没人系统地追问过:这么多数据,当真都用得上?

这篇论文干的事,就是把这个问题捡起来,认认真真测了一遍。

两种"收敛",一个只是表象,一个是实质

整篇论文的骨架,是研究者提出的一个关键区分。

功能收敛与特征收敛

功能收敛:看SAE在重建误差、下游任务表现这些指标上,是不是已经贴近用海量数据训出来的"参考答案"。

特征收敛:看SAE学到的具体特征能不能和参考答案里的特征一一对上。指标表现相近,学到手的"东西"未必是同一个。

这个区分听着有点绕,打个比方就清楚了。两个学生考同一场试,都拿95分,你会说他们"学得一样好"。可要是细看答题过程,一个是真的把知识点吃透了,另一个是选择题蒙对、大题押中方向,实际掌握的内容压根不是一回事。分数相同,不代表脑子里装的是同一套知识。

SAE的重建损失、稀疏探测准确率这些功能指标,就像卷面上的总分。真正能检验两个SAE是否"学到了同一套概念"的,是特征层面的一致性。

研究者为什么要划这条线?因为SAE存在的根本意义,不只是把激活信号重建得漂亮,而是指望挖出来的每一个特征都是真实、可复现的"概念单元",能反复拿来做科学分析。今天训出来的某个特征,换一批数据训练就没了或者变了样,那它到底算不算真实存在?这关系到SAE作为研究工具还靠不靠得住。

为了不让这个问题只停留在实验直觉上,研究者先搭了一套理论框架。

理论先行:数据少了,特征还能对上吗

论文给出一条定理,大意是:只要两次训练的架构、预处理、损失函数完全一致,训练数据量都足够大、优化过程都收敛到位,同时这个问题本身具备"可识别性"——也就是最优解唯一确定、和其他可能的解有明显区分度——那么不管用全量数据训练,还是用一个随机抽样的子集训练,最终学到的特征系统在数学意义上都会趋于一致。

这条定理本身谈不上惊天动地,更像是把直觉严格化。它真正的价值在一个推论上:即便编码器和解码器两边各自算出的"最佳匹配"指向同一个参考特征,也不等于这两个特征方向真的高度相似。说白了,两个系统"选中了同一个对象",和这两个系统"长得一模一样",是两码事。

好比两家猎头公司都给你推荐了"最适合这个岗位的人",巧的是推的是同一个人。这只能说明两家公司的筛选标准都落到了这个人身上,不代表他们对"什么是好候选人"的理解完全一致。换个岗位,他们可能就各走各路,推荐出完全不同的人。

匈牙利算法是一种求解最优一对一分配的算法。这里用它把两个SAE各自学到的特征按余弦相似度两两配对,找出最佳对应关系。

有了这套理论打底,研究者就能放心做实验了。他们清楚自己要观察两件不同的事:功能表现趋同的速度,以及特征本身趋同的速度。

实验怎么做的

研究选了三个语言模型:Gemma-2-2B、Pythia-160M、Qwen3-8B,再加上四种SAE架构:BatchTopK、Matryoshka BatchTopK、JumpReLU,以及最经典的ReLU版本。

训练数据量从500万token一路拉到5亿token当参考基准,中间设了几个档位,每次激活流中只保留1%、5%、10%或100%的数据喂给模型。

有个细节:他们用的是在线训练设置。文本流经一个冻结的大模型,激活信号被缓冲、抽样、训练,用完就扔,不重复使用。这样一来,数据量的减少确实只是"看到的数据少了",排除了别的因素干扰。

评估指标用的是SAEBench,业内目前比较公认的SAE评测基准,涵盖八项指标:重建效果、稀疏探测、特征吸收、自动化可解释性、虚假相关性剔除、目标探针扰动、RAVEL解耦测试、遗忘能力。

功能指标:小数据量早早就追上了

先说结论:重建效果上,5000万token基本就能摸到5亿token参考答案的边,再往上加数据,收益非常有限。

以Gemma-2-2B上一个16k潜在维度的BatchTopK SAE为例,500万token时损失恢复分数是0.979,2500万和5000万分别是0.985和0.985,而用满5亿token训练出来的参考模型是0.987。差距已经小到可以忽略。

这其实不算特别意外。重建任务本质上是学"激活信号的大致分布长什么样",这种统计规律往往用不了太多样本就能摸清楚。就像你想知道一个城市的平均气温,采样一个月和采样十年,得出的均值其实差不了太多,前提是抽样方式没问题。

稀疏探测

Sparse Probing检验的是某个概念能否被单个或少数几个SAE特征准确识别出来,衡量概念有没有被"定位"到具体的特征单元上。

稀疏探测的表现也类似,各数据量档位之间差距不算大,有些情况下小数据量甚至反超了大数据量的参考模型。特征吸收这个指标更有意思,衡量的是本该被某个主特征捕捉的概念,有没有被其他特征"偷走"一部分。结果发现,数据量多少和这个问题的严重程度并没有稳定的正相关,反而小数据量训练出来的SAE经常在这项上表现更好。

自动化可解释性

AutoInterp 的做法是:先让另一个语言模型观察某个 SAE 特征被激活的样本,据此推断该特征对应什么语义,再拿这个推断去判断特征在新样本上会不会激活,特征的语义清晰度就由此衡量。

整篇论文里,波动最厉害的就是这个指标。它跟数据量之间基本谈不上单调关系,数据量增加、分数反而下降的情况时有出现。说到底,一个特征的语义清不清晰,跟它"重建得准不准"完全是两码事。

其余几项指标也是类似表现——虚假相关性剔除、目标探针扰动、RAVEL 解耦都呈现出非单调、对配置敏感的特征,其中遗忘能力的起伏格外剧烈。研究者还做了配对统计检验,结论进一步支持了"功能指标对数据量不敏感"这一整体判断。

这里要提一个很实际的信号:数据选择方式,比单纯的数据量更关键

研究者还测了另一个变量:同样的数据预算,挑不同的数据子集,结果会不会不一样。他们对比了两种抽样策略。

随机抽样和最远点抽样

随机抽样(RS):不考虑激活值大小,随机保留一部分激活信号,理论上会保持原始数据分布的样貌。

最远点抽样(FPS):每次优先挑选和已选集合距离最远的激活信号,主动追求几何多样性。

结论很明确:保住重建效果、以及虚假相关性剔除、目标探针扰动、RAVEL 解耦这类涉及"干预"的指标,随机抽样更在行。这些指标下随机抽样往往更占优,个别时候甚至压过了 500万token 全量参考模型。

放到自动化可解释性上,最远点抽样几乎是一边倒的赢家:无论哪种架构、哪个模型、什么预算,FPS 的 AutoInterp 分数有 79% 的组合都高于随机抽样。

研究者用 L2 范数分布解释了这一现象。随机抽样得到的子集,激活值分布与原始数据流基本吻合,KL 散度低于 0.0003 比特,算得上"无偏采样";最远点抽样则系统性地往高范数激活上偏,子集越小偏得越狠,5万token 时平均范数比原始分布高出近 29%。

这个道理不难懂。好比一家公司招人,若追求团队多元,优先挑背景差异大的候选人,视角确实更丰富,讨论时更容易冒出有意思的想法——对应的是 AutoInterp 分数高、特征语义解释更清楚。可要是你的目标是准确复刻整个行业的平均薪资,这种刻意求异的招法反而会让统计结果失真,因为"普通"样本被系统性地排除在外——对应的就是重建效果下滑。选哪一头,看你到底想做什么。

特征层面:指标达标,不等于学到了同一个东西

重建效果追上了,各项功能指标也差不多了,是否就能说小数据量的 SAE 和大数据量的 SAE"一样好"?

研究者随后的分析,给出了一个分量不轻的否定答案。

他们用 Hungarian 匹配,把小数据量 SAE 的编码器特征、解码器特征分别与 500万token 参考模型的特征一一配对,再设阈值 τ=0.7:编码器和解码器两边的余弦相似度都得超过它,才算真正"复现"了同一个特征。

结果挺扎心。Gemma-2-2B 上的 BatchTopK SAE,500万token 时,编码器和解码器各自独立算出的最佳匹配中,有 66.6% 的特征选中了同一个参考特征,看着还行。可换上严格的 τ=0.7 标准一验,真正复现出来的只剩 2.2%。

两个数字摆在一起,正好印证了前文理论部分的推论:一对一匹配能对上,不代表特征本身够像。66.6% 对 2.2%,差距这么大,说明绝大多数被"匹配上"的特征只是方向大致接近,离"同一个概念"还差得远。

好消息是,这个数字随数据量增加稳步往上走。50万token 时,编码器解码器一致匹配率升到 83.47%,严格复现率也从 2.2% 涨到 28.86%。ReLU 架构、另外两个语言模型上,趋势都一样。

研究者还挑了几个具体案例做定性分析。低相似度区间里,500万token SAE 学到的一个特征被描述为"与average一词及周围数学/统计表达相关",参考模型里被匹配上的对应特征却是"数学格式、LaTeX代码、变量下标等表达"。听着有点沾边,显然不是同一个东西。到了高相似度区间,两边的特征描述几乎一字不差,都是"比较级形容词和副词,常后接than"。这些案例直观地印证了量化结果:弱匹配对应的是语义上说不清道不明的相似,强匹配才算是真正把同一个特征复现了出来。

这就碰到了整篇论文最核心的判断:功能相似,不等于特征可复现

这话听着像一句正确的废话,但它点出了一个长期被忽视的风险。只看重建误差或下游任务指标,很容易误以为自己用更少的数据训练出了一个"差不多"的 SAE。可如果你打算把其中某个特征当作科学研究对象去深挖,去讨论"这个特征代表了模型对某个概念的理解",那就得格外小心——换一批训练数据,这个特征可能根本不复现。

这就像两份简历,工作经历栏写得几乎一样,深入面谈才发现,一个人的"项目管理经验"是真刀真枪带团队打磨出来的,另一个只是挂了个名,实际没参与多少决策。表面信息吻合,不代表内核一致。招聘时若只看简历关键词匹配、不做深入面谈,就可能把后者当前者用,代价要等正式上岗才暴露。

这篇论文想传达的,正是这种"别只看表面指标"的提醒。

写在后面

读完这篇论文,我最大的触动是那个 2.2% 的数字。

一个看起来"功能上没问题"的 SAE,拿去做特征级别的科学分析时,真正站得住脚的特征可能连 3% 都不到。这个数字放到医学检测场景里,大概相当于告诉你"这个化验结果大体正常",可一旦深究到细胞层面,真正符合预期的样本只有百分之二点几,其余绝大多数看着正常,细究起来却经不起推敲。

另一个让我反复琢磨的地方,是"最远点抽样提升 AutoInterp 但损害重建"这个发现。它其实暗示了一个更普遍的道理:任何追求"多样性"的数据策略,本质上都是用牺牲代表性来换覆盖面。这事不只发生在 SAE 训练里,机器学习中的主动学习、数据增强,甚至人类社会里"刻意追求团队多元化",可能都面临类似的取舍——多样性带来视角上的丰富,也会让你偏离真实世界的分布。这篇论文用一个很具体的实验场景,把这个权衡量化了出来。

还有一点论文里没有明说,但我觉得值得多问一句:如果连随机子采样都会让特征复现率大幅下降,那 SAE 训练过程中的随机种子、初始化方式、优化器选择,会不会带来更大的不确定性?论文引用的另一项研究已经发现,同一批数据、不同随机种子训练出的 SAE,学到的特征也会有相当程度的不一致。两个发现摆在一起,是否意味着 SAE 这个工具本身在"特征可复现性"上还有相当长的路要走?

这个问题,论文没有回答,但它把问题问得足够清楚了。

Q&A

Q1:稀疏自编码器SAE的训练数据量是不是越大越好?

A:未必如此。该论文给出的结论是,数据量到5000万token上下,重建效果和多数功能指标就已接近5亿token的参考水平,再往上加数据,收益相当有限;不过落到特征层面,一对一复现率仍会随着数据量增加而继续变好。

Q2:随机抽样和最远点抽样哪个更适合训练SAE?

A:这得看想达成什么目标。若想保住重建效果,同时把虚假相关性剔除、目标探针扰动这类干预指标稳住,随机抽样更合适;最远点抽样则在79%的对比里把自动化可解释性分数拉高了,代价是训练数据会往高范数激活那边偏,重建表现因此受损。

Q3:SAE的功能指标看着不错,特征却未必能复现,原因在哪?

A:编码器和解码器一对一匹配,只能说明双方选中的是同一个参考特征,并不等于这两个特征方向就真的高度接近。论文实验里,匹配一致率可以达到66.6%,可真按严格相似度阈值来算,真正复现的特征仅占2.2%。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 稀疏自编码器要喂多少数据:华盛顿大学与IBM测试给出新答案

    你有没有遇到过这种情况:攒钱买了顶配电脑,结果发现日常用的软件,其实中配机器就能流畅运行,那些多花的钱,买的是心理安慰,而不是真实需求。机器学习圈子里正在发生一件类似的事。训练稀疏自编码器,这个听起来很专业的东西,大家默认的做法是砸几亿到几十亿个数据token进去,越多越好,仿佛数据量就是正义。但华盛顿大学和IB...

    来源 腾讯网
  2. LSHub 发布 P1 与 MAX 工程 AI 终端:覆盖八大专业,两种部署可选

    日前,四川无量枢人工智能科技有限公司(品牌 LSHub)推出 LSHub P1 与 LSHub MAX 两款工程 AI 智能终端,面向建筑工程行业提供 CAD 出图辅助、工程量计算辅助、图纸审查辅助及工程专业知识问答四类应用。 两款产品对应两种部署需求 LSHub P1 为主力产品,形态是巴掌大小的 AI 智能盒子,连

    来源 AI 行业观察
  3. 黎曼猜想167年后被宣称破解:AI与人类数学家同日提交证明

    TechCrunch报道,AI与人类数学家几乎同时宣称解决了悬置167年的黎曼猜想。这一千禧年大奖难题若被证实,将颠覆密码学与数论基础。数学界在震惊之余,正紧急验证两份截然不同的证明。AI在纯数学核心领域的突进,引发对机器创造力与人类直觉边界的激烈辩论。

    来源 AI 科技快讯
  4. 心智永生实验:冷冻、固定与扫描,三条路能否存下“我”?

    从低温冷冻到醛基固定,从连接组图谱到全脑仿真,一批科学家正试图把“自我”从衰亡的肉体中抢救出来。MIT Technology Review 的圆桌讨论聚焦这一古老而激进的问题:我们想保存的究竟是大脑组织,还是那个正在思考的“我”?技术在进步,但结构能否等于体验,仍是横亘在永生梦想前的最深鸿沟。

    来源 AI 科技快讯
  5. 拓竹MakerWorld创作者靠积分赚55万:模型社区为何难复制

    模型社区成了 3D 打印厂商争夺的下一块阵地。 作者丨姚单 编辑丨董子博 2026 年 9 月底,一个 3D 打印模型社区收益榜上排第一的创作者,纯靠赚积分,已经攒下价值约 55 万元人民币的收益。年末是购机和打印高峰,照这个势头,全年冲到 80~90 万元也不成问题。 这不是个例。头部创作者一年收入高达 40 万美金

    来源 AI 行业观察
  6. 起点番茄接连出手,网文平台为何集体对AI文说“不”

    网文界今年发生了多场“AI斩杀”。2月和5月,番茄进行了针对AI低质内容的专项治理; 起点7月全面禁止AI文,8月一口气处理了上百本AI小说,其中有多部万订作品;10月30日,起点和QQ阅读发布公告,称将进一步打击签约作品滥用AI的行为,取消对作品的福利发放。 起点新发布的公告 然而,多轮治理后,读者仍然会抱怨榜单上的

    来源 AI 行业观察
  7. 16岁辍学创业做AI导弹:他把“击杀成本”当卖点

    16岁高中生Henrijs Dandzbergs辍学加入YC,创办AI导弹初创公司,宣称要用新型导弹把美国及其盟友的“击杀成本”降到最低。本文梳理其背景、产品逻辑与争议,并追问:当战争效率被硅谷式指标衡量,创新与伦理边界在哪里?

    来源 AI 科技快讯
  8. 黎曼猜想167年悬案:AI与人类同日宣称各自完成证明

    TechCrunch报道,AI与人类数学家几乎同时宣称解决了悬置167年的黎曼猜想。这一千禧年大奖难题若被证实,将颠覆密码学与数论基础。数学界在震惊之余,正紧急验证两份截然不同的证明。AI在纯数学核心领域的突进,引发对机器创造力与人类直觉边界的激烈辩论。

    来源 AI 行业观察
  9. 企业用 AI 面试我,我能用 AI 回答吗?

    写在前面 在面试时,使用 AI 来回答问题,是对企业和个人来说,都已经是一个已经无法回避的问题。 有 HR 对此深恶痛绝,认为是诚信问题。一个面试官和我说过一个真事,当时线上面试的时候,他们希望候选人分享自己做过的一个项目,结果候选人一不小心投屏的时候把 AI 辅助回答给亮了出来。 本来他们对于候选人的资质非常认可,但

    来源 AI 行业观察
  10. 马斯克深圳谈中美关系与特斯拉FSD,力挺黄仁勋

    埃隆·马斯克(Elon Musk)。图片由AI生成 北京时间11月19日,身在中国深圳的埃隆·马斯克(Elon Musk)谈到了自己对中国的印象。他称赞深圳的城市规模、现代化程度和科技产业活力,建议外界亲自来中国看看,并表示自己对中国抱有敬意。 在谈及中美关系时,他表示,双方保持良好关系、经贸磋商取得积极进展,对两国乃

    来源 AI 行业观察
  11. Shopify Overexposed:代码配了鉴权,服务为何仍暴露公网?

    作者 | Claudio Masolo译者 | 田橙Shopify 推出了 内部扫描工具 Overexposed,用于定位 GKE 上的 Kubernetes Ingress 和 Cloud Run 服务,并检查它们是否能够在没有身份验证的情况下从互联网访问。该工具的第一个版本基于代码仓库中的配置文件,但存在误报和盲区

    来源 腾讯网
  12. 4.3万人点赞“断更抵制AI”:网文平台为何对AI说不

    网文界今年发生了多场“AI斩杀”。2月和5月,番茄进行了针对AI低质内容的专项治理; 起点7月全面禁止AI文,8月一口气处理了上百本AI小说,其中有多部万订作品;10月30日,起点和QQ阅读发布公告,称将进一步打击签约作品滥用AI的行为,取消对作品的福利发放。起点新发布的公告然而,多轮治理后,读者仍然会抱怨榜单上的作品

    来源 腾讯网
向下滚动自动加载更多