百度开源Unlimited OCR 2：5亿激活参数拿下两大基准第一
sina qqZone renren ydCloud 0
新智元报道
百度那款被LeCun转发推荐过、下载量冲到1,000万的开源作品，如今又回来了。
距离上一版过去4个月，百度今日把新一代文档解析模型文心Unlimited OCR 2正式开源。模型依旧走轻量路线，总参数3B，单次推理实际激活只有500M（5亿）。
激活规模只有5亿，却把两个权威基准的头名一并收下：百页级长文档基准MarathonDocBench（103–300页）得分77.06，排在首位；多页跨页基准MPDocBench得分84.59，同样登顶。
分数之外，直接看demo更直观。测试者把《哈利·波特》七部曲从「魔法石」到「死亡圣器」共3600多页PDF一次性喂给Unlimited OCR 2，点下开始后，右上角页码一路飞涨。
整批跑完掐表一算，耗时1小时30分，平均每页约1.5秒。3623页、3000多次翻页，全程没有出现一次「断片」。
上一代模型的页数上限还停在40多页，短短120天，百度把这个限制直接抹掉了。上千页的《三体》全集、五千多页的《四大名著》合订本，都不必再切分章节，一次上传就能从第1页读到最后一页。
读到第5,000页时，翻页速度和第3页几乎没差别。单序列KV显存则被砍掉96.2%，一张普通游戏显卡足以跑完全程。眼下模型与相关权重已在GitHub和HuggingFace全面开源。
GitHub：https://github.com/baidu/Unlimited-OCR
HuggingFace：https://huggingface.co/baidu/Unlimited-OCR-2
无限页这道禁区是怎么被捅破的？三道魔鬼关卡，最后一页验货。
3600多页的《哈利·波特》都没摸到它的底，Unlimited OCR 2究竟能扛多深？测试方挑了三个最容易让大模型翻车的极限场景，逐页核对。
第一关测耐力极限：5026页《四大名著》一镜到底，看它能否一口气扛住整本书，同时扒出「跨页脑回路」。
测试者把《三国演义》《水浒传》《西游记》《红楼梦》拼成一份5026页的巨无霸PDF，不分册、不切章，整本直接塞进去。
五千多页一路跑到底，既没卡壳，也没复读。
后半程会不会偷工减料？我们把进度条直接拖到最后一页，第5026页，实地查货。
翻到那里，右侧输出停在《红楼梦》第一百二十回收尾的那首偈语上——「說到辛酸處，荒唐愈可悲。由來同一夢，休笑世人痴！」
测到这个份上，熟悉这套模型的人难免犯嘀咕：《四大名著》它早就背得滚瓜烂熟，会不会是瞄着前文凭记忆「脑补」出来的？要弄清它究竟在「真看图」还是「瞎背书」，我们特意做了一份240页、17.3万字的小说长卷。
长卷第2页到第237页之间，我们划出8个深度区间，分批埋了32个陷阱。第2页上，「叶文洁」被悄悄改成一字之差的「叶文清」，同一页还留着正常的「叶文洁」打掩护；到了第237页深处，《魔法史》的第742页又被暗中换成第724页。
换成平时爱「自作聪明」的通用大模型，碰上这种形近字和熟书页码，早就顺手照原著给你「纠正」回去了。Unlimited OCR 2跑完一查，第2页真假混排的「叶文清」与「叶文洁」，加上第237页深处的「第724页」，全部按纸面原样精准揪出，一个字没动。
背书脑补的嫌疑排除了，它跨页接句又凭什么这么准？我们想探探它的跨页判断逻辑，就在《三体》红岸基地「不要回答！」的跨页处横插一整张1200MHz脉冲波形图，文段里再埋6串随机防伪校验码。
跑下来的结果：6串随机校验码一字不差全部命中，第1页末尾那半截话也越过脉冲波形图，跟第2页图下方的文字严丝合缝拼回了同一段。
还有意外收获。对比不同排版后，它跨页接句的「隐藏脑回路」露了出来：上一页最后一行右侧留着空白，模型就严格尊重版式，判为段落结束；反过来，只有最后一行像真实印刷书籍那样两端对齐撑满右边界、语义又没说完，它才会果断触发跨页缝合。
第二关，专治「财报与合同刺客」，300页账本925万精确到分
五千页纯文字它照样扛住了。第二关我们换了个更狠的靶子：跨页大表和数字陷阱，这两样最容易让财务、法务和审计抓狂。翻过招股书或合同的人都清楚，表格一跨页，串行错列几乎躲不掉，每页重复的表头还得靠人一条条删，删到眼花；几百页流水里要是再埋着几笔正负号冲销，盯上十分钟眼睛就花了。
针对这个痛点，我们直接生成一份300页、3000笔流水的酒店经营总账，并在里面暗掺176笔负数冲销，整本塞进去对账！
300页大账本一气呵成全部吐完，各页重复表头被自动剥除合拢。紧接着我们写脚本逐条拉网核对，3000条记录0漏项、0重复，9,000个数字字段与176笔负数冲销没有一格串列！
随后把识别出来的3000笔金额逐笔取出、重新加总，得到的总净额是9,258,968.05元。拿回原始账本一对，精确到分，没有任何出入。
第三关，15页英文报告「自己读自己」，三栏折页全通关
长文不脑补、账表不串行，最后一关再来测测版面最刁钻的学术论文、竖排古籍与多栏折页。
先看第一份样本：百度今天刚放出的15页单栏英文技术报告，我们直接让它读自己。
整篇报告里最难处理的那处排版，卡在第7页到第8页的交界处。
第7页右下角有句英文说到一半，第8页顶部却压着占满半页的Figure 4架构图，配6行图注，真正的后半句被挤到大图正下方。
碰到这种图文把句子拦腰截断的情况，Unlimited OCR 2先单独提取出那半页大图和图注，随后视线跳过整张大图，把上下两半英文原样拼回同一句话。
论文里大片的门控注意力公式和算法伪代码，也被它当场转成能直接编译的LaTeX源码。
接下来是一道版面极复杂的双页非对称三栏折页，两页纸里塞进了深色反白侧栏、多张图表、跨页续表，还有底部6.8磅的小字脚注。
版面乱成这样，输出的左栏、中栏、侧栏阅读顺序照样清楚，60个表格单元格、行内公式和4条小字脚注，全部和原件一一对应。
百万上下文的大模型
为什么一读百页PDF就集体「失忆」？
三关实测之后，一个挺扎心的问题冒了出来：通用大模型如今动辄1M上下文，怎么读起百页级PDF反倒集体不行？
百页基准MarathonDocBench的成绩单能直接说明问题，文心Unlimited OCR 2以5亿激活参数拿到77.06分，比第二名的33.74分高出2.3倍以上。
同台比拼的Gemini-3.1-Pro则掉到26.97分，还有通用旗舰读到第223页时直接崩盘中断。
窗口都这么大了，为什么还会崩？问题就出在海量的「视觉token」上。
PDF每翻一页就炸出上千个视觉token，标准全注意力下，模型每往下写一个字，前面所有页面的视觉token都得重算一遍。
好比抄书抄到第200页，每写一个字都要把前199页原书从头翻一遍。
代价跟着就来：文档从2页加到100页，单步解码延迟会从3毫秒涨到27毫秒；几百页无关像素涌进来，模型到后半程也彻底「走神」。
把人类「抄书匠」的直觉
写进SR-SWA稀疏注意力
「全页重算」既然走不通，那人类抄书匠平时是怎么干的？
人抄几千页的大部头，95%以上的时间只盯手头这一页；只有抄到翻页处，或者要核对前文的图表、人名，才会精准往回翻一眼。
说白了，单页内的信息高度聚合，跨页的视觉关联却极其稀疏。
顺着这个最朴素的直觉，百度团队拿出了第二代杀手锏——稀疏参考滑动窗口注意力（SR-SWA）。
先圈范围，再挑重点
拿3623页的《哈利·波特》第七部「哈利与伏地魔最终决战」来说，SR-SWA只用了两步就把计算量按住。
具体怎么跑？模型读到决战某一行时，先由Page Gate（页面门控）出面圈定范围，视野从数千页缩到少数候选页；接着Token Sieve（Token筛子）在候选页里实时打分挑重点，只把「闪电形伤疤」「魂器」这类最相关的几个视觉块送进计算，剩下无关像素一概略过。
这套筛选器跟靠「蒸馏模仿」的稀疏方案不一样，它的路由打分直接参与前向计算，OCR转录梯度能端到端回传。换句话说，该翻哪一页、该抓哪一块，都是模型在抄书实战里练出的本能。喂10页还是5000页，每步计算涉及的视觉信息量都被压在固定常数上。
单步算力锁死成常数之后，团队又配了一套「无限解码机制」（Unlimited-Horizon Decoding），把显存墙一并拆掉。
它的跑法像一场无缝交接的接力：超长文档按窗口依次推进，相邻窗口间只保留一页「交接页（Boundary Page）」直接复用KV缓存，翻页处的断句和续表因此不断流。当前窗口一转录完，历史窗口的缓存马上从显存里物理释放，边读边扔，负担始终很轻。
这两项设计把长文档推理的硬件门槛压到了地板上。在百页级测试集上，带来三项核心提升——
单序列峰值KV显存大降96.2%，从标准解码的47.00GB压到1.77GB，普通显卡就能跑通；
16路并发吞吐提升3.65倍，每秒吞吐量从360TPS升到1,315 TPS；
百页单步解码提速7.0倍，比标准全注意力快7.0倍，比一代R-SWA快5.6倍。
文档拉长到300页时，通用旗舰模型准确率明显下滑、延迟陡峭上升；文心Unlimited OCR 2的准确率则保持平稳，解码延迟也压在低位。
「此身为OCR所成」——「无限剑制」撞开OCR 3.0大门
技术报告第一页，引言最开头印着一段让极客会心一笑的「咏唱」——
Pixels are my body, and tokens are my blood.（像素为身，而Token为血。）
I have parsed over a thousand pages.（我已阅尽千余页文档。）
Unknown to KV cache , Nor known to context limits.（不为KV Cache所限，不为上下文长度所缚。）
So, as I pray: Unlimited OCR Works.（故而，我在此祈愿：Unlimited OCR Works。）
老二次元和极客一眼就能认出，这是在致敬《Fate/stay night》里经典的固有结界咏唱「无限剑制（Unlimited Blade Works）」。
第一代模型开源时，开发者Snarcy就在HuggingFace评论区看穿了这个命名巧思，随手把台词改成了OCR版本。
百度团队看到后如获至宝，一直珍藏到现在。2.0技术报告发布时，这段话被直接印在引言第一行，还郑重署上了这位网友的ID。
这个「Unlimited」，也正是文档解析迈入OCR3.0时代的标志。
闭源大模型解析PDF动辄几百万Token的账单，让AI圈不少人直呼肉疼。百度这枚激活参数5亿的小模型，偏偏把长文档解析的上限推到了「不设上限」。
初代论文的结尾其实留过一句展望：模型要是能学会自动翻页，OCR就不只是认一页字，而是读懂一整本书。
几百页的招股书、上千页的工程标书、五千页的传世长卷，如今都不用切碎再喂给机器。那句展望，已经照进现实。
