小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事

资讯 网易科技 作者:网易 全文 3421 字 · 约 9 分钟读完 配图 11 张 分类小米开源

sina qqZone renren ydCloud 0

所属频道 大厂动态开源生态

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 1)
智东西

编辑 心缘

10月31日智东西消息,小米昨晚把轻量级文档理解模型Xiaomi-OCR-0开源了出来。这个模型只有0.8B(8亿)参数,文档解析、关键信息抽取、视觉问答三样本事合在一身,多项权威基准上拿到领先成绩。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 2)

取餐码被消息淹没、海报上的时间地点还得手动敲进日历、账单金额和商户信息要一项项摘录——这类小麻烦不少人碰过。说到底,它指向一种新需求:手机除了“看见”屏幕上的内容,能不能也“看懂”这些信息,需要时再把下一步顺手做掉?

Xiaomi-OCR-0就是冲着这件事来的。它体量小,文字、版面、位置和语义理解都兼顾,复杂表格、论文、票据的结构化解析都能处理。小米手机上“超级小爱”的一键识屏,背后对应的正是OCR能力从“文字识别”走向“文档理解”。

综合文档解析的权威基准OmniDocBench v1.6里,它拿到96.83分,在1B以下模型中排第一;五项文档VQA平均分83.2,胜过HunyuanOCR、TokenVL、TextHawk、Qwen3.5-2B、MiniCPM-V-4.5等模型,已经逼近参数更大的Qwen3.5-4B。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 3)

小米这次会完整公开0.8B模型权重和推理代码,另外还给出浏览器交互式Demo、MCP服务以及Agent Skill工具包。

Hugging Face模型权重: https://huggingface.co/xiaomi-research/Xiaomi-OCR-0 GitHub项目代码: https://github.com/xiaomi-research/Xiaomi-OCR-0 Agent一键体验口令:Read and execute https://raw.githubusercontent.com/xiaomi-research/Xiaomi-OCR-0/main/SKILL.md

一、0.8B“三合一”:看懂版面、抽出关键信息、会答题

文档在现实中往往又杂又乱:学术论文中,公式常跨越多行且排得极密;财务研报的表格一层套一层;卡证票据的字段与取值之间还藏着隐含的键值对应。再加上打印、拍摄、屏幕翻拍造成的弯曲形变、透视倾斜、光照阴影以及摩尔纹干扰。只会“认字”远远撑不起一套好用的文档智能系统,它还得能拆结构、抽字段、回答问题。

Xiaomi-OCR-0在0.8B的轻量架构里,把三类能力统一建模:

1、文档解析:识别并还原正文、复杂表格和数学公式,按自然阅读顺序产出结构化结果,原生支持Markdown、LaTeX等格式输出,方便编辑、搭建知识库和检索增强。

2、关键信息抽取(KIE):面向发票、收据、卡证和业务表单这类半结构化文档,按指定字段定位并抽出目标信息,输出JSON等标准结构化数据,对接自动化处理流程。

3、OCR视觉问答(VQA):能围绕文档和图表做跨区域检索、数值计算和语义推理问答,让视觉文本可以交互式理解。

结构解析和语义理解融合起来之后,Xiaomi-OCR-0用轻量参数打通了从底层感知到高层认知的链路。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 4)

二、真实解析基准登顶,0.8B模型匹敌Qwen3.5-4B

只有8亿参数的轻量模型,复杂文档解析和高层语义理解这两道关,它到底扛不扛得住?

真实物理采集条件下,文档常带噪点、弯曲、透视、摩尔纹和反光。Real5-OmniDocBench以OmniDocBench v1.5的1355页多样化文档为基础,用扫描、纸张弯曲、屏幕翻拍、光照变化和倾斜拍摄五种方式造出6775张测试图像。Xiaomi-OCR-0在这个基准上得95.24分,对比模型中排第一。聚焦打印形变、阴影、反光和复杂透视的Wild-OmniDocBench上,它拿到87.94分。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 5)

综合文档解析权威基准OmniDocBench v1.6覆盖学术论文、财务报告、报纸、教材等版式,并加重了复杂嵌套表格和密集数学公式的考察。Xiaomi-OCR-0得96.83分,以约三分之二的参数量(0.8B vs. 1.2B)排在总榜第二,比榜首低0.04分,在1B以下模型里居首。

数学公式识别基准UniMER-Test上它得97.84分,表格结构识别基准PubTabNet上得92.27分。涵盖隶书、草书、行书与楷书的古籍与书法评测集Chronicles-OCR(Mature Scripts)中,模型得73分,和闭源大模型Seed 2.0 Pro的72分在同一水准。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 6)

文档理解这块,Xiaomi-OCR-0在DocVQA、InfoVQA、ChartQA、OCRBench和TextVQA五项主流OCR视觉问答基准上平均83.2分。这个成绩超过了HunyuanOCR-1.5(1B,76.5分)、TokenVL-2B(2B,78.1分)、TextHawk2(7B,78.5分)等专用OCR模型,也超过通用多模态模型Qwen3.5-2B(80.9分)与MiniCPM-V-4.5(8B,82.6分),用仅20%的参数规模逼近Qwen3.5-4B(84.9分)。

三、1.7亿样本打底、三阶段渐进:0.8B模型“先解析后理解”

Xiaomi-OCR-0建在Qwen3.5-0.8B-Base基座上,训练累计用了约1.7亿条高质量OCR与文档理解样本。团队搭了一套闭环演进的数据引擎,从三个方面保证训练数据的信息密度。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 7)

一是异构专家共识机制:正文、表格、公式等不同区域,交给多个异构OCR专家模型交叉校验,再做三元组共识投票(依据1-NED、TEDS、CDM等专项指标),把单模型的偏见滤掉,只留高置信度标注。

二是渲染引导校验:复杂表格和高难度数学公式这块,引入“预测—重渲染—视觉比对”的闭环,把候选解析代码重新渲染成图像,再跟原始文档区域做像素和结构级比对,找出行列错位、符号缺失这类结构缺陷并改正。

三是多因素困难样本挖掘与定向合成:结合版面复杂度、字体形态和物理退化因素,持续找能力短板,定向合成多语种、古籍手写、屏幕摩尔纹及扭曲光照的样本,把长尾分布补齐。

训练分三步渐进推进。第一步是Q-Mask文本锚定,在特征对齐早期把视觉局部区域与文字Token的空间对应关系压得更紧;第二步做OCR持续预训练,用百亿级Token规模的多任务混合训练,让模型具备全页文档解析、细粒度区域识别和视觉问答的综合基座能力;第三步是混合任务强化学习,针对困难样本引入可验证奖励信号,依据结构编辑距离、表格匹配度和问答准确率打分,把复杂版式还原与多步推理的性能上限往上推。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 8)

团队还总结出一条课程学习规律:模型还没打好解析基础时,过早掺入高层理解任务,会稍微分散底层识别的注意力;等解析根基扎实了,再引入OCR视觉理解监督信号,问答和抽取能力上去了,纯文档解析基准也跟着受益,在OmniDocBench v1.6上最多还能多拿+0.64分。四、场景落地:取餐码上岛、账单自动记、航班直接问

0.8B的轻量体量加上解析理解能力,让Xiaomi-OCR-0的相关技术开始进入小米手机和“超级小爱”的高频场景,终端体验也从“被动截屏查找”转向“主动理解服务”。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 9)

即时生活服务这类场景里,外卖取餐码、驿站快递取件码、退货码、景区寄存柜号、餐厅排队号经常被消息淹没。用户不用在App之间来回切:短按AI键、三指上滑,或者对超级小爱说一句“记一下”,系统就能认出屏幕上的核心字段和状态,把有时效的信息提炼“上岛”,要用时一触即达。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 10)

财务管理和卡证办理也一样。在微信、支付宝里翻消费账单详情,按AI键就能自动抽出交易金额、商户名称、支付时间与消费类别,一键智能记账;碰到纸质发票、身份证、银行卡这些材料,拍照或识屏都能完成结构化字段提取。

小米开源Xiaomi-OCR-0:0.8B参数,识屏能看懂再办事(配图 11)

日程规划和出行场景中,群聊里的会议通知、活动海报上的时间地点,系统能读懂上下文并生成日程卡片,一键加进日历;收到“我的航班号是国航 CA824”这样的信息后,直接问“这个航班还有多久到”,系统会结合屏幕上下文提取航班信息,联动查询实时起降动态。

结语:0.8B开源抢生态:文档智能进入“效率战”。小米用0.8B参数把文档解析、信息抽取与视觉问答塞进同一个模型,在真实拍摄、复杂表格等基准上越过自身规模去对标更大的模型,文档智能的竞争焦点也从“堆参数”转向“参数效率+真实场景鲁棒性”。

更关键的一步是权重、推理代码与Agent工具链一起开源。对产业来说,端侧和智能体接入文档理解能力的门槛有望降低,OCR也从单点工具变成可被调用的基础能力,生态卡位的意义大过单次评测排名。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 商汤开源 SenseNova Loop-9B-Preview,宣称媲美 27B 参数大小模型

    IT之家 11 月 1 日消息,商汤科技 10 月 30 日宣布开源商汤日日新 SenseNova Loop-9B-Preview。 官方表示,该模型采用 Looped Transformer 架构,引入循环计算、扩展模型的有效计算深度,并探索更充分的信息交互机制,提升模型在复杂任务上的处理能力,在仅 9B 的有限参数

    来源 AI 行业观察
  2. 百度开源文心 Unlimited OCR 2:文档解析页数上限推向“无限”

    IT之家 10 月 30 日消息,百度 (Baidu) 本月 27 日正式发布并开源文心 Unlimited OCR 2 模型。其将文档解析的上限从数十页推向“无限”,能一次性解析累计超过 3,600 页的《哈利 · 波特》全系列 7 部作品。 Unlimited OCR 2 原生支持版面要素切分识别,具备跨页文案合并

    来源 AI 行业观察
  3. Pika推H3 Flex:六步去噪实现音视频同步生成

    近日,Pika 发布 MiniMax H3 衍生模型 Pika H3 Flex,并开放适配器权重与推理代码。该模型通过六步去噪联合生成画面和声音,支持文本、首尾帧和多模态参考输入,供创作者进行镜头设计、参考生成和视频编辑。

    来源 InfoQ
  4. Mistral 把旗舰甩进开源池:1T 参数的 Large 4 权重免费放出

    10 月 29 日(当地时间),法国 AI 公司 Mistral AI 把旗舰模型 Mistral Large 4(代号 le Chonk)的权重正式开源,让开发者与企业直接拿走、改、微调甚至常规商用。它基于修改版 MIT 许可证:个人、学术、修改、微调及常规商业化全免;唯独想当"卖算力的云厂商"做 MaaS 转售,得

    来源 AI 开发者社区
  5. 谷歌开源EnvHarness:不改智能体,动态调环境提分2.9到3.7个百分点

    谷歌研究人员开源 EnvHarness,这是一个能够根据智能体的短板动态调整智能体训练环境的框架,且无需修改智能体、环境或评估系统。研究人员表示,这种方法既能提高学习效果和效率,又能帮助智能体克服自身缺陷。 研究人员表示,自我进化型智能体通常通过重写提示词和获取新技能来改进自身,但很少会对其运行的环境进行调整。这带来了

    来源 AI 行业观察
  6. 王腾离开小米后首秀:发布ISHO Ring戒指,1799元起

    澎湃新闻记者 范佳来 摄“很多人问我是不是在蹭雷总的流量?但是我真心实意感谢过往的经历,真心感谢小米和雷总。”10月29日晚,在接受澎湃新闻等媒体采访时,前小米中国区市场部总经理、REDMI品牌总经理王腾在北京举行创业后的首场新品发布会,这也是王腾离职小米后首次对外召开发布会,并接受公开媒体采访。据王腾介绍,...

    来源 腾讯网
  7. 万亿参数开源模型Mistral Large4 登场:用更少Token打平顶级性能

    10月30日消息,欧洲人工智能领军企业 Mistral 正式开源了其代号为“Le Chonk”的全新旗舰模型 —— Mistral Large4。作为目前开源权重阵营中体量最为庞大的大模型之一,它拥有高达1万亿参数,并且完全在欧洲本土基础设施上从零开始训练而成,标志着开源大模型在迈向万亿规模与多模态原生融合的道路上取得

    来源 AI 开发者社区
  8. 王腾创业首秀发布睡眠新品,回应是否蹭雷军流量

    10月29日晚,在接受澎湃新闻等媒体采访时,前小米中国区市场部总经理、REDMI品牌总经理王腾在北京举行创业后的首场新品发布会,这也是王腾离职小米后首次对外召开发布会,并接受公开媒体采访。 据王腾介绍,他创…

    来源 搜狐科技
  9. Jev联手Treg推出找人工具:单条线索成本0.0089美元,比Clay低85%

    TypeSafe AI与Agent平台Treg合作,开源了一款基于Jev决策模型的找人工具。该工具通过Agent理解需求、Jev筛选候选人、Treg调用数据源的分工模式,将单条线索成本降至0.0089美元。实测显示其价格仅为竞品Clay的15%,且在B2B拓客等场景下显著提升了Agent的任务准确率。尽管存在部分搜索盲

    来源 AI 应用前沿
  10. 品胜AI专利附图工具开源上线,00后团队主导,创始人称开源才是护城河

    最近在开源社区GitHub上,一款AI专利附图工具开源上线了,出人意料的是,该AI产品来自一家做了多年充电宝、充电器的硬件公司——品胜。在这一专利附图工具开发出来后,品胜创始人赵国成原本考虑过商业化,但旗下AI产品的负责人丛泽龙却认为,与其先考虑怎么收费,不如把工具开放出去,让更多企业能在自己的环境里使用,也让...

    来源 腾讯网
  11. DeepSeek开源Super-agent:AI自主修Bug,跨平台并行处理任务

    DeepSeek公开了Personal Agent的底层架构思路Super-agent。这套系统能让AI在没人指令的情况下,主动发现代码Bug并提交修复PR。它通过双层架构实现跨IM和GitHub的上下文连续,支持24小时在线和异常自愈。实测显示,其在多任务环境下的完成时间中位数为12.4分钟,优于传统单会话方案。文章

    来源 AI 应用前沿
  12. OXR以1.3B参数登顶三大文档解析榜,RSI技术成关键

    国产开源模型OXR凭借1.3B参数量在OmniDocBench等三大权威榜单登顶。其核心在于引入递归自我改进(RSI)训练范式,无需大量人工标注即可实现高精度文档解析。该模型支持表格、公式及化学结构式识别,单卡解析百页文档仅需101秒,并提供免费API及可插拔架构,显著降低了高质量文档数据获取门槛。

    来源 AI 应用前沿
  13. MiniMax H3再添开源工具:英伟达MIT团队放出2K/4K视频增强方案

    近日,由英伟达与麻省理工学院研究人员组成的 Efficient-Large-Model 团队,在 Hugging Face 发布视频增强项目 Open-H3-Regenerate-2K 的模型权重,配套推理代码已在 NVlabs/Sana 仓库开放。该方案基于 MiniMax H3,将低分辨率视频草稿重新生成为高分辨率

    来源 AI 行业观察
  14. 王腾创办今日宜休:AI睡眠赛道,戒指1799元、温控系统9999元

    人的一生,约有三分之一的时间在睡眠中度过。但在快节奏的现代生活中,一个好的睡眠质量对很多人来说成了一种“奢侈”。当睡眠从一种生理需求逐渐演变为一种“稀缺资源”,围绕睡眠产生的消费市场也随之升温。手环、戒指、智能床等被资本追捧,行业入局者逐渐增多,越来越多的企业开始试图用技术解决睡眠问题。数据指出,全...

    来源 腾讯网
向下滚动自动加载更多