WeVisOne-VL开源:单模型如何包揽七项视觉任务?

资讯 AI 应用前沿 全文 3231 字 · 约 9 分钟读完 配图 1 张 分类Qwen3腾讯开源端侧 AI大模型

腾讯微信视觉团队开源了WeVisOne-VL,这是一个基于Qwen3-VL的视觉语言基础模型。它最大的特点是不需要外挂SAM就能直接输出像素级掩码和发丝级抠图,同时支持检测、OCR、指代定位等七种任务。通过960万参数的轻量解码器和强化学习训练,它在拒识能力和精度上表现突出,且提供2B和4B两个开源版本,适合本地部署和

所属频道 大厂动态模型发布AI 硬件与终端开源生态

一个模型包揽七项任务,不必外挂SAM

过去在计算机视觉里,想走完“识别物体”到“把物体抠出来”的整套流程,往往要凑齐好几个模型:检测器先定位,再调SAM(Segment Anything Model)做分割,半透明边缘可能还要专门的抠图模型收尾。这条流水线部署起来麻烦,推理也慢,环节一多,哪里出错都可能让整体结果崩掉。

腾讯微信视觉团队最近开源的WeVisOne-VL想换个做法。它基于Qwen3-VL架构开发,属于视觉-语言基础模型,有2B和4B两个参数量版本。核心思路是用统一的结构化token预测,让单个模型同时承担检测、指代定位、计数、指点、OCR、指代分割和可提示抠图七类任务。

更关键的一点,它自带一个仅960万参数的像素解码器,能直接输出掩码,或给出保留发丝细节的Alpha通道抠图,外挂SAM完全不需要。对开发者来说,维护成本会降下来,推理链路也明显缩短。

它凭什么“拒绝”幻觉

不少多模态模型有个老毛病:图里根本没有用户问的东西,它也要硬编一个答案。比如问“图里有几只猫”,明明没有,它可能非数出两只。WeVisOne-VL对此做了针对性优化。官方数据显示,它在WeRef-Bench基准上的拒识能力达到96.4%,作为对比的Qwen3-VL-8B只有18.3%。

这种提升不是碰巧来的,背后是特殊的训练策略。模型先经历三阶段课程式微调,最后再加一步混合任务强化学习(GRPO)。其间,研究人员专门挑出17.8万个带有不确定性的样本做强化训练,并重点惩罚两类错误:图里没目标却强行框选,以及图里有目标却漏检。

这套“错题本”式的训练,让模型学会在拿不准时回答“不知道”或“没有”,而不是乱猜。内容审核、自动驾驶这类对安全性要求很高的场景,可靠的拒识能力其实比单纯提精度更有价值。

技术拆解:坐标就是Token

WeVisOne-VL的技术思路挺有意思:它把空间信息也变成了语言模型能读懂的“词汇”。

传统做法里,坐标要么是回归出来的连续数值,要么放在后处理步骤单独算。WeVisOne-VL则把坐标离散化成1001个专用token。一个检测框正好占4个token,一个点占2个token。检测框、文字位置、像素掩码,全都用同一套词表表达。

结果由结构化的next-token预测统一生成。要换任务,只改prompt的前缀指令就行。目标不存在时,模型直接输出None。这样一来,多任务学习变得很自然,模型不用为每个任务单独准备头部参数,共享同一套生成逻辑即可。

模型的做法是在Qwen3-VL底座之外挂一个轻量的像素解码器来完成像素级输出。底座预合并之前的四层ViT特征由视觉特征适配器取出,再用深度卷积细化,形成共享特征金字塔。每个<OBJ>token的隐状态与傅里叶编码的框先验一起组成实例查询,再经过6个可变形交叉注意力块迭代细化。最后,实例条件稠密头先用动态卷积核预测掩码,再经粗到细的级联恢复,输出发丝级的全分辨率Alpha抠图。

整个流程不依赖任何外部分割模型,端到端的像素级理解就此实现。

数据引擎:自我改进的闭环

好模型离不开好数据。WeVisOne-VL的训练数据规模很大,累计标注超过1亿张图片,包含约36亿个目标框。数量之外,质量控制的闭环机制更值得看。

团队搭了一个知识图谱驱动的数据引擎。先以类别和指代表达的知识图谱为目标采集数据。然后由SAM3和内部DINO检测器生成候选框,再交给Qwen3-VL交叉验证真伪。接着用SAM2扩展成掩码,并通过BiRefNet与MatAnyone2生成连续的Alpha候选。

这些样本得通过IoU、覆盖率、前景精度等一连串严格检查,才会被接受。部分样本还会人工抽查。更关键的是,模型训练中犯的错误会回流到下一轮筛选,形成自我改进的标注闭环。这种数据飞轮效应,正是模型在30余个基准测试中领先同类模型的关键支撑。

实际应用场景

多功能加上高精度,让WeVisOne-VL在多个场景都有落地潜力。

内容审核与安全检测

微信生态每天产生海量图片和视频内容。靠强大的拒识能力,WeVisOne-VL能精确找出图中的违规物体。如果图里确实没有违规内容,模型会明确返回“无”,误报和漏审都能大幅减少,审核效率随之提升。

电商商品抠图

电商从业者经常要给商品换背景。把商品图交给 WeVisOne-VL,它会直接给出达到发丝级别的 Alpha 抠图结果,白底图或新背景海报都能一键生成。这套流程顶替了原先靠人工修图、或者把多个模型拼起来跑的做法,运营成本随之下降。

文档票据结构化

金融、办公这类场景里,OCR 不能只把字认出来,还得知道每个字落在什么位置。WeVisOne-VL 读发票、合同、表单时,一边提取文字内容,一边标出对应的位置坐标,把这些内容变成带坐标的结构化数据,录单和对账就能自动跑起来。

数据标注与检索增强

开发团队要训练下游模型,可以调用 WeVisOne-VL 的指代定位与分割能力,成批产出带框、带掩码的高质量标注数据。在以文搜图的场景中,它返回的是精确的目标区域,而不是整张图,检索准确率和用户体验都能提升。

机器人与自动驾驶感知

放在端侧设备上,WeVisOne-VL 的 2B 或 4B 版本可以承担环境感知和目标操作。它带拒识机制,能挡住“把空气当障碍物”这类幻觉,让机器人作业和自动驾驶更安全。

如何上手使用

WeVisOne-VL 采用 Apache 2.0 许可协议,代码、权重、工具链全部开放,小团队和个人开发者用起来没什么门槛。

  1. 获取代码先在 GitHub 克隆Tencent/WeVisOne-VL仓库,再按 README 的指引装好依赖环境。
  2. 准备模型:到 Hugging Face 下载 WeVisOne-VL-2B 或 WeVisOne-VL-4B 的权重。选哪个版本,看显存大小和性能需求——4B 版本精度更高,2B 版本推理更快。
  3. 构造任务提示在 prompt 里按具体任务写清需求。比如检测任务可以写“Locate all the instances of ...”,指代定位就描述目标特征,抠图任务则要求输出 alpha。已有的标注信息也能通过<ref>、<box>、<point>这类结构化标签传进去。
  4. 调用推理调用仓库提供的model.predict()接口,把图片和提示一起送进模型。官网演示用的也是这个接口。
  5. 解析输出模型逐 token 生成结果。坐标会从<0>–<1000>的专用 token 还原成归一化坐标。一旦遇到<OBJ>token,像素解码器就被触发,输出掩码或 Alpha 通道。目标不存在时,返回 None。
  6. 后处理应用:把输出的框、掩码或抠图结果映射回原图尺寸,后续的检索、标注、换背景等任务就能直接用。

结语

WeVisOne-VL 的出现,说明视觉语言模型正往“全能型”和“轻量化”两个方向走。它要做的已不只是“看懂”图片,还能直接“操作”图片里的像素。统一的任务框架加上内置的像素解码器,把多模型串联带来的复杂度和延迟问题一并解决。

对开发者来说,这是个值得留意的开源项目。拿它构建新的 AI 应用也好,当作研究多模态大模型的参考案例也好,WeVisOne-VL 都拿出了扎实的技术实践和数据支撑。开源社区继续挖下去,或许还会有更多基于这个模型的有趣应用冒出来。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 百度开源ERNIE-5.5-Flash-Base:280B参数MoE,预训练权重开放

    IT之家 11 月 5 日消息,百度文心大模型今日发布 ERNIE-5.5-Flash-Base,开放 ERNIE 5.5 Flash 预训练终点的权重。这是一个稀疏 MoE 语言模型,总参数 280B,每 token 激活 14B,在 33.5T tokens 上从零完成预训练;最长训练上下文为 128K,微调与推理

    来源 腾讯网
  2. 腾讯 Hy4 正式版亮相:挤进最强开源阵营,主打"真干活"

    腾讯混元 11 月 4 日发布最新一代大模型 Hy4 正式版。比起 8 月底推出的 preview 版,这回不仅显著扩大预训练与后训练规模,还首次引入视觉能力——能结合感知、推理与工具调用,做图像处理、图表分析与数学视觉推理。更难得的是 Hy4 首次支持"电脑操作",可混用命令行与图形界面;腾讯还针对 Blender、

    来源 AI 开发者社区
  3. Hugging Face谈开源AI变现:钱被谁赚走了

    开源大模型正从技术圈的小众实验,变成企业、政府和初创公司共同押注的基础设施。低成本、可控性、灵活性构成了它的吸引力,但当能力越来越容易获得,商业价值究竟落在谁手里?TechCrunch本期节目邀请Hugging Face,围绕价值捕获路径展开讨论,并直面一个更尖锐的问题:面对来势汹汹的中国开源模型,美国玩家还能不能跟上

    来源 AI 科技快讯
  4. 谷歌开源ML Drift:跨平台GPU推理引擎,内存开销低12%

    谷歌发布 ML Drift,一个开源、跨平台的 GPU 计算引擎,专为端侧 AI 和机器学习推理而设计。它采用 Apache 2.0 许可,抽离了不同 GPU 硬件和底层 API 的复杂性,支持 OpenGL ES、OpenCL、Metal 和 WebGPU。 ML Drift 是为 LiteRT 提供动力的核心 GP

    来源 AI 行业观察
  5. Kimi K3.1 Pro权重开放:漏洞利用率降至81%,数据仍待外部核验

    2026年11月4日,月之暗面在HuggingFace发布Kimi K3.1 Pro完整权重(2.8T参数/104B激活,1M上下文)。发布前,公司从训练数据和强化学习环境中移除网络攻击相关内容,据内部测试,漏洞利用成功率从90.5%降至81%。这是中国开源大模型首次公开量化安全自律效果,但这份数据来自未公开的内部基准

    来源 AI 科技快讯
  6. 混元 Hy4 实测:腾讯的产品基因,模型继承了几分?

    11 月 4 日,腾讯混元正式发布新一代大语言模型 Hy4。腾讯表示,随着模型能力全面提升,Hy4 首次跻身最强开源模型梯队。模型权重将于近期开放,同时发布模型 System Card,重点关注网络安全、生物安全等潜在风险,推进负责任的开源。 相比此前的 Hy4 Preview,Hy4 在预训练和后训练阶段进一步扩大了

    来源 AI 行业观察
  7. 腾讯混元Hy4上线:首增视觉理解,TokenHub调用2.5折起

    11月4日,腾讯混元Hy4正式上线,首次引入视觉理解,可操作电脑完成跨应用任务,综合表现跻身最强开源模型之列。Hy4已上线腾讯云TokenHub,每百万Tokens输入最低0.3元。即日起至12月31日,通过TokenHub按量调用享5折;11月18日前通过Token Plan接入享2.5折,全球新老用户同享。

    来源 AI 行业观察
  8. 腾讯混元Hy4发布:模型能动手操作电脑,输入6元/百万Token

    专注AIGC技术的专业社区,关注大语言模型(LLM)的发展和应用落地,聚焦LLM及AI技术的市场研究和开发者生态,欢迎关注!如果让大模型帮忙处理一份资料,它能读懂里面的文字和图表;如果下一步还要打开软件、填写内容、调用工具,过去往往得靠人接手,或者另写一套自动化脚本。腾讯混元 Hy4 这次把“看”和“操作”放进了同..

    来源 腾讯网
  9. 乌镇峰会聚焦开源:AI浓度拉满,116个项目签约超1100亿

    相约乌镇,开源共享!每年十一月初,这个江南水乡都会变成中国互联网最密集的“信息交换中心”。但今年到了现场,满眼都是大模型、智能体、具身智能机器人,AI浓度高到有点恍惚。你是不是会产生一种错觉:这到底是互联网大会,还是AI大会?现在的AI和互联网已经密不可分,我想和大家聊的是:当AI不再只是屏幕里的对话框,互...

    来源 腾讯网
  10. 英伟达RTX Pro 5500订单约600万张,中国AI企业海外算力连遇变数

    11月5日消息,据国外媒体报道,中国科技企业通过采购芯片、海外租赁及云计算服务获取AI算力,近期接连出现供应和合作方面的不确定性。在海外租赁方面,甲骨文已取消与腾讯签订的一项五年期芯片租赁合同,合同估值约70亿美元。此前,中国科技企业获取海外AI算力,主要包括直接采购芯片、在海外租赁芯片以及通过云计算服务商获取算力等方

    来源 TechWeb
  11. Ripple-65B Preview发布:65B稠密模型智能体编程超越更大规模对手

    IT之家 11 月 6 日消息,由前谷歌研究员创立的人工智能实验室 Ricursive Intelligence 当地时间本月 4 日发布了 Ripple-65B Preview,宣称其在美国开放权重模型中拥有最为出色的智能体编程表现。 Ricursive Intelligence 此前的工作专注于 AI 驱动的芯片设

    来源 AI 行业观察
  12. 腾讯AI办公双线落子:WorkBuddy工作台与腾讯网盘能否跑通?

    最近,腾讯在AI应用和商业化探索方面,非常火热。 先是推出的微信“绿泡泡”短剧,一度引发了外界对腾讯时间和字节时间的广泛关注; 接着在最新举行的2026腾讯全球数字生态大会上,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生又在AI办公领域打出了一套组合拳。 其中,有两招尤其引人关注: 一个是推出了Buddy O

    来源 AI 行业观察
  13. 奇富科技开源ModelEvo 2.0:自动建模Agent新增自主搜索与经验复用

    【TechWeb】11月6日消息,尽日,奇富科技正式开源自动建模Agent ModelEvo 2.0。新版本面向结构化与表格数据,在标准化建模流程的基础上,进一步实现自主搜索、可信评估与跨任务经验积累复用。用户明确业务目标、提供建模样本与验证方案后,Agent可在给定预算内分析数据、规划实验并持续优化,对通过确认与交付

    来源 AI 行业观察
  14. 中国具身智能MaaS半年106亿:Token消耗2857.9万亿

    新智元报道 2026年,大模型卖Token这门生意,已经卷到让人看不懂了。谷歌在今年I/O大会上甩出一个数字:每个月处理3200万亿个Token,一年翻了7倍。国内更猛。IDC上周刚发的报告显示,今年上半年中国MaaS市场规模冲到106亿元,同比增长近9倍;Token消耗量2857.9万亿,同比增长超过430%。Tok

    来源 腾讯网
向下滚动自动加载更多