MiniCPM-V 4.7 端侧解码超13 tokens/s:35B总参数,每次仅激活约3B

资讯 腾讯网 作者:超神经HyperAI 全文 651 字 · 约 2 分钟读完 分类MiniCPM-V端侧 AI多模态

作者:许安仪编辑:李宝珠转载请联系本公众号获得授权,并标明来源MiniCPM-V 4.7 是一款采用 MoE 架构的多模态视觉语言模型,总参数量 35B,每个 Token 仅激活约 3B 参数,在控制推理计算开销的同时,支持图像、多图和视频理解等任务。如果说语言模型让 AI 学会了阅读和表达,那么多模态模型则进一步拓展

所属频道 模型发布AI 硬件与终端

语言模型教会 AI 读书写字,多模态模型则把它的感知面铺得更开。图片里的物体要认出来,图表里的数据要读出来,视频里接连发生的事件也要看懂,模型面对的不再只是文字,而是多种信息形式拼在一起,再转成能推理、能作答的内容。


面壁智能和 OpenBMB 社区推出的 MiniCPM-V 4.7,瞄准的正是视觉理解任务。它在视觉理解上支持单图、多图和视频理解,不同类型的视觉输入都能接。



更让人在意的是,总参数量 35B 的模型,未必非得靠大型服务器才跑得动。MiniCPM-V 4.7 做了针对性设计,端侧解码速度达到 13+ tokens/s,每次仅激活约 3B。


HyperAI


在线运行:

https://go.hyper.ai/w8kGy


更多在线教程:

https://hyper.ai/notebooks


demo 页面






先看运行效果。


在 hyper.ai 首页点「教程」,也可以点「查看更多教程」,从中找到「MiniCPM-V 4.7:多模态视觉语言大模型(




进入教程页面后,点右上角的「Clone」,教程就会被克隆到自己的容器里。

该页面右上角可切换语言,眼下有中文和英文两种,下面的步骤以英文界面来演示。



接着选「2 x



资源分配需要等一会儿,状态显示「Running(运行中)」之后,点「Open Workspace」就能进 Jupyter Workspace。







效果展示




等运行结束,点开右侧的 API 地址,就能访问 demo。



本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关 AI 工具

AI 导航
MiniCPM-V 2.6 高性能多模态语言模型,适用于图像和视频理解 大模型与开发平台 · huggingface.co OpenAI最新发布的多模态AI大模型 GPT - 4o是OpenAI最新推出的先进人工智能模型。它具备强大的多模态推理能力,能处理语音、文本和视觉… AI 写作 · openai.com 多模态跨尺度生物医学成像 以亚纳米分辨光电融合技术为代表的多模态高分辨分子成像装置、以毫秒分辨显纳成像为代表的多模态活体细胞成像装置、… 知识管理 · bjmu.edu.cn 深思考Dongni多模态大模型 Dongni多模态大模型搜索引擎通过结合文本、图像等多模态数据,为用户提供了一个功能强大、操作简便的搜索工具 大模型与开发平台 · dongni.ai 达闼RobotGPT多模态大模型 达闼RobotGPT多模态大模型是一个创新的AI工具,它通过整合多模态数据处理能力,为机器人在多样化的应用场… 大模型与开发平台 · dataarobotics.com Wordware Wordware是一个集成开发环境(IDE),其最大亮点在于零代码开发,任何人无需编程知识,通过日常语言就能… AI 写作 · wordware.ai Seko Seko是商汤科技(SenseTime)推出的行业首发创编一体的AI短视频创作Agent。Seko可以根据用… AI 智能体 · sensetime.com 腾讯混元大模型 腾讯混元大模型由腾讯全链路自研,在文本和多模态模型性能方面表现卓越,处于业界领先水平。其混元 API 整合了… 大模型与开发平台 · tencent.com

相关推荐 按相关度与热度排序

全部资讯 →
  1. 腾讯混元发布Hy4 flash:224B参数,单任务成本只有Hy4的1/20

    【环球网科技综合报道】11月16日,腾讯混元发布最新语言模型Hy4 flash。该模型总参数量224B(其中64B Engram参数),激活参数12B,支持多模态和1M上下文长度。腾讯混元称,Hy4 flash是其迄今性价比最高的Hy模型,每百万Token输入0.5元、输出2元,命中缓存时仅需0.02元,价格相比 Hy

    来源 腾讯网
  2. 腾讯Hy4 flash发布,速度大幅提升,单任务成本仅为Hy4二十分之一

    本文来源:时代财经 11月16日,腾讯混元最新语言模型Hy4 flash发布,模型总参数量为224B(其中 64B Engram 参数),激活参数仅为12B,支持多模态和1M上下文长度。Hy4 flash是迄今为止最高性价比的Hy模型:每百万Token输入0.5元、输出2元,命中缓存时仅需0.02元,单任务成本仅为Hy

    来源 腾讯网
  3. 腾讯混元Hy4 flash发布:224B参数,输入每百万Token 0.5元

    今天,腾讯混元发布最新语言模型Hy4 flash。Hy4 flash总参数量为224B(其中64B为Engram参数),激活参数仅为12B,支持多模态和1M上下文长度。Hy4 flash是迄今为止最高性价比的Hy模型,每百万Token输入0.5元、输出2元,命中缓存时仅需0.02元,价格相比Hy4大幅降低。目前,Hy4

    来源 腾讯网
  4. 腾讯发布Hy4 flash:支持1M上下文,激活参数12B

    11月16日,腾讯发布定位于日常办公及智能体任务的Hy4 flash模型。该模型总参数量224B(含64B Engram参数),单次激活参数12B,支持多模态输入和最高1M上下文长度,解码速度超过150 tokens/s。腾讯内部评测显示其综合表现略高于Hy4 preview,WorkIndex测试中平均单任务成本约为

    来源 凤凰科技
  5. KTC发布VMAX智能体主机:整合VMAX GO随行屏,本地运行复合AI负载

    IT之家 11 月 16 日消息,康冠旗下 KTC 近日推出了 VMAX 全感知智能体主机。这一设备在 Windows 迷你主机的基础上整合了云台摄像头、阵列麦克风和 VMAX GO 随行屏。 VMAX 迷你主机本地集成视觉算法、音频算法、对话及会议纪要大模型,配备智能工作台,可本地运行一系列复合型 AI 工作负载,支

    来源 AI 行业观察
  6. Hy4 flash 发布:224B 总参数、12B 激活,API 价格大幅下调

    今天,我们正式推出 Hy4 flash,这是迄今为止最高性价比的 Hy 模型,总参数量为224B(其中64B Engram 参数),激活参数 12B,支持多模态和1M 上下文长度,API价格相比 Hy4 大幅降低。 我们通过一系列工作在极致优化成本的同时兼顾智能水平和实用性: 在预训练阶段,Hy4

    来源 AI 开发者社区
  7. 千万token上下文:98%时间耗在选token,如何再快22倍?

    编辑|Panda如今,百万 token 上下文已经从卖点变成了标配。4 月,DeepSeek-V4 把 1M 上下文定为所有官方服务的默认规格;8 月,智谱发布的 GLM-5.3-Flash 同样支持 1M 上下文,并首次在 GLM 系列中引入稀疏注意力与线性注意力的混合架构。这些模型背后有一个共同的选择:让每个 qu

    来源 腾讯网
  8. 腾讯混元Hy4 flash发布:0.5元/百万Token,计划开源

    新京报贝壳财经讯(记者韦英姿)11月16日,腾讯混元发布最新语言模型Hy4 flash,总参数量224B(含64BEngram参数),激活参数12B,支持多模态与1M上下文长度。定价为每百万Token输入0.5元、输出2元,命中缓存时0.02元,低于Hy4。

    来源 网易科技
  9. 书生-S2.1 Flash开源:科研任务推理成本仅星河十分之一

    近日,上海AI实验室发布并开源书生科学多模态大模型 S2.1 Flash(简称书生-S2.1 Flash)。模型融合实验室近期一系列前沿原创技术,在科学数据理解、复杂科研任务闭环执行能力上实现进阶,且同一任务下其推理成本仅为智能体模型书生·星河的十分之一,让科研工作提质、提速、提效,实现多快好省。

    来源 AI 开发者社区
  10. 芯培森AI4M布局盘点:算力、服务与数据三层握在手中

    2026年10月,AI for Materials(AI4M)接连出现标志性进展:百亿参数材料多模态大模型发布,AI预测材料规模化合成的路径被反复讨论。进展大多落在模型这一层,可模型只回答“哪些材料可能有”,能不能算得动、能不能交得出来,还得看模型之外的三层。从模型、数据与软件,到算力、服务,AI4M已经分出四个层次;

    来源 AI 行业观察
  11. 三星美光海力士内存涨价7倍,法官戳破AI背锅说法

    最近,硬件圈发生了一件魔幻的事。因为新一代DDR5内存条贵得离谱,而老款DDR4和DDR5插槽互不兼容,逼得多家主板厂从年中开始掉头重启了原本停产的DDR4主板产线。更离谱的是,玩家去市场上一问价,发现老旧的DDR4不仅没便宜,近期涨幅一度反超了新款DDR5。今年的笔记本新品们,更是集体退回16GB内存时代。这一年多来

    来源 腾讯网
  12. 黄仁勋辞任后奥尔特曼首度发声:称其为英雄,但英雄也有缺点

    【TechWeb】11月17日消息,在英伟达创始人黄仁勋突然辞任数日后,OpenAI首席执行官萨姆·奥尔特曼打破沉默。他没有选择站队,也没有回避。奥尔特曼的表态:敬意、共情与留白当地时间11月16日,在旧金山Semafor“硅谷与世界”大会上,奥尔特曼用一句“英雄也有缺陷”定义了自己对这位昔日偶像的复杂立场,同时将更重

    来源 腾讯网
  13. Nex-N2.6开源:321B多模态Agent模型如何破解“鬼打墙”循环?

    上海创智学院(Nex-AGI)开源了基于GLM-5.3-Flash后训练的Nex-N2.6模型。该模型拥有约3210亿参数,支持256K上下文,主打电脑操控、编程和长程工具调用。其核心突破在于将推理复读率从16%降至1.6%,并在OSWorld评测中取得83.0分。文章介绍了其技术原理、本地部署方法及与竞品的对比。

    来源 AI 应用前沿
  14. 书生-S2.1 Flash开源:能操控CAD与QGIS的科研智能体

    上海AI实验室开源了书生-S2.1 Flash,这是一个专门针对科学场景的多模态大模型。它不仅能看懂分子结构、光谱和脑电波,还能直接操作3D Slicer、QGIS、CAD等专业软件完成建模和分析。相比之前的版本,它的推理成本降低了90%,在多项通用智能体基准测试中表现优异。文章介绍了其技术原理、实际应用场景以及与竞品

    来源 AI 应用前沿
  15. 英伟达博通到光模块,AI硬件资产预期重估

    导语:从英伟达、博通到光模块、半导体设备,AI硬件资产正在经历一场预期重估。过去两年,全球资本市场最拥挤的交易之一,就是买入AI硬件。英伟达的GPU、博通的定制芯片、台积电的先进制程,以及光模块、服务器、电源和散热设备,几乎构成了AI投资浪潮中最确定的一条受益链。投资者当时的逻辑并不复杂:只要微软、谷歌、亚...

    来源 腾讯网
  16. 想学AI智能体开发?先搞懂感知、决策、记忆、通信、执行这五块

    本文拆解AI智能体开发的核心路径,摒弃晦涩理论,直接切入Python实战。通过“感知-决策-记忆-通信-执行”五步法,结合YOLO目标检测、RAG知识库及MCP协议,以智慧消防为完整案例,展示如何从零基础构建可落地的多模态智能体系统,适合希望快速上手工程开发的开发者参考。

    来源 AI 应用前沿
  17. 华泰证券:端侧AI催化密集,看好需求扩容与电池技术升级

    36氪获悉,华泰证券研报称,端侧AI催化密集,看好需求扩容与电池技术升级。模型能力正由理解、交互向规划与动作执行延伸,带动AI眼镜、无屏穿戴及机器人等硬件打开市场空间。新增终端带来电芯及模组需求,持续感知和动态负载推动电池向高能量密度、高倍率及定制化升级。企业材料研发、精密制造与系统集成能力有望转化为产品附加值,前置参

    来源 AI 行业观察
  18. 阿里腾讯同日发新模型:Qwen4-Max单任务降58%,Hy4 flash仅竞品1/8

    阿里Qwen4-Max基于2.4万亿参数的全新架构,评测中单任务平均费用从26.58元降至11.16元,缓存命中每百万Token低至0.5元;腾讯Hy4 flash激活参数仅12B,评测中单任务成本为DeepSeek同类产品忙时价格的1/8、Hy4的1/20,缓存命中仅需0.02元。 11月16日,阿里和腾讯在同一天各

    来源 AI 行业观察
  19. DeepSeek-V4稀疏注意力:1M上下文提速22倍?

    如今,百万 token 上下文已经从卖点变成了标配。4 月,DeepSeek-V4 把 1M 上下文定为所有官方服务的默认规格;8 月,智谱发布的 GLM-5.3-Flash 同样支持 1M 上下文,并首次在 GLM 系列中引入稀疏注意力与线性注意力的混合架构。这些模型背后有一个共同的选择:让每个 query 不再看遍

    来源 AI 行业观察
  20. 腾讯 Hy4 flash 实测:快速、实惠、聪明,国模进入过日子时代

    作者|Cynthia编辑|郑玄过日子的风,还是吹到了大模型行业。2026 年之前,一款模型能不能刷屏,往往取决于它又做到了什么。GPT-4o 的实时语音交互、Claude 的编程能力、DeepSeek R1 的推理表现,一度轮番成为讨论焦点。一款新模型发布,大家首先关心的是它超过了谁,又做到了什么过去做不到的事。但到了

    来源 腾讯网
  21. 华为云开源具身世界模型CloudRobo-WM1.2,两项评测登顶

    今天,华为云“行业AI梦工厂”发布并开源昇腾原生的具身世界模型CloudRobo-WM1.2,采用共享世界模型骨干网络实现预测增强的世界表征,基于世界模型原生DualAct架构,实现了世界模型原生动作生成,在RoboTwin 2.0、LiberoPro 2.0 评测中均位列第一。

    来源 TechWeb
  22. 华为云开源CloudRobo-WM1.2:具身世界模型登顶两项评测

    今天,华为云“行业AI梦工厂”发布并开源昇腾原生的具身世界模型CloudRobo-WM1.2,采用共享世界模型骨干网络实现预测增强的世界表征,基于世界模型原生DualAct架构,实现了世界模型原生动作生成,在RoboTwin 2.0、LiberoPro 2.0 评测中均位列第一。

    来源 TechWeb
向下滚动自动加载更多