无界方舟Edge0-145B实测:端侧模型编程能力比肩云端

资讯 品玩 全文 6149 字 · 约 16 分钟读完 配图 5 张 分类端侧 AI

千亿模型装进电脑,端侧不再做平替。

所属频道 AI 硬件与终端

端侧 AI 在很长一段时间里,都像是云端智能打了折扣的版本。

要装进耳机、手机、电脑,模型就得在能力和资源间权衡:参数压小,占用降下来,聪明程度也跟着降,能做的事自然变少。功耗、内存、时延,谈端侧 AI 总绕不开这几项。于是形成了一种常见分工:简单的日常交互放本地,复杂任务交给云端。

可那个最让人心动的设想——数据全留在本地、模型随便调用、每轮推理不用付费——一直没能兑现。

无界方舟眼下正试图改写这一局面,拿出了新的破题思路,并自称「高智力端侧AI的开创者」。

其最新推出的 Edge0-145B,定位已不是给云端「打配合」,而是冲着替代云端大模型去的。

11 月 13 日,无界方舟发布新一代模型 Edge0-145B、Edge0-120B,同时开放模型权重与配套推理框架。145B 的模型激活参数约 10B,目标是在一台高配个人电脑上,干完过去要靠云端模型才能完成的复杂工作。

从无界方舟公布的评测数据看,起码在智能体编程这一项上,Edge0-145B 已经和云端模型平起平坐。

在 DeepSWE 1.1 上,Edge0-145B 拿到 64.6 分,Terminal-Bench 2.1 上拿到 86.5 分,两项都高于 DeepSeek-V4-Flash-0731 的 54.4 和 82.7。

无界方舟Edge0-145B实测:端侧模型编程能力比肩云端(配图 1)

官方放出的测试案例也印证了这一点。三维建模、游戏开发、PCB 设计、无人机程序、视频制作……这些都是以往云端大模型评测中的常见任务。

拿一个 3D 建模任务来说,无界方舟把同一份需求同时交给三个 AI:GPT-6 Astra、Claude Opus 4.8,以及自家的 Edge0-145B。提示词一样、参考图一样、镜头路线也一样,各自搭一座中世纪湖畔城堡,再交出一段飞越镜头。

看结果,三者完成度相差不大,肉眼很难分出高下。这个任务上,端侧模型并没有落后。

另一个 PCB 设计任务,则把话题推进到专业工作层面。模型得同时弄懂两类软件:先在 KiCad 里做完元件布局和双层走线,再把设计导入虚幻引擎 5,调好镜头和灯光,产出制造与组装过程的动画。

放在过去,这要硬件工程师和三维设计师接力干上好几天;如今一台电脑就能独立交付。原理图、版图这些硬件企业最核心的资产,全程不用上传云端,商业机密和数据合规都有了保障。

端侧模型比了这么多年「能不能跑」,现在开始比「聪不聪明」了。

今年 9 月,无界方舟已开源 Edge0-35B,这是全球首个能在手机上流畅运行的 350 亿参数端侧模型。峰值内存不到 2.5GB,在 iPhone 18 上生成速度超过 37 token/s。海外发布帖当天阅读量突破 120 万,OpenAI、NVIDIA、高通等公司的多位技术专家和研究员参与转发,模型随即登上 Hugging Face 全站 Trending 榜第一。无界方舟当时一并开源了模型权重和统一推理框架,这套做法成了其他端侧企业和研究机构复刻时的标准解法。

35B 百亿参数的端侧模型,意味着高智力端侧 AI 头一回从理论走进产业落地;145B、120B 千亿参数端侧大模型,则意味着端侧智力水平头一回能比肩云端模型。

我们也上手实测了一番。

实测:端侧 Edge0-145B 模型,确实抗打

端侧模型过去做取舍,现实理由很充分。

手机内存要分给系统、相机、浏览器和各类应用;耳机还得顾及电池、体积和散热。模型跑得起来只是第一步,它还得响应快、不发烫、不抢资源。

以往把模型做小、把复杂需求交给云端,就是这些约束下没办法的选择。

可这也堵住了端侧 AI 成为真正生产力的路,没法用到真实工作里。

编程助手要读项目、改代码、跑程序、看报错,再接着改;三维助手要理解需求、操作软件、检查渲染;办公助手要按主题做出一份能直接用的 PPT。这些活值钱的地方不在某一步推理,而在从头到尾做完、交出可用的结果。

端侧如果只能接住最轻的一小段,主要工作还是得送回云端。

成本是头一个受影响的环节。靠云端API的产品,推理费得一直掏;任务一复杂,工具调用、错误修复、反复修改把链路拉长,账单也跟着往上走。把更多计算留在用户设备上,云端支出就能压下来。拿一名做Vibe Coding的开发者来说,每天8小时大约消耗1,000万token,按每月22个工作日算,一年能省5-10万元。B端企业那边,云端token成本每年从数百万到几十亿不等,端侧AI可以把成本砍掉90%以上。

数据隐私排在第二。模型一旦开始读内部代码、工程图纸、合同和财报,资料在哪儿处理、哪些服务能碰,直接决定产品进不进得了工作流程。端侧AI的办法是让更多处理发生在设备里,隐私合规的要求也就满足了。

不过,要把这两项优势带进更复杂的工作,本地模型就得在有限的硬件资源下拿出更高的智能。

Edge0-145B的亮点正在这里。

设备门槛上,Edge0-145B最低能在配12GB显存、20GB系统内存的PC上跑,配备48GB统一内存的Mac也支持。

功耗方面,在搭载RTX Spark的笔记本电脑上运行Edge0-145B,整机功耗为80W。对于要连续调用工具、反复修改的任务,这意味着设备能一直维持工作状态,不会出现模型开头跑得顺、后面因发热明显降速的情况。

速度上,Edge0-145B的预填充速度为1,100+ token/s,解码速度为80+ token/s。前者是处理输入材料的速度,后者是生成新内容的速度,两段都够快,多轮任务才不至于把大量时间花在等待上。

另外,Edge0-145B支持128K–256K上下文,长文本下速度基本不衰减,跑长时间的复杂任务也不会越跑越慢。

它的智能表现,我们通过三个案例做了实测,全程没有手动改代码或交付文件,都由模型自己推进。

测试一:3D 建模

请帮我在 Blender 里做一座微缩的未来城市,场景是雨后黄昏,看起来要像摆在桌面上的精致模型。整座城市放在方形底座上,大约 12 栋建筑高矮错落,还要有一条高架轨道从城中穿过,配一个小公园和几辆车。楼体的窗户透出暖光,局部点缀青蓝色霓虹,地面要带雨后的反光。风格走有设计感的低多边形,建筑的轮廓和街区之间的位置关系得清楚。建模、材质、灯光、相机都由你安排。先渲一版看效果,再照着结果调一轮,重点看建筑有没有互相穿插、画面是不是太暗、主体有没有被挡住。最后给我能继续编辑的 .blend 文件,外加两张渲染图:一张城市全景,一张街区近景。

模型按提示词把流程跑完了,初次建模与渲染之后,又接着做了检查和调整,最终交回一份可编辑的.blend文件。用户打开后能改布局、改材质、换镜头,接着往下创作。

无界方舟Edge0-145B实测:端侧模型编程能力比肩云端(配图 2)

测试二:游戏制作

提示词:Make a 3D game with Three.js in a single index.html I can open in my browser.Use the arrow keys to roll a ball across a floating obstacle course. Collect gems for points, cross narrow bridges and ramps, and avoid moving blocks. Press Space to jump. Falling off returns the ball to the last checkpoint without losing points.Use colorful scenery, soft lighting, responsive controls, and a smooth follow camera. Each round lasts 60 seconds. Show the score and timer, and include a start screen, final score screen, and restart button.Build all objects procedurally. Run and test the game, fixing any issues before delivering the file.

第二个任务是用Three.js做一个3D游戏:方向键控制小球滚过悬浮赛道,一路收集宝石,跨过窄桥和坡道,躲开移动的方块,跳跃、检查点、计时、重新开始这些也都要有。

它交回了一个index.html,浏览器打开就能流畅地玩。地形、宝石、桥和移动方块全由程序生成,没有用现成的场景素材。

测试三:PPT 制作

请做一套 6 页的中文 PPT,主题是“一家开到深夜的社区书店咖啡馆”,用途是向潜在合伙人介绍这个项目。页面上要覆盖项目概念、目标顾客、空间与体验、产品与活动、收入来源、开业计划这几块内容。项目名字你自己定,资料我已经发你了。视觉上要有独立杂志那种质感,主色用奶油白和深绿色,再点缀一点暖橙色,配合大标题、空间示意图和适量的图片。每页得有明确的视觉重点,文字别堆太多,版式也不要连着几页一个样。PPT 直接做完交给我,给可编辑的 .pptx 文件和整套页面的预览图。做完之后查一遍文字有没有溢出、元素有没有重叠、图片显示是否正常。
无界方舟Edge0-145B实测:端侧模型编程能力比肩云端(配图 3)

第三个任务离日常办公更近。这个过程里,模型还做了大量细节检查,照着我们给的资料逐项修正,最后输出的结果基本没有错漏。

为了让硬件带得动,他们重构了模型

无界方舟选的是提高端侧智能这条路,但硬件约束不会消失。目前的效果,来自他们把硬件约束提前纳进了模型结构与训练设计。

整体上,模型架构的调整可以从四步设计来理解。

头一步是动专家层,把需要存下来、搬来搬去的权重压下去。

混合专家模型每处理一个 token,只挑少数专家参与运算。可算得少,不代表存得少。没被选中的专家,参数照样得留在设备上,要用了还得及时读出来。

Edge0-145B 再往前走一步,用了分组共享的做法。64 个专家共用两段大矩阵,各自只留一点有差异的专家参数。专家个数没减,需要分开存的权重却少了。

稀疏调用让每一步参与计算的专家变少,共享结构让专家各自要存、要搬的数据变少。两边各管一段,合起来把设备的运行负担降了下来。

第二步,是让模型适应新结构和低精度条件。

再往下,权重还能以更低的精度存放,每个参数占的地儿更小。可结构一动、精度一降,模型本事就容易掉。

公开模型卡显示,无界方舟改完专家层后做了较长时间的后训练,训练时就把 4 比特运行条件考虑进去,让模型适应部署时的结构和精度,接着学编程、推理、调工具。

这一步要守住的,是省了资源之后的任务能力。模型占得再少,要是老出错、用户得不停接手,复杂活儿还是交不出去。

第三步,让显存、系统内存和 SSD 各管一摊。

结构和精度调完,整个模型还是不小。接下来要定的是:哪些数据放在最快的地方,哪些可以要用再读。

显存快,可容量有限。公开方案里,调用频繁的“热专家”尽量常驻显存,剩下的专家交给系统内存;体积大的 PLE 嵌入表放在 SSD 上,按需读取。嵌入表可以粗略理解成模型用的一类大型查表数据。

这些数据照样占地方,但不用全挤进显存。显存、系统内存、SSD 各扛一部分,设备才有可能装下完整模型。

第四步,把读取和计算排得更紧凑。

分开存放解决了容量怎么分,也带出新麻烦:等。每一步都先把数据搬过来再算,生成速度还是被传输拖着。

在 NVIDIA 显卡的部署方案里,配套引擎让 GPU 算已经驻留显存的专家,CPU 分担一部分没驻留的专家计算,同时协调数据传输,让各部分尽量并行,少互相干等。

另一边,投机解码先抛出多个候选 token,再交主模型验证。一轮验证要是能接下多个候选,部分读取和计算开销就摊到了更多输出上。

这样一来,前面在结构、精度、存储上做的调整,才能一步步变成用户能感觉到的生成速度。

端侧原生的意思就在这里:模型怎么组织参数、以什么精度跑、参数怎么读,都得围着硬件设备的条件来定。

让每种硬件都拥有自己的最佳智能

Edge0-145B 亮出了无界方舟一路抬高端侧智能上限的方向。不过要看明白这家公司的路线,眼光还得从个人电脑挪到更多设备上。

手机、电脑、眼镜、耳机,硬件配置条件各不相同,需求也不一样。电脑内存更大、散热空间更足,能扛编程、三维创作这类 Vibe Coding 工作;耳机、眼镜更在意低功耗和及时响应;手机则要兼顾复杂智能体任务和其他应用。

要把端侧智能提上去,就得给这些差异分别配上合适的模型和运行方式。

过去一年,无界方舟已经搭起四个模型家族:Audio8 管听说交互,Decision0 管快速决策,Edge0 扛复杂推理和智能体任务,Embedding0 支撑记忆与检索,参数规模从千万级一路铺到千亿级。

无界方舟Edge0-145B实测:端侧模型编程能力比肩云端(配图 4)

装进不同设备,组合也不一样。耳机讲的是“听得清、回得快”,可以配上管听说交互的 Audio8 和管快速决策的 Decision0;手机和个人电脑要更复杂的任务能力,就由不同规模的 Edge0 来接——35B 面向手机等设备,120B、145B 则进一步承担电脑上的项目理解、软件调用和连续排错。

说白了,这条路线的想法很直接:设备能扛住多少资源,就把智能做到多高,让它在自己的地盘上把更复杂的活干完。所以除了模型本身,推理框架和芯片适配同样是硬骨头。

同一套模型换到不同硬件上,算力、带宽、精度支持、散热都要重新捋一遍,还得跟系统里别的软件抢资源。Edge0 家族眼下已经适配了 95% 的主流芯片平台,高通、恒玄、瑞芯微、全志、地瓜、英伟达都在名单里;产业合作则铺到了耳机、眼镜、手机、PC、机器人等终端。

每适配一颗新芯片、每部署一个模型、每落地一款产品,都会攒下能复用的经验。下次再进新硬件,判断就能快一些——这款产品扛得住什么任务,模型和引擎还要往哪儿调。整个过程一直在迭代。

如今,这个迭代过程已经转成了飞轮。

数据能说明问题:无界方舟的开源模型三个月下载量超过 1500 万次,多次登上 Hugging Face 趋势总榜第一;到 2026 年 10 月,企业客户已突破 11 万家。

开发者能把模型搬进自己的环境,看它跟现有软件怎么配合,不同配置下的表现也有机会被外部检验。

商业落地要回答的问题更具体:端侧到底接住了多少需求?无界方舟披露的一项耳机端云协同案例里,约 92% 的 AI 使用由端侧承担,剩下的交给云端。

新发布的 Edge0-145B 把目光进一步投向个人电脑。端侧 AI 的下半场,大概率会出现在那些用户过去必须为云端智能掏钱的工作里。

无界方舟已经拉开了高智力端侧 AI 的序幕。

想体验无界方舟端侧模型,可点击链接

https://www.autoarkai.com/model-detail/llm-145b

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 无界方舟Edge0-145B实测:端侧智能体编程比肩云端

    作者|黄小艺微信|H997Hbiu很长一段时间里,端侧 AI 都像是云端智能的妥协版。为了塞进耳机、手机和电脑,模型只能在能力和资源之间做取舍:参数小一点,占用少一点,模型笨一点,能干的活也跟着少一点。谈起端侧 AI,功耗、内存、时延总是绕不过去。于是有了一个常见的分工:日常简短交互留在本地,复杂任务还得上云。“...

    来源 腾讯网
  2. 苹果自研AI智能体曝光:让它替你操作Mac

    TechCrunch报道称,苹果似乎正在开发可在Mac上自主执行任务的AI智能体,直接对标Meta Muse、Instinct、Claude与OpenAI Dots等产品。这标志着苹果的AI战略正从Siri式的语音助手,转向能够理解目标、拆解步骤并操作用户界面的“行动型AI”。凭借软硬件一体化与端侧算力优势,苹果有机会

    来源 AI 行业观察
  3. OpenAI 首款 AI 硬件传年底启动出货:立讯精密等中国供应链厂商深度参与

    人工智能正从软件模型加速向消费级终端硬件延伸。供应链消息称,OpenAI首款AI端侧硬件有望今年年底启动出货,立讯精密等多家中国供应链厂商已参与。其中,立讯精密独家负责整机组装并供应核心件,凸显中国制造在硬件制造与供应链中的关键角色。多家中国厂商已切入该产品生产。

    来源 AI 产业速递
  4. HarmonyOS 6上搭多Agent仓储调度:智链仓枢实战拆解

    本文介绍基于HarmonyOS 6(API 23)开发的「智链仓枢」系统。通过HMAF框架实现调度、路径、库存等多Agent协同,利用悬浮导航和沉浸光感优化PC端交互体验,结合端侧LLM推理与分布式软总线,解决异构设备协议不统一及实时调度延迟问题,展示了一套完整的云-边-端协同仓储解决方案。

    来源 AI 应用前沿
  5. 最高50亿元!长鑫科技大幅上调回购金额

    长鑫科技将股份回购金额大幅上调至25亿至50亿元,回购价不超63.78元/股,用于注销、员工激励及维护股东权益。业绩方面,受益于DRAM供不应求与端侧AI需求拉动,公司预计四季度供应紧缺延续且毛利率保持稳定。

    来源 华尔街见闻
  6. DeepSeek刚限完流,就去给开发者免单了

    简单来说,开发者通过DeepSeek模型执行联网搜索任务,不再需要为搜索和网页抓取额外支付按次调用费用,但模型本身消耗的Token仍然正常计费。

    来源 凤凰科技
  7. 没收过钱的DeepSeek,限个流就成罪人了?

    要说哪家大模型公司在科技圈和开发者中口碑最好,DeepSeek 认第二,估计没几家敢认第一。 哥们平时也不买量投流,纯靠模型攒口碑。 但我真没想到,就这么一家浓眉大眼的公司,最近居然被差评(不是我们)轰炸了。 这几天,不管是短视频平台还是应用商店,都能看到大批用户吐槽他们,狂刷一星差评。 有人说“死鲸鱼你不想活了吗……

    来源 AI 行业观察
  8. 阿里云Q2收入609.73亿增53%:算力紧缺成长期现实

    另外,吴泳铭判断:算力紧张是行业中长期要面对的现实,2027至2028年国内算力供给仍存在缺口,阿里会持续补齐自研算力供给,同时通过多元化采购保障供给。吴泳铭表示,全球各个区域的算力政策出现了非常大的变化,将对阿里云的数据中心建设产生影响。根据目前的初步评估,阿里此前制定的到2032年全球数据中心规模超过20GW的目标

    来源 TechWeb
  9. 阿里云单季收入突破600亿,吴泳铭:算力紧缺是长期现实,数据中心建设目标可能下调

    另外,吴泳铭判断:算力紧张是行业中长期要面对的现实,2027至2028年国内算力供给仍存在缺口,阿里会持续补齐自研算力供给,同时通过多元化采购保障供给。吴泳铭表示,全球各个区域的算力政策出现了非常大的变化,将对阿里云的数据中心建设产生影响。根据目前的初步评估,阿里此前制定的到2032年全球数据中心规模超过20GW的目标

    来源 TechWeb
  10. 阿里云单季收入609.73亿增53%:吴泳铭称算力紧缺长期存在

    【TechWeb】11月20日消息,阿里巴巴发布2027财年第二季度(自然年2026年7—9月)财报,该季度阿里云板块收入609.73亿元,同比增长53%,其中,外部客户收入同比增长64%,刷新近六年来的增速高点。 剔除一次性硬件交付后的外部经常性收入增速进一步升至67%。在资本开支同比大增60%至504.77亿元的重

    来源 AI 行业观察
  11. 莫少君接手抖音生活服务,豆包能成为他的胜负手吗?

    眼看交易规模即将追平美团,抖音生服却换下了掌门人。 据36氪报道,浦燕子不再担任抖音生活服务总裁,转任公司顾问,后续参与公益相关工作,职务由红果短剧负责人莫少君接任。 对此,抖音回应字母榜称,此次调整属于正常的管理岗位轮换与交接,生活服务是公司长期发展方向之一,对该板块会持续投入、长期经营。 浦燕子是2023年11月开

    来源 AI 行业观察
  12. Windows BitLocker加密被破!原本破解要19年,如今只需20天

    【TechWeb】Windows Hello和BitLocker的PIN保护机制,正面临一场来自硬件层的挑战。柏林工业大学的研究团队11月18日发表论文,披露了一项名为"Hello Again"的物理攻击:通过在主板闪存芯片与处理器之间的通信链路上做手脚,攻击者可以绕过TPM的错误尝试锁定保护,从而大幅缩短暴力破解时间

    来源 AI 行业观察
  13. OpenAI下场造机!首款AI手机细节曝光,直接叫板传统手机厂商

    供应链最新消息显示,富士康旗下的富智康集团已拿下OpenAI手机项目订单,负责整机组装环节。据财联社报道,OpenAI的首款手机预计最快2027年底、最迟2028年正式亮相,除组装外,立讯精密、领益智造、瑞声科技等多家苹果供应链厂商也将参与零部件供应。

    来源 TechWeb
  14. 郑渊洁71岁用AI做动画,8部短片免费开放

    11月17日,停更近两年的郑渊洁在个人社媒发声,宣布了一件让他自己都觉得“振奋和不可思议”的事:对动画制作“一窍不通”的他,已经用AI把自己的童话作品做成了动画短片,全部通过授权抖音账号“郑渊洁童话世界”免费开放观看。这位71岁的“童话大王”在视频末尾向00后道贺——祝贺他们赶上了“可以免费享用精神文化作品、人人可以参

    来源 TechWeb
  15. 英伟达临时CEO克雷斯回应换帅疑虑:AI芯片业务照常,产品节奏不变

    【TechWeb】11月19日,行业媒体Digitimes发布报道,聚焦黄仁勋辞任后英伟达首次财报电话会议。针对外界“换帅是否会打乱AI芯片供货”的疑虑,临时CEO科莱特·克雷斯(Colette Kress)明确回应:公司业务照常开展。 克雷斯在会上强调,英伟达未来产品的开发与推出节奏保持不变,公司的运营表现、业务展望

    来源 AI 行业观察
  16. Gemini 4 Neon发布:跑分逼近旗舰,单任务成本砍半

    作者|Wildcard编辑|靖宇谷歌,这次是真的回来了。11 月 18 日,Google DeepMind 点亮了Gemini 4 Neon的霓虹灯牌。这是 Gemini 4 系列在短短 7 周内甩出的第 4 款元素模型。如果看一眼官方放出的基准跑分长表和社区实测反馈,你会发现它精准卡在了一个极其舒服的「甜点」位上,既

    来源 腾讯网
向下滚动自动加载更多