无界方舟Edge0-145B实测:端侧智能体编程比肩云端
作者|黄小艺微信|H997Hbiu很长一段时间里,端侧 AI 都像是云端智能的妥协版。为了塞进耳机、手机和电脑,模型只能在能力和资源之间做取舍:参数小一点,占用少一点,模型笨一点,能干的活也跟着少一点。谈起端侧 AI,功耗、内存、时延总是绕不过去。于是有了一个常见的分工:日常简短交互留在本地,复杂任务还得上云。“...
端侧 AI 在相当长一段时间里,都像是云端智能打了折扣的版本。
为了装进耳机、手机和电脑,模型不得不在能力与资源之间做平衡:参数小一些、占用少一些,模型也笨一些,能承担的任务随之减少。功耗、内存、时延,一直是谈端侧 AI 时躲不开的三个词。于是形成了一种常见分工:简单的日常交互放在本地,复杂任务交给云端。
可那个最让人心动的设想——数据全部留在本地,模型可以反复调用,每一轮推理都不用再付费——迟迟没有成真。
现在,
他们最新的发布
时间定在 11 月 13 日。
无界方舟公布的评测数据显示,起码在智能体编程这一项上,Edge0-145B 已经能和云端模型平起平坐。
在
官方给出的测试案例同样能说明问题。三维建模、游戏开发……
比如一个 3D 建模任务,无界方舟把同一份需求分别交给三个 AI:GPT-6 Astra、Claude Opus 4.8,以及自家的 Edge0-145B。提示词相同、参考图相同、镜头路线也相同,各自搭建一座中世纪湖畔城堡,并交付一段飞越镜头。
效果上看,三者完成度差不多,肉眼很难分出高下。这个任务里,端侧模型并没有落后。
另有一个 PCB 设计任务,把讨论进一步带进专业工作场景。模型要同时弄懂两类软件:先是在
放在过去,这样的活得硬件工程师和三维设计师接力好几天;如今一台电脑就能独立交活。原理图、版图这些硬件企业最核心的资产,全程不用上传云端,商业机密和数据合规都有了保障。
端侧模型比了这么多年「跑不跑得动」,现在开始要比「够不够聪明」了。
今年 9 月,无界方舟已经开源了全球首个能在手机上流畅运行的 350 亿参数端侧模型。峰值内存不到 2.5GB,在 iPhone 18 上的生成速度超过 37
35B 百亿参数的端侧模型,意味着高智力端侧 AI 头一回从理论走到产业落地;145B、120B 千亿参数的端侧大模型,则意味着端侧智力水平第一次能够与云端模型比肩。
我们也上手测了一轮。
1
实测:端侧 Edge0-145B 模型,确实扛得住
端侧模型过去那些取舍,是有充分现实依据的。
手机的内存要分给系统、相机、浏览器和各种应用;耳机还得顾及电池、体积和散热。模型能跑起来只是第一步,它还得快、不烫、不抢资源。
把模型做小、把复杂需求推给云端,曾是这些限制下的无奈之举。
可这也拦住了端侧 AI 成为真正生产力的路,让它没法用到真实工作里。
编程助手得读项目、改代码、跑程序、看报错,然后再改;三维助手得理解需求、操作软件、检查渲染;办公助手得按主题做一份能直接用的 PPT。这些活值钱的地方,不在于某一步的推理,而在于从头到尾做完、交出能用的结果。
端侧如果只能接住最轻的那一小段,主要工作还是得送回云端。
成本是第一道坎。走云端 API 的产品,推理费得一直掏;复杂任务里工具调用、报错修复、来回改动一多,链路被拖长,账单也跟着涨。把更多算力放到用户设备上跑,云端的开销就能降下来。按一名开发者的 token 用量算,每月 22 个工作日,一年可省 5-10 万元。放到 B 端企业,云端 token 成本一年从数百万到几十亿不等,端侧 AI 能把这块压掉 90% 以上。
其次是数据隐私。模型一旦开始读内部代码、工程图纸、合同和财报,资料在哪里处理、哪些服务能碰,直接决定产品能不能进工作流程。端侧 AI 能让更多处理发生在设备里,满足隐私合规的要求。
把这两项长处用到更复杂的工作里,前提是本地模型在硬件资源有限的情况下得具备更高的智能水平。
Edge0-145B 的亮点也正在这里。
硬件门槛方面,Edge0-145B 最低能在 12GB 显存加 20GB 系统内存的 PC 上跑起来,配备 48GB 统一内存的 Mac 同样支持。
功耗方面,在搭载
速度方面,Edge0-145B 的
另外,Edge0-145B 支持 128K–256K 上下文,长文本下速度基本不掉,复杂任务跑久了也不会越来越慢。
我们拿三个案例实测了它的智能表现。全程没有手动改代码或交付文件,全由模型自己推进。
1
测试一:3D 建模
提示词:用 Blender 做一座雨后黄昏的微缩未来城市,效果要像摆在桌面上的精致模型。整座城市放在方形底座上:大约 12 栋建筑高低错落,一条高架轨道横穿城区,另有一处小公园和几辆车。建筑的窗户透出暖光,部分位置点缀青蓝色霓虹,路面留着雨后的反光。风格选有设计感的低多边形,建筑轮廓和街区关系要看得清楚。建模、材质、灯光、相机都请你一并设置好。先渲染一版看效果,再照着结果调一轮,重点看建筑有没有互相穿插、画面是不是偏暗、主体有没有被挡住。最终交付可继续编辑的.blend 文件,外加一张城市全景和一张街区近景的渲染图。
模型按提示词把流程跑完了。初次建模和渲染之后,它又做了检查和调整,最终交回可编辑的.blend文件。用户打开后能改布局、改材质、改镜头,接着往下创作。
1
测试二:游戏制作
提示词:Make a 3D game with Three.js in a single index.html I can open in my browser. Use the arrow keys to roll a ball across a floating obstacle course. Collect gems for points, cross narrow bridges and ramps, and avoid moving blocks. Press Space to jump. Falling off returns the ball to the last checkpoint without losing points.Use colorful scenery, soft lighting, responsive controls, and a smooth follow camera. Each round lasts 60 seconds. Show the score and timer, and include a start screen, final score screen, and restart button.Build all objects procedurally. Run and test the game, fixing any issues before delivering the file.
第二个任务是用 Three.js 做一个 3D 游戏:方向键操控小球滚过悬浮赛道,捡宝石得分,过窄桥和坡道,避开会移动的障碍,另外还要有跳跃、检查点、计时和重新开始的机制。
它交回的index.html用浏览器打开就能顺畅玩。地形、宝石、桥和移动方块全是程序生成的,没有套用现成场景素材。
1
测试三:PPT 制作
提示词:做一份中文 PPT,共 6 页,主题定为“一家开到深夜的社区书店咖啡馆”,用途是向潜在合伙人介绍这个项目。要讲到的内容有:项目概念、目标顾客、空间与体验、产品与活动、收入来源、开业计划。项目名字你自己起,资料我已经发你了。整体要有独立杂志的质感,配色用奶油白、深绿色,再点缀少量暖橙色,配上大标题、空间示意图和适量图片。每一页都要有清楚的视觉重点,文字别堆太多,版式不要连着几页用同一种。请直接把 PPT 做完,交付可编辑的.pptx 文件和整套页面预览图。完成后检查文字溢出、元素重叠和图片显示。
第三个任务离日常办公更近。这一轮里模型还做了不少细节核对,按照我们给的资料逐项修正,最后交出的结果基本没有错漏。
1
为了让硬件带得动,他们对模型做了重构
无界方舟选的是提升端侧智能这条路,但硬件约束绕不开。能跑出现在的效果,原因在于他们把硬件限制提前放进了模型结构和训练设计里。
模型架构的调整,整体可以按四步设计来理解。
先动专家层,把要存、要搬的权重压下来。
混合专家模型这条路,无界方舟在Edge0-145B上又往前走了一步。
稀疏调用让每一步参与计算的专家变少,共享结构则让每个专家不必各自单独保存、单独搬运。两头一起用力,设备肩上的运行担子就轻了。
接下来是第二步:让模型适应新结构和低精度条件。
权重还能以更低精度存放,每个参数占的地方随之缩小。问题是,结构一改、精度一降,模型能力容易掉下来。
按照公开的模型卡,无界方舟改完专家层之后做了较长时间的后训练,训练过程中也把这一点考虑了进去。
这一步要守住的是省下资源之后的任务能力。占用再小,如果老是出错、用户得不停接手,复杂活儿还是交不出去。
第三步,显存、系统内存和SSD三者分工。
结构和精度调完,完整模型依然不小。接着要定的是:哪些数据放在最快的地方,哪些可以等用到再读。
显存快,但装不下太多。公开方案的做法是让调用频繁的“热专家”尽量待在显存里,其余专家交给系统内存;体积较大的部分另作安排。
数据还是占地方,只是不用全挤进显存。显存、系统内存、SSD各管一摊,设备才有可能把完整模型装下。
第四步,把读取和计算排得更紧凑。
分开存放解决了容量怎么分,却也带来新的等待。每一步都先搬数据再算,生成速度照样被传输拖住。
在NVIDIA显卡的部署方案里,配套引擎让GPU算已经驻留显存的专家,CPU分担一部分没驻留的专家计算,同时协调数据传输,让各部分尽量并行,少互相等。
与此同时,
结构、精度、存储上做的这些调整,到这一步才能变成用户能感知到的生成速度。
端侧原生的意思就在这里:模型怎么组织参数、以什么精度运行、参数怎么读,都得围着硬件设备的条件来定。
1
每种硬件,都该有属于自己的最佳智能。
Edge0-145B让人看到无界方舟把端侧智能上限往上抬的方向。要看懂这家公司的路线,目光还得从个人电脑挪到更多设备上。
手机、电脑、眼镜、耳机,硬件底子各不相同,需求也不一样。电脑内存大、散热空间足,能扛编程、三维创作这类Vibe Coding工作;耳机和眼镜更在意低功耗和响应及时;手机则要兼顾复杂智能体任务和其他应用。
想把端侧智能提上去,就得针对这些差异,分别找到合适的模型和运行方式。
过去一年,无界方舟已经攒出四个模型家族:
装进不同设备,组合也不一样。耳机讲究「听得清、回得快」,可以配负责听说交互的Audio8和面向快速决策的Decision0;手机和个人电脑要处理更复杂的任务,就由不同规模的Edge0来接——35B面向手机等设备,120B、145B则进一步承担电脑上的项目理解、软件调用和连续排错。
这条路线想达到的效果是:在每种设备扛得住的资源范围内,把它的智能水平做高,让它能独立完成更复杂的任务。
模型研发之外,推理框架和芯片适配同样关键,原因也在这里。
模型换到另一套硬件上跑,算力、带宽、精度支持、散热都得重新算一遍,还得跟系统里的其他软件抢资源。Edge0 家族眼下已适配 95% 的主流芯片平台,高通、恒玄、瑞芯微、全志、地瓜、英伟达都在名单里,产业合作则铺到了耳机、眼镜、手机、PC、机器人等终端。每适配一颗新芯片、每部署一个模型、每落地一款产品,都会攒下可复用的经验;下回再进新硬件,判断“这款产品能承担什么任务、模型和引擎还要怎么调”就能快一些。这个过程一直在迭代。
迭代到现在,飞轮已经转起来了。无界方舟的开源模型三个月内下载超过 1500 万次,多次登顶 Hugging Face 趋势总榜;截至 2026 年 10 月,企业客户突破 11 万家。
开发者能把模型搬进自己的环境,看它跟现有软件配合得怎么样,不同配置下的表现也有机会接受外部检验。
商业落地要回答的问题更具体:端侧到底接住了多少需求?无界方舟披露的一项耳机
新发布的 Edge0-145B 把目光进一步投向个人电脑。端侧 AI 的下半场,大概率会落在那些用户原本必须为云端智能付钱的工作里。
高智力端侧 AI 的序幕,无界方舟已经拉开。