Edge0-145B把千亿参数塞进笔记本：37+ token/s，跑智能体编程

现阶段常见的端侧模型，参数量大多落在 1B–10B 这个区间。作为对照，Edge0-35B 在 iPhone 18 Pro Max 上能跑到 37+ token/s，占用约 2.5GB 内存；Edge0-145B 的参数量是前者的 4 倍，放到笔记本电脑上运行速度可达 80+ token/s，峰值内存只要 29GB。

可用性的问题解决以后，新问题就冒出来了：一个千亿参数模型就算能在本地加载，用户真会愿意用吗？

把模型启动起来只是第一步。几十页代码输进去，要等多久才开始回答？生成速度跟不跟得上阅读？任务跑上半小时，设备会不会发热降速？模型运行期间，其他软件还能不能正常干活？这些疑问，都直接落在实际体验上。

无界方舟的办法是三条线一起动：模型结构、权重存放方式、计算调度。

第一步是改架构。1450 亿参数并非每一步都全部参与计算，Edge0-145B 采用架构定下来之后，再按照架构和端侧的需求做针对性训练。

接下来要解决加载难题。稀疏架构只是削掉了计算量，权重放在哪、要用时怎么及时取到，它并不自动解决——一个专家即便暂时闲置，参数照样得占着某处存储。Edge0-145B 的做法是让不同层级的存储在各自位置上出力：调用频繁的部分尽量留在更快的显存里，剩下的分摊到系统内存和 SSD 上。模型算着当前这一步，系统同时准备后面要用的数据，尽量不出现算完一步、干等下一批权重的空档。

最后一步是调度，让 CPU 和 GPU 配合起来，再通过

经过这几步优化，千亿模型加载到端侧设备上并流畅高效运行，已经不算难事。接下来要回答的问题是：这款模型到底能做多少事。

千亿模型落到端侧，如果只能断网聊天，那不过是个秀肌肉的摆设；真正独立完成复杂任务，才是要奔的目标。

Edge0-145B 在无界方舟公布的六项主流评测中，在

*Edge0-145B 在 DeepSWE、Terminal-Bench 等智能体与编程评测上领先同级开源模型，端侧模型的智能上限第一次接近云端顶级模型

和百亿参数水位的主流端侧模型比，Edge0-145B 在智能体与编程任务上的提升最突出：Terminal-Bench 提升 18.5%，DeepSWE 提升 53.1%；推理与知识类任务也有 1%–15% 的提升（HLE +14.9%、GPQA +1.3%、IFBench +1.4%）。完整的测试设置、硬件环境与复现方式，随技术报告一同公开。

*同等甚至更高的智能水平，Edge0-145B 只需约三分之一内存，一台 48GB 笔记本即可本地运行千亿参数模型

但

Vibe Coding 恰好是检验模型真实水平的一块试金石。有了 Edge0-145B，用户只给一句自然语言指令，模型就在本地把整条工作链走完：先拆需求、排步骤，再写代码、调工具跑起来，报错自己调试修复，最后截图看画面效果，不满意接着改，直到交出一个完整可用的作品。整个过程常包含几十轮规划、执行和自我检查，这类长链路智能体任务，过去只有云端大模型才扛得下来。

现在这条链路第一次在一台笔记本里跑通闭环：不用上云，不按 token 计费，代码和数据不出本机，断网也照常干活。比如让 Edge0-145B 生成一个讲解 Roadster 的视频，向大众科普汽车为什么能飞，这个任务里它能独立完成技术原理调研、脚本撰写、素材生成与创意剪辑。没有云端调用，没有云端 token 消耗，也没有网络延迟。

以前做一条 AI 视频，账单可能要几百至上千元，现在这笔费用是零；原本要编导、3D 建模师、剪辑师、物理专家一起花一个月才能做完的视频，1 小时内就能生成。同样的能力，也用在了三维场景创作上。

落到3D创作上，Edge0-145B能直接操作Blender：用户给出文字和参考图，它便着手搭场景、调材质与灯光，再对照渲染结果反复修改。让它做曼哈顿城市建模时，它不只是在处理像素，还能看懂物体、空间关系以及创作意图。过去那种人工看画面、人工写代码、再人工返工的割裂流程，如今由模型在Blender里一口气渲染完，全程不离开本地。

成本账也很直观。以前请人做一个曼哈顿级别的城市三维场景，报价大约8万至12万元，工期一个月起步；换云端顶级模型来生成，token费也得上千元。Edge0-145B meanwhile在1小时内完成，token成本为0。

3D建模之外，Edge0-145B还能给游戏搭出一整座世界。团队给它的需求是游戏宣传片级别：为一款奇幻RPG造一座原创中世纪主城，并渲染20秒飞越镜头。接到任务后，Edge0-145B自己规划整体设计，在Blender里从零建起城墙、上千栋老城民居、广场喷泉、哥特式双塔立面、肋拱顶中殿和彩窗，最后按固定镜头路线完成渲染。这类场景里，任何一处穿模、遮挡或比例失调都会在镜头前露馅，但它能边建模边检查渲染画面、自行修正，全程不离开本地。

对照实验用的是云端顶级模型，同一份提示词、同一批参考图、同一条镜头路线。云端模型跑一次要调用上百次工具，消耗数亿token。同样一个游戏宣传片级别的城市场景，过去美术团队往往要花几周、掏数万元；Edge0-145B在一台笔记本上就能交付，token成本为零。

这条链路还能往硬件开发延伸。

无人机案例里，团队给模型下的指令是：「编写一个无人机程序，穿越障碍，寻找一个红色背包。」模型随后生成飞控与视觉识别程序，无人机在室内穿过障碍，并定位到了目标。

视频、3D建模、游戏之外，团队还试了难度更高的活儿：走进硬件工程师的工作台，从零到一设计一块PCB。这个案例要求模型同时理解并使用两类软件——先在KiCad中完成元器件布局与双层走线，再把电路板导入虚幻引擎5，设置镜头和灯光，生成制造与组装过程的展示动画。

搁以前，这套活儿得靠硬件工程师加三维设计师接力干上好几天；如今一台电脑自己就能搞定交付。原理图、版图这类硬件企业压箱底的资产，整个过程都不用往云端传，商业机密和数据合规两头都稳。

端侧模型并非新赛道，海外已有多家估值数百亿人民币的

要在端侧落地，模型企业不能只交一份模型权重。它还得回答：模型在什么配置下跑，占多少内存，怎样与系统里的其他任务共存，硬件厂商又如何把它接进自己的产品。

这恰恰是无界方舟的长处：

第一是完整的模型产品线配置。过去一年，无界方舟一共发布四个模型家族、200款模型，可以像人脑一样分工协同：

再一条是全栈打法。无界方舟选的是端侧AI全栈研发这条路，关键在让模型、推理框架和硬件芯片一起调优。所以它两头都做：端侧模型做，端侧推理框架也做——训练阶段就照着硬件特性去优化模型，推理引擎也一并改造，好让模型在不同芯片上都跑得动、跑得快。

第三条是产业飞轮。眼下的端侧市场碎得厉害，各家的NPU架构不一样，对INT4、INT8、FP4这些计算精度支持的程度也参差，通用模型直接往上部署，硬件性能很难吃满。无界方舟的路子是一颗芯片一颗芯片地啃。目前适配已经覆盖95%的主流芯片平台——高通、恒玄、瑞芯微、全志、地瓜、英伟达等都在其中，耳机、眼镜、手机、PC、机器人这些硬件形态也都有涉及。每适配一款芯片、部署一个模型、落地一款产品，就攒下一次能复用的优化经验，下一回部署自然更快、更省。

截至目前，无界方舟开源模型在3个月内下载量已经突破1,500万次，多次登顶Hugging Face趋势总榜第一；截至2026年10月，客户数已突破11万家。

再往后看，端侧模型能力的变化，或许会进一步影响云端模型的定位。

以前端和云怎么分工，多半看能力：唤醒、识别和简单指令放在设备上跑，复杂需求丢给云端。用户要想AI更聪明，通常就得接受联网、等一等，还有一直往外掏的调用费。

当端侧开始接住更复杂的任务，这个默认分工成立的条件开始逐渐被松动。

最先发生变化的，可能是高频、相对明确、与设备本身关系紧密的需求。

成本是他们的第一重选择逻辑。

走纯云方案的话，每卖一台设备，后面都可能拖着一笔持续的推理开销，用户用得越勤，服务成本就越高。可硬件本身毛利薄，靠SaaS收费的老商业模式，在追个剧都要借会员的国内，短期恐怕跑不通。把合适的任务挪回端侧，这笔持续支出就能压下来，服务成本也更好算。

再就是数据合规。AI一旦开始读代码库、订单、财报、客户资料和硬件设计文件，企业在意的不只是答得好不好，还有哪些数据得离开自己的设备。本地推理让一部分任务就地完成，上传和远程处理的需求随之减少。那些因为资料敏感、一直没敢接AI的工作流程，这下可能找到更容易落地的入口。

还有一类变化出在网络不靠谱的地方。设备要是非得联网才能听懂用户，那它的本事就始终被网络条件卡着。耳机、眼镜、机器人尤其明显：信号再差，用户对即时反馈的期待也不会跟着降。端侧能力越强，弱网或者断网时设备还能保住的功能就越多。

成本、数据、网络这三项诉求始终摆在那里。以往为了拿到更强的模型能力，用户常常只能在其中做取舍。如今端侧智能水平往上走，可选的路子才真正变多。

不过，这并不代表什么任务都适合搬回本地。

无界方舟的判断是，端侧AI智能水平一旦突破，端与云的边界已经跟着挪了三次。

2026年9月之前，局面是云端挑大梁、端侧打下手。Apple Intelligence算是这一阶段的典型：隐私保护做到了，可端上能干的事有限，真正的智力还留在云端。

2026年9月10日Edge0-35B开源之后，日常任务落到端侧，复杂任务再上云。高频、日常、要即时响应的需求，端侧第一次接住了。某头部耳机厂商就是一例，无界方舟给它搭了端云协同方案，眼下92%的AI使用走端侧模型，只有8%走云端。可穿戴消费硬件里，日常对话占掉了大部分需求场景。

等到2026年11月13日Edge0-145B开源，这条边界还会再往前推一步。

端侧为主、云端为辅的那一天，或许已经不远了。