无界方舟Edge0-145B实测:端侧智能体编程比肩云端

资讯 腾讯网 作者:硅星人Pro 全文 4952 字 · 约 13 分钟读完 分类端侧 AI存储

作者|黄小艺微信|H997Hbiu很长一段时间里,端侧 AI 都像是云端智能的妥协版。为了塞进耳机、手机和电脑,模型只能在能力和资源之间做取舍:参数小一点,占用少一点,模型笨一点,能干的活也跟着少一点。谈起端侧 AI,功耗、内存、时延总是绕不过去。于是有了一个常见的分工:日常简短交互留在本地,复杂任务还得上云。“...

所属频道 算力与芯片AI 硬件与终端

端侧 AI 在相当长一段时间里,都像是云端智能打了折扣的版本。

为了装进耳机、手机和电脑,模型不得不在能力与资源之间做平衡:参数小一些、占用少一些,模型也笨一些,能承担的任务随之减少。功耗、内存、时延,一直是谈端侧 AI 时躲不开的三个词。于是形成了一种常见分工:简单的日常交互放在本地,复杂任务交给云端。

可那个最让人心动的设想——数据全部留在本地,模型可以反复调用,每一轮推理都不用再付费——迟迟没有成真。

现在,

他们最新的发布

时间定在 11 月 13 日。

无界方舟公布的评测数据显示,起码在智能体编程这一项上,Edge0-145B 已经能和云端模型平起平坐。

在

官方给出的测试案例同样能说明问题。三维建模、游戏开发……

比如一个 3D 建模任务,无界方舟把同一份需求分别交给三个 AI:GPT-6 Astra、Claude Opus 4.8,以及自家的 Edge0-145B。提示词相同、参考图相同、镜头路线也相同,各自搭建一座中世纪湖畔城堡,并交付一段飞越镜头。

效果上看,三者完成度差不多,肉眼很难分出高下。这个任务里,端侧模型并没有落后。

另有一个 PCB 设计任务,把讨论进一步带进专业工作场景。模型要同时弄懂两类软件:先是在

放在过去,这样的活得硬件工程师和三维设计师接力好几天;如今一台电脑就能独立交活。原理图、版图这些硬件企业最核心的资产,全程不用上传云端,商业机密和数据合规都有了保障。

端侧模型比了这么多年「跑不跑得动」,现在开始要比「够不够聪明」了。

今年 9 月,无界方舟已经开源了全球首个能在手机上流畅运行的 350 亿参数端侧模型。峰值内存不到 2.5GB,在 iPhone 18 上的生成速度超过 37

35B 百亿参数的端侧模型,意味着高智力端侧 AI 头一回从理论走到产业落地;145B、120B 千亿参数的端侧大模型,则意味着端侧智力水平第一次能够与云端模型比肩。

我们也上手测了一轮。

1

实测:端侧 Edge0-145B 模型,确实扛得住

端侧模型过去那些取舍,是有充分现实依据的。

手机的内存要分给系统、相机、浏览器和各种应用;耳机还得顾及电池、体积和散热。模型能跑起来只是第一步,它还得快、不烫、不抢资源。

把模型做小、把复杂需求推给云端,曾是这些限制下的无奈之举。

可这也拦住了端侧 AI 成为真正生产力的路,让它没法用到真实工作里。

编程助手得读项目、改代码、跑程序、看报错,然后再改;三维助手得理解需求、操作软件、检查渲染;办公助手得按主题做一份能直接用的 PPT。这些活值钱的地方,不在于某一步的推理,而在于从头到尾做完、交出能用的结果。

端侧如果只能接住最轻的那一小段,主要工作还是得送回云端。

成本是第一道坎。走云端 API 的产品,推理费得一直掏;复杂任务里工具调用、报错修复、来回改动一多,链路被拖长,账单也跟着涨。把更多算力放到用户设备上跑,云端的开销就能降下来。按一名开发者的 token 用量算,每月 22 个工作日,一年可省 5-10 万元。放到 B 端企业,云端 token 成本一年从数百万到几十亿不等,端侧 AI 能把这块压掉 90% 以上。

其次是数据隐私。模型一旦开始读内部代码、工程图纸、合同和财报,资料在哪里处理、哪些服务能碰,直接决定产品能不能进工作流程。端侧 AI 能让更多处理发生在设备里,满足隐私合规的要求。

把这两项长处用到更复杂的工作里,前提是本地模型在硬件资源有限的情况下得具备更高的智能水平。

Edge0-145B 的亮点也正在这里。

硬件门槛方面,Edge0-145B 最低能在 12GB 显存加 20GB 系统内存的 PC 上跑起来,配备 48GB 统一内存的 Mac 同样支持。

功耗方面,在搭载

速度方面,Edge0-145B 的

另外,Edge0-145B 支持 128K–256K 上下文,长文本下速度基本不掉,复杂任务跑久了也不会越来越慢。

我们拿三个案例实测了它的智能表现。全程没有手动改代码或交付文件,全由模型自己推进。

1

测试一:3D 建模

提示词:用 Blender 做一座雨后黄昏的微缩未来城市,效果要像摆在桌面上的精致模型。整座城市放在方形底座上:大约 12 栋建筑高低错落,一条高架轨道横穿城区,另有一处小公园和几辆车。建筑的窗户透出暖光,部分位置点缀青蓝色霓虹,路面留着雨后的反光。风格选有设计感的低多边形,建筑轮廓和街区关系要看得清楚。建模、材质、灯光、相机都请你一并设置好。先渲染一版看效果,再照着结果调一轮,重点看建筑有没有互相穿插、画面是不是偏暗、主体有没有被挡住。最终交付可继续编辑的.blend 文件,外加一张城市全景和一张街区近景的渲染图。

模型按提示词把流程跑完了。初次建模和渲染之后,它又做了检查和调整,最终交回可编辑的.blend文件。用户打开后能改布局、改材质、改镜头,接着往下创作。

1

测试二:游戏制作

提示词:Make a 3D game with Three.js in a single index.html I can open in my browser. Use the arrow keys to roll a ball across a floating obstacle course. Collect gems for points, cross narrow bridges and ramps, and avoid moving blocks. Press Space to jump. Falling off returns the ball to the last checkpoint without losing points.Use colorful scenery, soft lighting, responsive controls, and a smooth follow camera. Each round lasts 60 seconds. Show the score and timer, and include a start screen, final score screen, and restart button.Build all objects procedurally. Run and test the game, fixing any issues before delivering the file.

第二个任务是用 Three.js 做一个 3D 游戏:方向键操控小球滚过悬浮赛道,捡宝石得分,过窄桥和坡道,避开会移动的障碍,另外还要有跳跃、检查点、计时和重新开始的机制。

它交回的index.html用浏览器打开就能顺畅玩。地形、宝石、桥和移动方块全是程序生成的,没有套用现成场景素材。

1

测试三:PPT 制作

提示词:做一份中文 PPT,共 6 页,主题定为“一家开到深夜的社区书店咖啡馆”,用途是向潜在合伙人介绍这个项目。要讲到的内容有:项目概念、目标顾客、空间与体验、产品与活动、收入来源、开业计划。项目名字你自己起,资料我已经发你了。整体要有独立杂志的质感,配色用奶油白、深绿色,再点缀少量暖橙色,配上大标题、空间示意图和适量图片。每一页都要有清楚的视觉重点,文字别堆太多,版式不要连着几页用同一种。请直接把 PPT 做完,交付可编辑的.pptx 文件和整套页面预览图。完成后检查文字溢出、元素重叠和图片显示。

第三个任务离日常办公更近。这一轮里模型还做了不少细节核对,按照我们给的资料逐项修正,最后交出的结果基本没有错漏。

1

为了让硬件带得动,他们对模型做了重构

无界方舟选的是提升端侧智能这条路,但硬件约束绕不开。能跑出现在的效果,原因在于他们把硬件限制提前放进了模型结构和训练设计里。

模型架构的调整,整体可以按四步设计来理解。

先动专家层,把要存、要搬的权重压下来。

混合专家模型这条路,无界方舟在Edge0-145B上又往前走了一步。

稀疏调用让每一步参与计算的专家变少,共享结构则让每个专家不必各自单独保存、单独搬运。两头一起用力,设备肩上的运行担子就轻了。

接下来是第二步:让模型适应新结构和低精度条件。

权重还能以更低精度存放,每个参数占的地方随之缩小。问题是,结构一改、精度一降,模型能力容易掉下来。

按照公开的模型卡,无界方舟改完专家层之后做了较长时间的后训练,训练过程中也把这一点考虑了进去。

这一步要守住的是省下资源之后的任务能力。占用再小,如果老是出错、用户得不停接手,复杂活儿还是交不出去。

第三步,显存、系统内存和SSD三者分工。

结构和精度调完,完整模型依然不小。接着要定的是:哪些数据放在最快的地方,哪些可以等用到再读。

显存快,但装不下太多。公开方案的做法是让调用频繁的“热专家”尽量待在显存里,其余专家交给系统内存;体积较大的部分另作安排。

数据还是占地方,只是不用全挤进显存。显存、系统内存、SSD各管一摊,设备才有可能把完整模型装下。

第四步,把读取和计算排得更紧凑。

分开存放解决了容量怎么分,却也带来新的等待。每一步都先搬数据再算,生成速度照样被传输拖住。

在NVIDIA显卡的部署方案里,配套引擎让GPU算已经驻留显存的专家,CPU分担一部分没驻留的专家计算,同时协调数据传输,让各部分尽量并行,少互相等。

与此同时,

结构、精度、存储上做的这些调整,到这一步才能变成用户能感知到的生成速度。

端侧原生的意思就在这里:模型怎么组织参数、以什么精度运行、参数怎么读,都得围着硬件设备的条件来定。

1

每种硬件,都该有属于自己的最佳智能。

Edge0-145B让人看到无界方舟把端侧智能上限往上抬的方向。要看懂这家公司的路线,目光还得从个人电脑挪到更多设备上。

手机、电脑、眼镜、耳机,硬件底子各不相同,需求也不一样。电脑内存大、散热空间足,能扛编程、三维创作这类Vibe Coding工作;耳机和眼镜更在意低功耗和响应及时;手机则要兼顾复杂智能体任务和其他应用。

想把端侧智能提上去,就得针对这些差异,分别找到合适的模型和运行方式。

过去一年,无界方舟已经攒出四个模型家族:

装进不同设备,组合也不一样。耳机讲究「听得清、回得快」,可以配负责听说交互的Audio8和面向快速决策的Decision0;手机和个人电脑要处理更复杂的任务,就由不同规模的Edge0来接——35B面向手机等设备,120B、145B则进一步承担电脑上的项目理解、软件调用和连续排错。

这条路线想达到的效果是:在每种设备扛得住的资源范围内,把它的智能水平做高,让它能独立完成更复杂的任务。

模型研发之外,推理框架和芯片适配同样关键,原因也在这里。

模型换到另一套硬件上跑,算力、带宽、精度支持、散热都得重新算一遍,还得跟系统里的其他软件抢资源。Edge0 家族眼下已适配 95% 的主流芯片平台,高通、恒玄、瑞芯微、全志、地瓜、英伟达都在名单里,产业合作则铺到了耳机、眼镜、手机、PC、机器人等终端。每适配一颗新芯片、每部署一个模型、每落地一款产品,都会攒下可复用的经验;下回再进新硬件,判断“这款产品能承担什么任务、模型和引擎还要怎么调”就能快一些。这个过程一直在迭代。

迭代到现在,飞轮已经转起来了。无界方舟的开源模型三个月内下载超过 1500 万次,多次登顶 Hugging Face 趋势总榜;截至 2026 年 10 月,企业客户突破 11 万家。

开发者能把模型搬进自己的环境,看它跟现有软件配合得怎么样,不同配置下的表现也有机会接受外部检验。

商业落地要回答的问题更具体:端侧到底接住了多少需求?无界方舟披露的一项耳机

新发布的 Edge0-145B 把目光进一步投向个人电脑。端侧 AI 的下半场,大概率会落在那些用户原本必须为云端智能付钱的工作里。

高智力端侧 AI 的序幕,无界方舟已经拉开。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Windows BitLocker加密被破!原本破解要19年,如今只需20天

    【TechWeb】Windows Hello和BitLocker的PIN保护机制,正面临一场来自硬件层的挑战。柏林工业大学的研究团队11月18日发表论文,披露了一项名为"Hello Again"的物理攻击:通过在主板闪存芯片与处理器之间的通信链路上做手脚,攻击者可以绕过TPM的错误尝试锁定保护,从而大幅缩短暴力破解时间

    来源 腾讯网
  2. 内存涨价传导至手机供应链:二手拆机内存价格打5折

    【TechWeb】持续上涨的内存价格,正在悄悄改变手机行业的供应链格局。据数码博主透露,内存厂商预计2027年内存价格仍将持续上涨,这轮涨价行情可能延续至2028年上半年,直到下半年才逐步进入平稳期。而为了应对成本压力,部分小品牌和山寨手机厂商已经开始在百元机、千元机上使用拆机二手内存——更值得关注的是,2027年部.

    来源 腾讯网
  3. 苹果自研AI智能体曝光:让它替你操作Mac

    TechCrunch报道称,苹果似乎正在开发可在Mac上自主执行任务的AI智能体,直接对标Meta Muse、Instinct、Claude与OpenAI Dots等产品。这标志着苹果的AI战略正从Siri式的语音助手,转向能够理解目标、拆解步骤并操作用户界面的“行动型AI”。凭借软硬件一体化与端侧算力优势,苹果有机会

    来源 AI 行业观察
  4. 苹果拟与三星签四至五年DRAM长约:2027年生效,锁定最低采购量

    11月18日报道,受人工智能算力基础设施需求激增引发的芯片供应紧张影响, 苹果公司 拟与三星电子达成一项罕见的四至五年期DRAM内存供应协议,于2027年上半年生效并延续至2031或2032年,以锁定最低采购量、保障未来 iPhone 与 MacBook 等终端产能。 长期以来,苹果依赖庞大订单量与

    来源 AI 开发者社区
  5. 这颗芯片,火了

    过去几年,PMIC(电源管理芯片)一直是半导体产业中相对成熟的市场。尽管它广泛存在于手机、汽车、服务器和工业设备中,但相比GPU、CPU、存储芯片等直接决定系统性能的产品,PMIC往往并不是市场关注的焦点。对于很多终端产品而言,电源管理芯片更多被视为一项必要的基础配置,竞争重点也长期围绕成本、效率、可靠性和供货展开。

    来源 AI 行业观察
  6. 苹果拟签三星DRAM长约:AI算力推高内存成本,四年协议锁定产能

    报道称,受AI算力基建需求激增引发芯片供应紧张影响,苹果拟与三星电子达成罕见的四至五年期DRAM内存供应协议,2027年上半年生效,延续至2031或2032年,以锁定最低采购量,保障未来iPhone、MacBook等产能。此前苹果靠大订单和短期续约压价,但2026年初AI服务器扩建致存储供需失衡,该模式失效。

    来源 AI 产业速递
  7. 国家网络安全通报中心发布JAVA远程代码执行高危漏洞预警

    36氪获悉,国家网络安全通报中心发布JAVA远程代码执行高危漏洞预警:11月17日,境外安全研究机构Calif披露了名为Java4Shell的高危漏洞(CVE-2026-114938),该漏洞存在于OpenJDK Base64解码路径中,当攻击者向Java应用提交特制的Base64数据时,可触发堆内存越界写入,造成敏感

    来源 AI 行业观察
  8. 安谋科技“周易”X3:FP4端侧SoC将量产,X3-pro在筹备

    11月19日,ICCAD-Expo 2026在北京开幕,安谋科技CEO陈锋在高峰论坛发表题为《Agentic AI时代,算力价值重塑与产业新机遇》的主旨演讲,并重磅披露两大产品进展:国内首颗基于“周易”X3架构、原生支持FP4的端侧SoC即将量产,面向Agentic AI全场景计算的“周易”X3-pro升级版也蓄势待发

    来源 快科技
  9. DeepSeek刚限完流,就去给开发者免单了

    AI应用风向标(公众号:ZhidxcomAI)作者|毕伟豪 编辑|漠影智东西11月19日报道,昨日,DeepSeek调整了API计费规则,自北京时间11月18日12时起,模型调用时触发的服务端搜索、网页抓取不再单独收费,仅按照模型Token用量计费。简单来说,开发者通过DeepSeek模型执行联网搜索任务,不再需要为搜

    来源 腾讯网
  10. Gemini 4 Neon发布:跑分逼近旗舰,单任务成本砍半

    作者|Wildcard编辑|靖宇谷歌,这次是真的回来了。11 月 18 日,Google DeepMind 点亮了Gemini 4 Neon的霓虹灯牌。这是 Gemini 4 系列在短短 7 周内甩出的第 4 款元素模型。如果看一眼官方放出的基准跑分长表和社区实测反馈,你会发现它精准卡在了一个极其舒服的「甜点」位上,既

    来源 腾讯网
  11. 阿里云单季收入突破600亿,吴泳铭:算力紧缺是长期现实,数据中心建设目标可能下调

    【TechWeb】11月20日消息,阿里巴巴发布2027财年第二季度(自然年2026年7—9月)财报,该季度阿里云板块收入609.73亿元,同比增长53%,其中,外部客户收入同比增长64%,刷新近六年来的增速高点。剔除一次性硬件交付后的外部经常性收入增速进一步升至67%。在资本开支同比大增60%至504.77亿元的重投

    来源 腾讯网
  12. Cloudflare 重构 D1 控制平面,支持数百万数据库规模

    Cloudflare 近日发表了一篇文章,介绍其如何重新设计无服务器 SQL 数据库 D1 的控制平面,以支持数百万个数据库。此次重构是为避免集中式架构中的性能瓶颈,同时引入重试机制、幂等性保障和最终一致性。 D1 的控制平面架构围绕三种存储系统构建:使用 Postgres 存储事务性元数据,使用 ClickHouse

    来源 AI 行业观察
  13. TrendForce看跌2027年NAND闪存价格:中国云厂砍单规模超北美新增需求

    集邦咨询预测,受供给端产能扩张、中国云服务商大幅削减企业级固态硬盘订单及消费电子需求疲软三重压力影响,NAND闪存合约价格将于2027年一季度开始下滑,二季度起全面进入下行周期。2027年全球位供给量预计同比增长25%至30%,供过于求格局贯穿全年。

    来源 华尔街见闻
  14. 三星电子调整存储与移动业务负责人,全永铉、卢泰文继续留任联席CEO

    IT之家 11 月 20 日消息,据韩媒《朝鲜日报》今日报道,三星电子发布电子邮件声明,宣布调整核心业务管理架构,在联席 CEO 全永铉和卢泰文的领导下,分别任命存储业务和移动业务负责人。 其中,黄尚俊(Sang Joon Hwang)晋升为总裁,出任存储业务负责人;崔元俊(Won-Joon Choi)则接任移动业务负

    来源 AI 行业观察
  15. 黄仁勋辞职一周,英伟达近20万签名请愿复职、工程师称不回归就走

    【TechWeb】黄仁勋辞职一周后,英伟达内部的“人心危机”正持续发酵。临时CEO科莱特·克雷斯面临的,是一场几乎公开化的员工不满——要求创始人回归的"Stand with Jensen"请愿已收集近20万签名,其中自称英伟达在职员工的签名超过1万人,而公司员工总数约4.2万人;部分工程师已明确放话,若黄仁勋不能复职将

    来源 腾讯网
  16. 2亿人的红果:最后的流量神话|深氪

    文|兰杰 李小霞 编辑|乔芊 杨轩 即使是字节这样信仰数据的公司,也无法参透流量的一切秘密。 很难解释,为什么在2025年初,红果APP的日活用户数从1.2亿缓慢爬升到1.5亿,花了整整5个月之久。毕竟此前,红果以“每季度翻一倍”的惊人速度在猛增。 同样难以解释,为什么突然,“唰的一下,又迈过1.5亿了。”一位接近红果

    来源 腾讯网
  17. 台积电限供16纳米以下:大陆AI芯片代工通道收窄

    指引写明,中国大陆的设计公司一般将被限制在更老的 28 纳米和 40 纳米工艺,前提是这些芯片不使用高带宽内存(HBM),也不需要先进封装。 另有一名直接了解情况的消息人士说,周四之前,仍有一些中国人工智能芯…

    来源 搜狐科技
  18. 最高50亿元!长鑫科技大幅上调回购金额

    长鑫科技将股份回购金额大幅上调至25亿至50亿元,回购价不超63.78元/股,用于注销、员工激励及维护股东权益。业绩方面,受益于DRAM供不应求与端侧AI需求拉动,公司预计四季度供应紧缺延续且毛利率保持稳定。

    来源 华尔街见闻
  19. OpenAI 首款 AI 硬件传年底启动出货:立讯精密等中国供应链厂商深度参与

    人工智能正从软件模型加速向消费级终端硬件延伸。供应链消息称,OpenAI首款AI端侧硬件有望今年年底启动出货,立讯精密等多家中国供应链厂商已参与。其中,立讯精密独家负责整机组装并供应核心件,凸显中国制造在硬件制造与供应链中的关键角色。多家中国厂商已切入该产品生产。

    来源 AI 产业速递
向下滚动自动加载更多