Google推出Agent Compute Engine:智能体基建从能跑转向管好

资讯 AI 应用前沿 全文 2662 字 · 约 7 分钟读完 配图 1 张 分类HuggingFaceDeepSeekGoogle深度求索开源

本期速报聚焦基础设施层变动:Google Cloud发布Agent Compute Engine解决智能体规模化运行难题;DeepSeek开源支持昇腾与NVIDIA新架构的DeepInfer框架;Meta放出单卡可跑的30B智能体模型。此外,Google开源TorchTPU降低迁移成本,Hugging Face推出Tr

所属频道 大厂动态开源生态

智能体基建:从“能跑”到“管好”

过去两年,AI圈讨论的焦点大多落在模型参数规模和基准测试分数上。风向到2026年下半年变了。眼下真正的难题,是成千上万个智能体(Agent)同时上线干活时,底层基础设施顶不顶得住,以及怎么防止它们出乱子,模型本身够不够聪明反倒退居其次。

Google Cloud此番推出的Agent Compute Engine,针对的正是这个难题。以往部署应用,看的是CPU、内存和负载均衡。部署智能体就麻烦多了:它可能要调用多个工具、读取权限各不相同的数据,还得在长时间运行中维持状态一致。只要隔离不到位,某一个智能体出错,就可能把整个环境搞脏,敏感数据也有外泄风险。

这个引擎的核心卖点有两处:安全隔离,以及规模化治理。它并非简单堆虚拟机,而是给自主智能体量身打造的专用运行时环境。按Google云基础设施团队的说法,企业大规模部署智能体时,可以借它做细粒度的访问控制和行为监控。换句话说,数字员工的权限范围和行为边界,企业终于能像管员工账号那样管起来。对那些正打算把AI代理塞进生产流程的公司,这是从“实验玩具”迈向“企业级应用”的关键一步。

同一时间,Google还开源了TorchTPU。其意义在于,PyTorch开发者想迁到TPU平台,门槛被拉低了。TPU算力一直很强,可开发体验跟GPU阵营比起来,总显得封闭一些。TorchTPU是原生PyTorch后端,支持逐算子调试和torch.compile加速。说白了,开发者不必大改代码,现有PyTorch任务就能在TPU上跑,中间状态也能像调GPU代码那样查看。“无缝迁移”这四个字,瞄准的是硬件锁定带来的焦虑,为的是让更多开发者愿意试试TPU生态。

推理框架战:DeepSeek的开源棋局

推理这一侧,DeepSeek的举动同样抓眼球。他们按Apache 2.0协议把生产级推理框架DeepInfer开源了。

关键词有两个:“生产级”和“异构支持”。不少开源框架在Demo阶段跑得挺漂亮,一到高并发、长上下文的生产环境,延迟和稳定性就撑不住。DeepSeek这次不光放出了框架代码,还公开了大规模线上部署的技术细节,社区因此多了一份少见的实战参考。

硬件支持范围更耐人寻味。DeepInfer明确支持NVIDIA最新的SM100架构,也适配了华为昇腾950芯片。地缘政治和供应链眼下都在波动,这种“不站队”的异构兼容打法显得相当务实。对国内大厂来说,同一套软件栈能调度不同品牌的算力,议价空间更大,容灾备份也更有底气。DeepSeek这一手,实际是在争推理层的“标准制定权”——谁让开发者调用各种硬件最省事,谁就攥住了生态入口。

模型轻量化:Meta让30B模型走上消费级显卡

云端基建是大厂的战场,端侧部署则关系到开发者自己的使用体验。Meta最新开源的Muse Glimmer 30B模型,给出了另一种可能。

这是个用蒸馏技术做出来的稠密智能体模型。关键在于,单张消费级GPU就能跑。放在过去,300亿参数的模型想流畅推理,通常得靠多卡并行或者高端数据中心。Muse Glimmer 30B一来,普通开发者乃至资深爱好者,都能在本地搭起一套具备一定复杂推理能力的智能体系统。

Apache 2.0许可也放出了明确信号:Meta希望社区在这个模型上做二次开发,甚至商业化。对隐私敏感型应用,或者要求低延迟响应的边缘场景,这种本地化、轻量的智能体模型比依赖云端API更有吸引力。智能体开发的硬件门槛降下来,一批跑在本地PC或工作站上的个性化AI助手或许会冒出来。

开发者生态:从性能调优到创意竞赛

基础设施和模型都齐了,下一个问题是:怎么用得好?

Hugging Face近期发了一篇教程,讲的是AWS Trainium的系统级性能分析。Trainium是亚马逊专为机器学习训练设计的芯片,编程模型和调试工具链跟常见GPU不一样。不少开发者迁移时撞上性能瓶颈,却找不到下手的地方。这篇教程详细演示了怎么用TorchNeuron做性能剖析,把训练和推理中的热点定位出来。这类“干货”的价值常被低估。它解决的是开发者落地时的具体麻烦,比宏大的战略发布更能把人留住。

为了把社区进一步带热,Hugging Face还办了一场开发竞赛,鼓励用户在Hub上构建新的模型、数据集或Spaces应用,总奖金池2万美元。钱不算多,但这种持续的激励有助于维持社区活跃度,让平台一直有新内容进来。

应用前沿:当AI走出屏幕

技术更新之外,一些边缘地带的尝试同样让人看到AI渗入日常生活的广度。

有用户把OpenAI的Codex接到了家里的电视上,坐在大屏前就能和编码智能体直接对话。玩法看着很极客,背后却指向一个趋势:AI的交互界面正从手机、电脑屏幕往客厅、汽车乃至智能家居设备上延伸。智能体既然能听懂自然语言、执行复杂任务,图形界面(GUI)就未必是唯一选项了。语音、手势,甚至眼神接触,都有可能变成新的入口。

科学领域也有进展。Google DeepMind用AI画出了全球首张10米分辨率的森林类型地图。这不是把卫星图片简单拼起来,而是让AI去识别不同树种的 spectral signatures(光谱特征)。这种高精度的生态监测数据,对气候变化研究、生物多样性保护都有实际价值。聊天、写代码之外,AI在处理地球尺度的科学问题时,也能给出传统方法难以达到的洞察力和效率。

结语

把本期动态串起来看,一条脉络很清楚:AI行业正从“模型军备竞赛”转向“工程化落地”。Google在解决智能体的治理和规模化,DeepSeek在打通异构算力的推理瓶颈,Meta在降低端侧部署的门槛,Hugging Face和DeepMind则在优化开发体验、拓展应用场景。这些动作的目的不再是刷榜,而是让AI稳定、高效、低成本地进入生产和生活。

对开发者来说,机会已经不在重新训练一个大模型上,而在于怎么用这些新开放的基础设施和工具,做出能解决实际问题的智能体应用。本地运行的个人助手、云端协同的企业级代理、连上电视的家庭交互终端,场景越碎越杂,越是下一轮创新的温床。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Kimi K3.1 Pro登顶开源榜,DeepSeek-v4.1-Flash实测有坑

    月之暗面发布Kimi K3.1 Pro,在Agent Arena评测中位列第11,成为排名最高的开放模型。与此同时,DeepSeek-v4.1-Flash实测显示其编程能力虽有提升,但在处理高代价操作时表现保守,接入现有智能体框架需调整策略。此外,本期还整理了8个支持AI精细转写的中文播客工具,以及Obsidian插件

    来源 AI 应用前沿
  2. 商务部AI出口管制草案:23项技术受限,DeepSeek、MiniMax为何先过关

    中国商务部10月16日发布草案,将参数≥2万亿或全球前十的大模型纳入出口受限目录,23类AI技术须申请许可。然而不到一周,DeepSeek和MiniMax便率先完成登记,依托开源豁免条款获得授权。这场管制与豁免同步上演的政策操作,揭示的不是收紧,而是一套精心设计的"分层主权"逻辑。

    来源 AI 科技快讯
  3. 中国AI出口管制草案:23项技术设限,开源模型获豁免通道

    中国商务部10月16日发布草案,将参数≥2万亿或全球前十的大模型纳入出口受限目录,23类AI技术须申请许可。然而不到一周,DeepSeek和MiniMax便率先完成登记,依托开源豁免条款获得授权。这场管制与豁免同步上演的政策操作,揭示的不是收紧,而是一套精心设计的"分层主权"逻辑。

    来源 AI 行业观察
  4. OpenAI三款Aurora模型现身API列表:红绿蓝命名后迅速消失

    本期极客早知道汇总了科技圈的多条重要动态:OpenAI 的 API 模型列表中短暂出现了三个以 Aurora 命名的神秘模型,引发外界猜测;Anthropic 正在研究 AI Agent 的谈判规则,并计划设立公共利益基金;DeepSeek 正式开放搜索与网页抓取 API;苹果首次公布折叠屏 iPhone Duo 的电

    来源 AI 应用前沿
  5. 全球开源大战,有多少AI打回原形?

    放到今天的大模型行业,DeepSeek这次开源DeepInfer,本质上就是复刻这套逻辑的升级版本:模型权重此前已经开放,现在进一步开放推理调度中间层,补齐部署链路里最昂贵、门槛最高的一环,降低云厂商、政企客…

    来源 搜狐科技
  6. DeepSeek开源推理框架DeepInfer,AI算子ForgeKernel同周登顶两榜

    国产大模型的竞争,正从模型层延伸到算力层:再强的模型,最终都要基于算子在芯片上执行。同一个模型、同一块芯片,换一套更优的算子,有时会带来数倍的性能提升。算子的效率决定了同样的显卡能跑多快,也决定了每个 token 的价格。 DeepSeek 近日全面开源推理框架 DeepInfer。继模型权重和 FlashMLA、De

    来源 AI 行业观察
  7. DeepSeek整合Harness与产品团队,崔添翼接管产品部

    两个月前,崔添翼还在请开发者帮一款新产品挑错;两个月后,他接过了DeepSeek的产品部。 8月13日,DeepSeek Harness开源。这套软件让模型调用工具、操作文件,完成连续任务。时任团队负责人的崔添翼在微博上用提意见的方式,侧面公布了进度:“目前的版本还很不完善,请大家多提提意见。” 10月16日,澎湃新闻

    来源 AI 行业观察
  8. DeepSeek V4.1 Flash登顶开源榜,Anthropic设公益基金承诺捐20%股份

    本期大黑AI速报聚焦几件大事:DeepSeek V4.1 Flash以1670分登顶WebDev开源模型榜,成本仅为Kimi K3的十分之一;Anthropic宣布设立公共利益基金,初始投入5%股份,长期计划将约20%股份用于公益;同时,Anthropic因OpenCode安全泄露事件撤销了疑似受影响的Claude A

    来源 AI 应用前沿
  9. DeepSeek、MiniMax完成登记,大模型开源与海外授权路径渐明

    据报道,近日,DeepSeek、MiniMax已顺利完成相关登记手续,并完成开源和海外授权使用。 10 月 16 日,商务部、科技部就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将人工智能大模型、智能体、算力集群及信息处理等领域的 23 项技术纳入管理范围。 政策同时明确,对已通过开源、发表学术论文等方式进入公

    来源 AI 开发者社区
  10. Linux基金会AAIF新增4个项目:Agent Skills、Open Responses等入列

    编辑|Red Panda四家公司的四项基础设施入驻AAIF,Agent生态正在从各自造轮子走向争夺公共标准。AI 圈又有一件看起来很技术、实际上相当关键的事。今天,Linux基金会旗下的 Agentic AI Foundation(AAIF)一口气迎来四个新的托管项目:Anthropic贡献 Agent Skills,

    来源 腾讯网
  11. 亚马逊开源 Strands Decider 2B:本地 CPU/GPU 可跑

    Amazon(亚马逊)Strands Agents 团队当地时间本月 1 日宣布推出 Strands Decider 2B 决策模型。其已在 GitHub 上开源,权重则可在 Hugging Face 上找到;可在本地的 CPU / GPU 上运行。 Strands Decider 2B 基于预训练的 Qwen3.5-

    来源 AI 开发者社区
  12. 梁文锋把赚钱的秘密开源了

    一句话概括,Search与Fetch是餐厅的“采购员”,负责去外面的市场把食材买回来;DeepInfer是“后厨”,是模型干活的地方;deepseek-recipe是“多语种菜谱”,不同国家的人也能认清自己吃…

    来源 搜狐科技
  13. 中信证券:看好国产大模型持续崛起

    IT之家 10 月 19 日消息,中信证券研究公众号发布报告,认为 Harness 有望成为 DeepSeek 从模型供给走向平台生态的关键一环,将开源与工程优势转化为用户基础、生态影响力和商业化能力。 报告提到,随着 Agent 竞争从模型能力扩展至稳定、易用且低成本的任务交付,DeepSeek 通过插件化、场景预设

    来源 AI 行业观察
  14. 韩国前8月新发AI模型近半基于中国底座,Qwen占46.8%

    智库Rockbridge Network Korea报告显示,今年1月至8月,韩国本土账号在Hugging Face平台发布的1845个模型中,49.3%基于中国模型,35.9%基于美国模型,14.9%基于韩国本土模型。其中,阿里巴巴Qwen是使用最广泛的“开放权重模型”,占全部模型的46.8%(864个);谷歌Gem

    来源 腾讯网
  15. 周鸿祎评DeepInfer开源:企业为何需要“主权AI”?

    10月23日消息,近日,DeepSeek宣布将内部使用的AI推理框架DeepInfer开源。360集团创始人周鸿祎对此表示,DeepSeek开源不仅体现了技术自信和开源普惠理念,也反映出AI时代技术主权的重要性。 据介绍,DeepInfer通过优化计算调度,让CPU与显卡协同工作,减少等待和重复计算,提高硬件资源利用效

    来源 AI 行业观察
向下滚动自动加载更多