llama.cpp 发布 v1.0.0:语义化版本承诺 API 稳定,分发渠道同步铺开

资讯 AI 应用前沿 全文 3026 字 · 约 8 分钟读完 配图 2 张 分类LlamaMeta产品更新模型发布

llama.cpp 和底层张量库 ggml 同步发布 v1.0.0,标志着项目从快速迭代转向稳定期。这次更新确立了严格的语义化版本规则,承诺公共 C API 的稳定性,方便下游应用集成。文章详细解读了版本升级策略、多平台分发渠道(如 Homebrew、conda-forge)、CI 基础设施的强化,以及对 150 多种

所属频道 大厂动态产品更新模型发布开源生态

为什么选在这个节点推出 1.0?

开源项目把版本号从 0.x 直接抬到 1.0,关注度常常高过任何一次功能更新。数字背后是一份承诺:API 定下来了,生产环境可以放心压上去。

2026 年 11 月 13 日,llama.cpp 和它底层的张量计算库 ggml 一起发布了 v1.0.0。从 Georgi Gerganov 写下第一行代码算起,已经过去三年半。最早它只是个实验,想让大语言模型在普通笔记本上跑起来;现在,本地 AI 的基础设施里,它已经是事实上的标准。

这几年,基于 llama.cpp 做出来的应用不少。桌面聊天客户端有,企业级私有化部署方案也有,大量开发者靠这个库提供的接口干活。本地 AI 和隐私保护的需求越来越硬,这种依赖只会更紧。对维护者来说,眼下的头等大事不再是“加新功能”,而是“别把旧接口改坏”。

发布 1.0.0,核心目的就是让下游开发者安心。往后 llama.cpp 和 ggml 会严格按语义化版本规范(Semantic Versioning)来。主版本号不动,升级库就不该让你的代码崩掉。

语义化版本:规则写死就是契约

0.x 那阵子,API 说变就变。今天新加的函数,明天可能换了名字,后天干脆删掉。早期尝鲜的人无所谓,可对打算长期维护产品的团队,这就是噩梦。

v1.0.0 之后,ggml-org 旗下的项目要按下面这套升级规则执行:

  • 主版本(MAJOR)升级只有公共 C API(位于./include目录下的头文件)出现不兼容的破坏性变更,主版本号才会往上加。这是最后手段,团队会非常谨慎地处理。
  • 次版本(MINOR)升级:会带上向后兼容的新功能、新后端支持、新模型架构支持,或者非破坏性的 API 添加。升级是安全的,新功能照用,旧代码不会失效。
  • 补丁版本(PATCH)升级:只修 Bug,API 一点不动。这种升级风险最低,建议所有用户尽快跟上。

这种透明度对生态很关键。一个库被成千上万个项目引用时,接口稳不稳就是命根子。团队说,采用率还在涨,他们对 API/ABI 兼容性的审查会越来越严,让边界清清楚楚。

怎么拿到?分发渠道全面铺开

对 C/C++ 项目来说,编译安装一直是个坎。llama.cpp 是轻量,可各操作系统的依赖管理照样让人头疼。团队在 v1.0.0 发布的同时,把官方分发渠道大力扩了一圈。

目标很直接:让开发者装 llama.cpp 和 ggml,跟装普通工具一样简单。目前支持的主要渠道如下:

  • 预发布制品(Pre-release artifacts):直接给 Linux、macOS、Windows、Android 和 iOS 的二进制文件。不想折腾编译环境的,下载就能用。
  • Docker:Linux 环境有官方镜像,容器化部署和 CI/CD 集成都方便。
  • 包管理器:
    • HomebrewmacOS 和 Linux 用户可以直接brew install。
    • conda-forge:Windows、macOS 和 Linux 都覆盖,数据科学社区里很受欢迎。
    • Debian:Linux 发行版原生支持。
    • MacPorts:macOS 上的另一个选择。
    • Winget 是 Windows 用户手里的包管理利器;XCFramework 则是苹果 iOS 与 macOS 开发专用的框架格式。

要是你在维护自己的软件包流水线,或者打算把 ggml-org 的项目集成进产品,GitHub 上有相关讨论帖可供参考,打包指南写得更细。分发渠道铺得这么广,新用户上手门槛被压得很低,老用户升级也几乎感觉不到。

幕后:开发节奏更快了,CI 也更硬

不少人以为发布 1.0 之后开发会慢下来,毕竟要顾着兼容性。结果恰恰相反,llama.cpp 团队反倒跑得更快了。

支撑这一点的是持续集成(CI)基础设施上的大笔投入。AI 辅助编程工具越来越普及,团队也在小心地把 LLM 引入开发流程。工具怎么变另说,几条核心原则没动:代码质量要保持,架构方向要自己攥着,实现细节得吃透。

为了让每一次提交到master分支的代码都站得住,团队用上了 Hugging Face 的技术栈,尤其是 HF Buckets 和 HF Jobs。测试容量由此扩开,大量用例可以并行跑。

硬件支持这块更实在。现在能看到的不只是 x86_64 的测试结果——在 NVIDIA、AMD、Qualcomm、Arm、IBM 和 Intel 等厂商支持下,团队部署了大量自托管 Runner,主流硬件平台基本覆盖。最新的 GPU 架构也好,边缘设备上的 NPU 也好,代码合并之前都要过一遍真机验证。

这种全平台覆盖的测试能力,正是 llama.cpp 敢说“在任何硬件上运行”的底气。这不是一句口号,是无数个自动化测试用例堆出来的事实。

后端与模型:覆盖面几乎无处不在

llama.cpp 的底子在于底层引擎 ggml。ggml 的想法很朴素:有算力,就能跑。

为此 ggml 走的是模块化后端路线。CUDA、Metal、Vulkan、SYCL 这些硬件后端,每一个都能编译成动态库,运行时按需加载。核心库因此保持轻量,异构计算环境也能灵活适配。

模型这边,llama.cpp 眼下支持的架构变体已超过 150 种。最早是 LLaMA,后来有 Mistral、Qwen、Yi,再到各类多模态模型,市面上主流的开源模型几乎都能第一时间跟上。主流的投机解码(Speculative Decoding)方法也全都集成了,推理速度再提一档。

兼容面铺得这么宽,llama.cpp 就成了模型研发者和最终用户之间的那座桥。模型作者只管模型结构,不用操心在不同硬件上怎么优化推理;应用开发者调用统一 API 即可,不必为每种硬件单独写适配代码。

社区的力量

回头看这三年半,llama.cpp 能走到今天,靠的是一个活跃且水平在线的开源社区。从最初一个人的项目,到现在众多长期维护者(Maintainers)加上数百名贡献者(Contributors),生态已经成型。

要特别谢谢那些常年守在维护一线的核心成员,也谢谢每一位提过 PR、报过 Bug、参与过讨论的社区成员。v1.0.0 是个里程碑,但不是终点,是新的起点。

普通用户想在本地跑大模型,可以试试 llama.cpp 团队和 Hugging Face 联合推出的 Llama 桌面应用,MacOS 和 Windows 都支持。底层复杂性被它包了起来,开箱即用,是感受本地 AI 的一个好入口。

往后看,本地 AI 算力还会涨,隐私需求也在增,llama.cpp 仍会是那块“沉默的基石”——不声张,但够结实。对开发者来说,眼下正是拿这个稳定版本去搭下一代 AI 应用的好时候。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Perplexity开源Decider决策模型:智能体决策过程可查了

    2026年11月中旬,AI基础设施与智能体生态迎来几项关键更新。Perplexity开源Decider系列模型并增强定位能力,Google发布TPU Sync库优化KV cache传输,Meta联合行业推出Poppy个人智能体开放标准。此外,Vercel更新Workflow SDK,AWS分享生产数据闭环实践,MIT提

    来源 AI 应用前沿
  2. 谷歌Gemini 4 Hydrogen向所有人开放:速度达2.5倍

    (本文作者为 字母AI,钛媒体经授权发布)文 | 字母AI刚刚,谷歌推出了Gemini 4 Hydrogen(氢),主打速度和执行效率。和前两次“高端模型”的更新不同,Hydrogen直接向所有人开放。免费用户可以通过Gemini App的自动模型选择使用它,付费用户则可以手动选择。开发者也可以通过Google AI

    来源 腾讯网
  3. Qwen4-Max预览版实测:一句提示词生成鹈鹕骑行互动页

    打开网易新闻 查看精彩图片 出品 | 网易科技《态度》栏目 作者 | 袁宁 编辑 | 丁广胜 11月11日,阿里正式宣布新一代大模型Qwen4-Max预览版(qwen4-max-preview)发布,首发上线千问AI平台Token Plan。活动期间用户可享限时2折、新用户再享折上5折,算下来最低1折即可抢先体验Qwe

    来源 AI 行业观察
  4. 科大讯飞SparkAudio 1.0发布:99种语言202种方言,识别错误率17.17%

    当别人发来语音:“你可真行啊!” 如何理解这句话? 答案显而易见,这可能是一句夸赞,也可能是一句嘲讽。我们只要通过语气、音量和语境等信息很快就可以得出结论。但是如果想让机器也能充分理解这句“你可真行啊!”背后的含义,恐怕需要理解能力更上一层楼。现在,这个问题已经得到了真正解决。 近日,科大讯飞首个基于全国产算力训练的语

    来源 AI 开发者社区
  5. 百度词元所上线:大模型交易有了验真与信用评级

    图文 | 躺姐在2026年百度世界大会上,让我感到惊喜和意外的发布,是词元所。词元所是百度推出的大模型交易平台,李彦宏在大会上把它称作大模型的交易所。它汇聚好的模型和模型提供商,让企业乃至个人都能便捷地找到、购买和使用大模型词元(Token),把“可信”变成模型交易的前置条件。平台的运行可以概括为“准入—监测—...

    来源 腾讯网
  6. 谷歌六周连发三款模型:Gemini 4 Hydrogen主打速度与低价

    继前天发布旗舰模型后,北京时间11月13日,谷歌又发布了一个新模型Gemini 4 Hydrogen,这是谷歌在六周内发布的第三款新模型。一个多月时间,谷歌几乎完成了从旗舰到轻量级模型的产品更新。相比之下,市场期待的OpenAI下一代旗舰模型久久没有发布。在谷歌的密集攻势下,不少用户认为OpenAI落后了。与此前两款模

    来源 腾讯网
  7. MiniMax,狂卷字节、OpenAI

    AI生图赛道,最近打得火热。 11月10日晚,MiniMax发布并开放H3-Image模型权重,打出了“又快又便宜”的牌。官方称,它10秒就能生成一张1600万像素的高清图片,价格只有同档位主流工具的50%-70%。 在它之前,OpenAI和字节刚刚交完作业。 11月5日,OpenAI推出Images 2.6GPT I

    来源 AI 行业观察
  8. Grok Bot 1.0 上线:能进 Slack 开会、主动领活的 AI 同事

    xAI 正式发布 Grok Bot 1.0,核心变化是从个人助理转向团队共享。新版 Bot 能接入 Slack、Teams 和视频会议,识别讨论中的未决事项并主动认领任务。它拥有独立的云端操作环境,能在无 API 的情况下直接操控网页应用。相比国内钉钉、飞书等基于自有生态的 AI 助手,Grok Bot 更像是一个跨平

    来源 AI 应用前沿
  9. 英伟达Alpamayo 2 Edge:2.45B骨干+0.2B专家,端到端智驾怎么跑?

    她叫Alpamayo 2 Edge,因果推理结合扩散动作,端到端输出闭环表现提升 48.9%。 作者丨郑佳美 编辑丨岑 峰 点开前,你以为老黄家的惊天大瓜又有了什么后续; 点开后才发现:这个“她”连人都不是。 她叫 Alpamayo 2 Edge。 英伟达11月10日刚发布出来的一款端到端自动驾驶模型。VLM 骨干约

    来源 AI 行业观察
  10. 微软全球服务中断致歉:网络容量升级引发,涉74个国家和地区

    微软表示,此次故障“与网络攻击或人工智能/智能体无关”,而是由早先一次“网络容量升级”引发。据外媒报道,微软此次故障迅速外溢至公共服务和商业活动。微软表示已解决底层问题,正在为剩余客户和地区恢复服务,并将在事件解决后提供详细事后报告,但截至致歉声明发布时,尚无法给出完全恢复的明确时间表。对微软而言,这是其历史上持续时间

    来源 TechWeb
  11. 微软致歉全球服务中断:网络容量升级所致,与攻击和AI无关

    微软表示,此次故障“与网络攻击或人工智能/智能体无关”,而是由早先一次“网络容量升级”引发。据外媒报道,微软此次故障迅速外溢至公共服务和商业活动。微软表示已解决底层问题,正在为剩余客户和地区恢复服务,并将在事件解决后提供详细事后报告,但截至致歉声明发布时,尚无法给出完全恢复的明确时间表。对微软而言,这是其历史上持续时间

    来源 TechWeb
  12. XYBench基准出炉:AI答得对却帮不上忙,8000题考意图识别

    当用户问错问题时,AI是顺着错误给方案,还是指出真正的问题?Allen AI发布的XYBench基准测试了8000多个真实场景,发现主流大模型在识别用户潜在意图和纠正误解方面,表现远不如人类。本文详解XYBench的构建逻辑、评估维度及实验结果,探讨为何“听懂弦外之音”对AI助手至关重要。

    来源 AI 应用前沿
  13. Anthropic封号新规生效:按股权穿透查地区,IPO前清退不合规客户

    11月12日,AI公司Anthropic被称为“Claude史上最严封号机制”正式生效,明确地区准入的穿透式审查标准,目的是封堵壳公司、代理中转等绕开地区限制的方式。 当地时间10月8日,Anthropic发布2026版Claude使用政策更新公告,对可接受使用条款(AUP)与支持地区规则作出细化澄清。 本次新规覆盖全

    来源 AI 行业观察
  14. Anthropic封号新规生效:三类主体禁入,IPO前夜收紧账户风控

    11月12日,AI公司Anthropic被称为“Claude史上最严封号机制”正式生效,明确地区准入的穿透式审查标准,目的是封堵壳公司、代理中转等绕开地区限制的方式。当地时间10月8日,Anthropic发布2026版Claude使用政策更新公告,对可接受使用条款(AUP)与支持地区规则作出细化澄清。本次新规覆盖全部C

    来源 腾讯网
  15. 谷歌发布Gemini 4 Hydrogen:跑分超Argon,搜索免费用

    一觉醒来,谷歌又发 Gemini 4 模型了。11 月 12 日,谷歌正式发布 Gemini 4 Hydrogen,并同步推出了多模型智能调度系统 Orchestrator。这是一个 Flash 级别的大模型(也是 Gemini 3.8 Flash 的继任者),原生多模态,输入、思考和输出共享 100 万 token

    来源 腾讯网
  16. Perplexity Mac版上线Teammates:Max订阅用户可建AI团队

    IT之家 11 月 14 日消息,Perplexity 今天(11 月 14 日)发布公告,邀请付费 Max 订阅用户,在 Mac 平台版 Perplexity 应用上体验 AI 智能体功能“队友”(Teammates)。该功能此前仅支持 iOS 和网页端,如今进一步覆盖桌面办公场景。 Teammates 可以理解为一

    来源 AI 行业观察
  17. 谷歌推Gemini 4 Hydrogen:百万元上下文本,速度提2到2.8倍

    11月12日,谷歌推出 Gemini 4 系列中的 Hydrogen 模型。作为 Flash 级别的继任者,它拥有百万 token 上下文窗口,主打快速响应和高效执行,适合编码及智能体工作流。相比前代,其速度提升显著,幻觉率大幅降低,并引入了 Orchestrator 多模型调度系统以优化成本与效率。该模型已接入 Go

    来源 AI 应用前沿
  18. Datadog Scout 模型:AI SRE 如何定位生产故障根因?

    作者 | Renato Losio译者 | 平川Datadog 发布 Scout,一个用于排查生产问题的模型。它在 Bits Investigation(该公司的 AI SRE 产品)中运行,能够接收告警、查看遥测数据并给出问题根因推测。Datadog 工程师和少量客户正在使用其封闭预览版。公告中描述的大部分工作都与成

    来源 腾讯网
  19. ZONOS3-Mini开源:1亿参数跑边缘,实时语音克隆来了?

    Zyphra发布ZONOS3-Mini,这是一个仅含1亿激活参数的开源TTS模型。它支持43种语言的零样本语音克隆,能在手机和浏览器中实时运行。通过新的音频编码器和混合架构,它在保持高音质同时大幅降低延迟,并允许用户像调音一样精细控制语速、情感和口音。

    来源 AI 应用前沿
  20. 阿里快乐虾米上线:端到端整曲生成,标准会员30元/月

    阿里巴巴旗下AI音乐创作平台快乐虾米(HappyShrimp)正式上线iOS与安卓平台,登陆苹果App Store及各大安卓应用商店,App Store版本已更新至0.2.14。 该产品由阿里ATH(TokenHub)事业群研发,2026年8月17日以PC网页端Beta形式首发,是阿里"Happy系列"AI模型的第三位

    来源 AI 开发者社区
  21. AI降临派开源Sophon-Realtime:单卡部署的全双工语音模型

    AI降临派发布了Sophon-Realtime v1,这是一个32B参数的全双工语音模型。它不仅能听懂语气和笑声,还能在对话中自然插话、打断和回应。Flash版本首包延迟仅0.31秒,单张80GB显卡即可运行,支持Apache-2.0商用许可,适合客服、车载助手等场景。

    来源 AI 应用前沿
  22. DeepSeek开放全家桶API:一套接口复刻完整App体验?

    DeepSeek 宣布正式开放全家桶应用 API:在原有 API 中开启对应参数,即可获得深度思考搜索、文件输入等对话功能;语音及相关底层能力也已开放独立接口(含 OCR、ASR、TTS 等),支持单独或组合调用。

    来源 IT之家
向下滚动自动加载更多