llama.cpp 1.0.0 发布：150+ 模型架构支持，离线跑大模型
IT之家 11 月 14 日消息，开发者 Georgi Gerganov（X 账号为 @ggerganov）昨日（11 月 13 日）在 X 平台发布推文，宣布开源 AI 推理项目 llama.cpp 与底层机器学习引擎 ggml 的库版本迈入 1.0.0。 IT之家查询公开资料，Gerganov 是开源项目 llam
11 月 13 日，开发者 Georgi Gerganov（X 账号 @ggerganov）在 X 平台发推宣布，开源 AI 推理项目 
llama.cpp 与底层机器学习引擎 ggml 的库版本正式迈入 1.0.0。消息由他本人于 11 月 13 日发布，11 月 14 日对外可见。
公开资料显示，Gerganov 是 llama.cpp 的创建者，也深度参与了 ggml、whisper.cpp 等本地 AI 基础软件。他的 X 简介里写着 Hugging Face 工程师，GitHub 资料中的所在地为保加利亚索非亚。
llama.cpp 以 C/C++ 为主要开发语言，是一个开源 AI 推理项目。它的核心作用是让大语言模型跑在个人电脑、服务器等各类硬件上，本地部署和云端服务都能用，目的在于降低部署复杂度，同时把设备的计算能力用足。
这次更新最受关注的一点，是接口兼容性规则被明确下来：
| 项目 | 库 | 定位 |
|---|---|---|
| llama.cpp | libllama | C/C++ 大模型推理库 |
| ggml | libggml | 底层机器学习张量库 |
按照新规则，两个项目今后都通过主版本号升级来标记 API 或 ABI 的不兼容变化，依赖这些库的应用由此能识别升级边界。对开发者来说，某次升级会不会要求自己的应用跟着改，从版本号上就更容易判断。官方给出的版本规则如下：
| 版本位 | 什么情况下更新 |
|---|---|
| MAJOR，例如 1.x.x → 2.0.0 | ./include 中公共 C API 出现破坏性变更；公告同时明确，API / ABI 不兼容会通过主版本升级体现 |
| MINOR，例如 1.0.x → 1.1.0 | 向后兼容的功能、后端更新、模型支持或 API 新增 |
| PATCH，例如 1.0.0 → 1.0.1 | 不改变 API 的 bug 修复 |
工程质量方面，官方公告提到，为了支撑不断加快的开发节奏，团队重点投入三件事：
-
一是用 Hugging Face 的 HF Buckets、HF Jobs 扩展 CI 基础设施。
-
二是在 NVIDIA、AMD、Qualcomm、Arm、IBM、Intel 的硬件支持下，持续增加自托管测试运行器，覆盖主要硬件平台。
-
三是在开发流程中审慎使用 LLM，同时继续把代码质量、架构控制和对实现细节的理解放在首位。
后端与模型支持上，ggml 依靠专用后端适配不同硬件；每个后端都能编译成动态库，运行时按需加载。
llama.cpp 目前已支持超过 150 种模型架构变体及主流推测解码方法。团队还会继续加强自动化测试基础设施，并借助英伟达、AMD、高通、Arm、IBM 和英特尔提供的硬件支持，扩大跨平台测试覆盖。
