llama.cpp 迎来 1.0 正式版:断网本地跑满血大模型成真?

资讯 腾讯网 作者:腾讯网 全文 825 字 · 约 3 分钟读完 配图 1 张 分类LlamaMeta模型发布开源大模型开源生态

IT之家 11 月 14 日消息,开发者 Georgi Gerganov(X 账号为 @ggerganov)昨日(11 月 13 日)在 X 平台发布推文,宣布开源 AI 推理项目 llama.cpp 与底层机器学习引擎 ggml 的库版本迈入 1.0.0。IT之家查询公开资料,Gerganov 是开源项目 llama

所属频道 大厂动态模型发布开源生态

开发者 Georgi Gerganov(X 账号 @ggerganov)11 月 13 日在 X 平台发推,宣布开源 AI 推理项目 llama.cpp 与底层机器学习引擎迎来 1.0 正式版。这条消息在 11 月 14 日引发关注。

公开资料显示,Gerganov 正是 llama.cpp 的创建者,whisper.cpp 等本地 AI 基础软件也出自他手。他的个人 X 简介标注为 Hugging Face 工程师,GitHub 资料所在地为保加利亚索非亚。

llama.cpp 主要用 C/C++ 编写,是一个开源 AI 推理项目,核心用途是让大语言模型跑在个人电脑、服务器等各类硬件上。本地部署可以用,云端服务同样可以用,目的在于把部署复杂度降下来,同时把设备的计算能力用足。

这次更新最受关注的一点,是把接口兼容性规则讲明白了:

项目库定位
llama.cpplibllamaC/C++ 大模型推理库
ggmllib
ggml
底层机器学习张量库

按照新规则,两者今后都通过主版本号升级来明确标记。

版本位什么情况下更新
MAJOR,例如 1.x.x → 2.0.0./include 中公共 C API 出现破坏性变更;公告同时明确,API / ABI 不兼容会通过主版本升级体现
MINOR,例如 1.0.x → 1.1.0向后兼容的功能、后端更新、模型支持或 API 新增
PATCH,例如 1.0.0 → 1.0.1不改变 API 的 bug 修复

工程质量上,官方公告提到,为了跟上不断加快的开发节奏,团队把投入压在三个方向上:

  • 使用 Hugging Face 的
  • 在 NVIDIA、
  • 开发流程中对 LLM 的使用保持审慎,代码质量、架构控制以及对实现细节的理解仍然排在首位。

后端与模型支持方面:ggml不同硬件通过专用后端来支撑;每个后端都能编译为

目前 llama.cpp 已支持超过 150 种模型架构变体及主流

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 华为联手美的推AI学伴灯,学习硬件赛道再添新玩家

    AI学习台灯等来了新的技术周期。来源|多知作者|王上近日,在移动网络大会上,上海海思联合中国移动、美的集团正式发布「美的AI学伴灯」。上海海思是华为技术有限公司全资控股的半导体设计企业。这款AI学伴灯上海海思提供基于开源鸿蒙的轻AI解决方案,中国移动提供九天大模型、灵犀智能体等云端能力,美的则负责将技术融入家...

    来源 腾讯网
  2. 语飞国际中文教育大模型发布:覆盖学习者、教师与机构三类人群

    人工智能技术与垂直领域的融合正在向纵深推进。据央视新闻报道,2026世界中文大会于11月13日在北京正式开幕。在本次大会上,官方重磅发布了语飞国际中文教育垂直大模型,旨在为全球范围内的中文学习者、一线教师以及各类教育机构提供全方位的智能化服务。 深度适配教与学全链路:全面覆盖三大核心群体 作为一款将人工智能技术与国际中

    来源 AI 开发者社区
  3. 谷歌上线Gemini 4 Hydrogen:3.8 Flash退役,发布节奏变了

    谷歌正式发布Gemini 4 Hydrogen,一改Carbon与Argon缓慢谨慎的安全发布节奏,以更快速度推向市场,并取代服役已久的3.8 Flash。本文梳理此次发布的策略转变、模型定位与行业影响,分析谷歌在模型迭代速度与安全治理之间如何重新取舍,以及这一动作对整个大模型竞争格局可能带来的连锁反应。

    来源 AI 科技快讯
  4. 百度词元所上线:大模型交易有了验真与信用评级

    图文 | 躺姐在2026年百度世界大会上,让我感到惊喜和意外的发布,是词元所。词元所是百度推出的大模型交易平台,李彦宏在大会上把它称作大模型的交易所。它汇聚好的模型和模型提供商,让企业乃至个人都能便捷地找到、购买和使用大模型词元(Token),把“可信”变成模型交易的前置条件。平台的运行可以概括为“准入—监测—...

    来源 腾讯网
  5. 自然意志Nature Will入选TI 50:主攻物理世界通用基础模型

    自然意志专注于训练物理世界通用基础模型,在今年榜单亚洲六家入选企业中位列第二。美国权威科技媒体The Information近日发布《2026全球50家最具潜力初创公司》榜单(The Information’s 50 Most Promising Startups 2026,简称“TI 50”)。专注于物理世界通用基础

    来源 腾讯网
  6. 文心ERNIE 5.5 Flash Preview亮相:280B参数,11月25日前开源

    人工智能开源生态迎来又一重要进展。百度文心 ERNIE 官方博客近日正式发布了全新模型 ERNIE5.5Flash Preview。作为此前 Base 模型的首个后训练版本,该模型在架构规格、上下文处理能力以及多场景智能体(Agent)应用展示上交出了一份亮眼的成绩单,并明确承诺其模型权重将于11月25日前全面开源。

    来源 AI 开发者社区
  7. Qwen4-Max预览版实测:一句提示词生成鹈鹕骑行互动页

    打开网易新闻 查看精彩图片 出品 | 网易科技《态度》栏目 作者 | 袁宁 编辑 | 丁广胜 11月11日,阿里正式宣布新一代大模型Qwen4-Max预览版(qwen4-max-preview)发布,首发上线千问AI平台Token Plan。活动期间用户可享限时2折、新用户再享折上5折,算下来最低1折即可抢先体验Qwe

    来源 AI 行业观察
  8. 谷歌Gemini 4 Hydrogen发布:3.8 Flash为何被果断替换?

    谷歌正式发布Gemini 4 Hydrogen,一改Carbon与Argon缓慢谨慎的安全发布节奏,以更快速度推向市场,并取代服役已久的3.8 Flash。本文梳理此次发布的策略转变、模型定位与行业影响,分析谷歌在模型迭代速度与安全治理之间如何重新取舍,以及这一动作对整个大模型竞争格局可能带来的连锁反应。

    来源 AI 行业观察
  9. 百度世界大会2026:李彦宏推“词元所”,大模型交易平台上线

    在今日举行的百度世界大会2026上,百度创始人李彦宏正式推出了一款全新的大模型服务平台——“词元所”。针对当前企业和开发者在面对海量大模型时普遍面临的“选择困难”与“信任缺失”痛点,该平台创新性地引入了证券交易所的运作理念,旨在为行业提供一个中立且可信的模型交易与分发阵地。 类比证券交易所:汇聚优质资源与模型提供商 在

    来源 AI 开发者社区
  10. ZONOS3-Mini开源:1亿参数跑边缘,实时语音克隆来了?

    Zyphra发布ZONOS3-Mini,这是一个仅含1亿激活参数的开源TTS模型。它支持43种语言的零样本语音克隆,能在手机和浏览器中实时运行。通过新的音频编码器和混合架构,它在保持高音质同时大幅降低延迟,并允许用户像调音一样精细控制语速、情感和口音。

    来源 AI 应用前沿
  11. AI降临派开源Sophon-Realtime:单卡部署的全双工语音模型

    AI降临派发布了Sophon-Realtime v1,这是一个32B参数的全双工语音模型。它不仅能听懂语气和笑声,还能在对话中自然插话、打断和回应。Flash版本首包延迟仅0.31秒,单张80GB显卡即可运行,支持Apache-2.0商用许可,适合客服、车载助手等场景。

    来源 AI 应用前沿
  12. 谷歌发布Gemini 4 Hydrogen:跑分超Argon,搜索免费用

    一觉醒来,谷歌又发 Gemini 4 模型了。11 月 12 日,谷歌正式发布 Gemini 4 Hydrogen,并同步推出了多模型智能调度系统 Orchestrator。这是一个 Flash 级别的大模型(也是 Gemini 3.8 Flash 的继任者),原生多模态,输入、思考和输出共享 100 万 token

    来源 腾讯网
  13. IBM推LLMON标记语言:用结构化标签防住大模型提示注入

    IBM Granite团队推出LLMON,一种专为大语言模型设计的标记语言。它通过显式分离指令与数据,利用保留特殊令牌界定结构,显著降低提示注入攻击成功率。新版3B和8B预览模型在保持通用能力的同时,能精准识别执行块,忽略未绑定的干扰信息,为构建更安全的AI应用提供了新思路。

    来源 AI 应用前沿
  14. 谷歌Android XR眼镜隐私方案:录制指示灯、人脸模糊与90秒录制上限

    IT之家 11 月 12 日消息,谷歌与 Warby Parker、Gentle Monster 合作推出的首款 Android XR 智能眼镜,正面临一个不太容易解决的问题:如何摆脱消费者对智能眼镜的隐私担忧。由于早期进入这一领域的厂商没有充分重视隐私保护,智能眼镜逐渐背上了“偷拍眼镜”的负面标签。部分用户甚至将其视

    来源 腾讯网
  15. Hugging Face CEO 哀叹黄仁勋从英伟达离职:承诺继续力挺开源 AI

    IT之家 11 月 13 日消息,黄仁勋昨日(11 月 12 日)辞去英伟达总裁、首席执行官及董事职务,即刻生效。Hugging Face 首席执行官克莱芒 · 德朗格(Clement Delangue)随即在领英发文,称这是“令人无比难过的一天”,并表示将继续更坚定地推动开源人工智能。IT之家昨日报道,联合创始人黄仁

    来源 腾讯网
  16. DeepSeek开放全家桶应用API:开发者可复刻完整App体验

    【TechWeb】11月14日消息,DeepSeek发布全家桶应用 API,将其自有App中已经打磨成熟的整套交互能力打包为标准化、可调用的模块,向开发者开放。与以往仅提供模型推理接口不同,此次开放覆盖搜索、网页抓取与解析、文件解析、OCR、语音识别(ASR)、语音合成(TTS)等多项应用层能力,并支持开发者单独调用或

    来源 AI 行业观察
  17. 谷歌DeepMind开放WeatherNext 3数据集:含SatWeave与PARDIG

    IT之家 11 月 13 日消息,谷歌 DeepMind 今天正式开放 WeatherNext 3 气象模型所依托的两大基础数据集 SatWeave 与 PARDIG,相应数据集面向全球研究者与开发者提供实时数据流及历史归档,可用于天气、水文、气候及相关下游应用建模。 据介绍,SatWeave 是一套整合多颗静止气象卫

    来源 AI 行业观察
  18. 谷歌发布Gemini 4 Hydrogen:幻觉降5倍、速度翻倍,不叫Flash了

    谷歌发布Gemini 4 Hydrogen,定位高效执行引擎,主打速度与准确性。相较上代Flash,任务速度提升2.5倍,幻觉率降低逾5倍。该模型已全球上线,覆盖搜索、Gemini应用及API等多平台。谷歌同步推出Orchestrator功能,动态调度Carbon与Hydrogen协作,降低24%配额消耗。

    来源 华尔街见闻
  19. Matrix-Game4.0上线Reactor:单张RTX5090跑480p、60FPS实时游戏

    昆仑万维宣布其10月发布并开源的Matrix-Game4.0正式上线实时世界模型平台Reactor,为开源后首次平台化开放,可在浏览器进入城堡、古埃及与城市赛车三个世界「边玩边生成」。Reactor总部位于旧金山,以统一SDK与API、全球分布式GPU网络支持几行代码接入,11月7日官宣上线。 Matrix-Game4

    来源 AI 开发者社区
  20. 京东双11卖出超5000万件AI产品,Token搜索量涨逾13倍

    11月13日,京东(JD.US)公布,今年双11大促期间售出超过5,000万件AI产品,平台的AI应用覆盖虚拟试穿、AI购物助手、商家工具及智能物流等零售生态,期内AI Token搜索量增长逾13倍,大语言模型Token组合的销量增长逾10倍。京东推出AI Token及软件订阅专门市场,供个人用户及开发者比较模型、购买

    来源 腾讯网
  21. Gemini 4 Hydrogen上线:主攻日常编程与智能体效率

    【谷歌发布Gemini 4 Hydrogen 重点强化日常编程和AI智能体功能】《科创板日报》13日讯,谷歌当地时间11月12日发布新一代AI模型Gemini 4 Hydrogen,重点提升日常编程和AI智能体执行任务的速度与效率。谷歌称,新模型已开始面向全球用户推出,Gemini应用的免费用户也可通过自动模型选择功能

    来源 腾讯网
  22. 黄仁勋卸任英伟达CEO,Hugging Face掌门人喊话守住开源

    英伟达 11 月 12 日宣布掌门人黄仁勋即刻卸任总裁、CEO 与董事三职。消息刚落,Hugging Face 首席执行官克莱芒·德朗格就在领英写下长文。他连用两个"糟透了"表达错愕:"我真希望这一切从未发生,这真是令人无比难过的一天",并承诺公司将"比以往更努力"地守住开源人工智能,强调此刻"不能放慢脚步",开源阵营

    来源 AI 开发者社区
  23. Euro-Office桌面版上线:兼容DOCX,断网也能编辑

    IT之家 11 月 14 日消息,欧洲开源办公软件 Euro-Office 正式走出浏览器,以 Nextcloud Office Desktop 的名称,推出可直接安装的桌面版本,覆盖 Windows、macOS 和 Linux 平台,希望成为微软 Office 的替代选择。 新版应用集成文档、电子表格、演示文稿及 P

    来源 AI 行业观察
向下滚动自动加载更多