返回探索
资讯VibeFix 内容整理更新于 2026年11月20日

llama.cpp 1.0.0 发布:跑了三年半的本地 AI 引擎,第一次有了稳定版

2026 年 11 月 13 日,llama.cpp 与 ggml 同时发布 1.0.0:删掉 35 个废弃函数、把投机解码 API 扶正,今后 API 不兼容就升大版本号。本地跑模型的开发者,终于有了一份稳定契约。

llama.cpp 官方发布的 v1.0.0 横幅:llama.cpp | v1.0.0,副标题 A stronger foundation for the local AI ecosystem

发生了什么:跑了三年半,本地 AI 的引擎终于有了 1.0

2026 年 11 月 13 日,llama.cpp 发布了 1.0.0 版本,配套的底层张量库 ggml 也同步升到 1.0.0。GitHub 发布页在当天 10:20 UTC 打上 v1.0.0 标签,Hugging Face 官方博客在 14:05 UTC 发出公告,标题是《llama.cpp v1.0.0:为本地 AI 生态打下更坚实的基础》。这个项目 2023 年 3 月 10 日在 GitHub 上创建,三年半来一直用提交编号当版本号——b1234、b12359 这样的数字——今天第一次挂上了语义化的 1.0.0。

如果你没直接用过 llama.cpp,你大概率也用过它。Ollama、LM Studio 和一长串能在笔记本上跑模型的工具,底层都是它。它是一个用 C 和 C++ 写的推理引擎,靠量化技术和针对各种硬件优化过的后端,让大模型能在从消费级笔记本到企业服务器的各种机器上跑起来。GitHub 数据显示,这个仓库到 11 月 13 日已经攒了 134,858 颗 star、25,565 个 fork,用 MIT 协议开源。换句话说,它是本地 AI 世界里最底层、也最绕不开的一块砖。

1.0.0 的发布说明写得很长,足有两万九千多字,列了上百项改动。但真正重要的不是改动的数量,而是一句承诺:从今天起,llama.cpp 和 ggml 会用语义化版本号来标示公开 API 和 ABI 的不兼容变化,破坏性的改动只会跟着大版本号走。过去三年半,下游开发者每次升级都像开盲盒——不知道哪个接口会被改、哪个行为会变。1.0 就是要把这个盲盒拆掉。

三年半的提交编号时代:为什么拖到现在才 1.0

要理解 1.0 的分量,得先回头看看这三年半是怎么过来的。llama.cpp 诞生于 2023 年 3 月,最初只是 Georgi Gerganov 的一个项目:让 Meta 的 LLaMA 模型能在普通的笔记本电脑上跑起来。那时候整个本地 AI 还是极客圈子里的小众爱好,项目本身的版本号就是提交编号——b 开头后面跟一串数字,每合入一批提交,编号就往上跳。你装的是哪一版,答案就是一串数字,至于这个版本和上一个版本之间改了什么、断了什么,只能自己去翻提交记录。

这种做法在项目小的时候没问题:用户少、集成少、改接口的代价低。但三年半里,事情变了。本地 AI 从小众爱好变成了越来越多人日常依赖的东西,llama.cpp 的下游也从几个发烧友项目,变成了 Ollama、LM Studio 这样的大规模应用,再加上一长串直接调用它 C API 的小工具。每一次接口变动,影响面都在变大;每一次没有预警的破坏性变更,都会在下游激起一片修复工作。官方博客里说得很直接:正因为依赖的人越来越多,稳定灵活的 API 才变得至关重要。

1.0 拖到现在才来,还有一个组织上的原因:这个项目现在是由 Hugging Face 的 ggml-org 团队在维护。官方博客里提到了他们为 1.0 做的准备:用 HF Buckets 和 HF Jobs 扩建持续集成基础设施,保证合入主分支的每一次改动都是正确的;还在 NVIDIA、AMD、高通、Arm、IBM、英特尔这些硬件厂商的支持下,不断接入更多自托管测试机,覆盖各大硬件平台。一个地基项目敢立下“不轻易动接口”的承诺,前提是它有能力保证每一次改动都不把地基弄塌——测试基础设施就是这个承诺的底气。

所以 1.0 不是一个营销动作,它是一个组织能力到位之后的自然结果:项目长大了、下游变多了、测试跟上了,才敢把版本号从提交编号换成语义化版本。这个顺序本身就值得注意——很多项目是先喊 1.0、再补能力,llama.cpp 是反过来的:先把能力补齐,再喊 1.0。

1.0 到底改了什么:重点不是性能,是契约

先说版本规则本身,因为这是整篇公告的灵魂。官方博客给了一张很简单的表:MAJOR(大版本号)只在一种情况下涨——公开 C API(./include 目录下的头文件)出现破坏性变更;MINOR(小版本号)对应向后兼容的新功能、后端更新、模型支持或 API 新增;PATCH(补丁号)只修 bug,不改 API。规则就这三行,但它回答了一个困扰下游三年的问题:我升到下一个版本,会不会有东西悄悄断掉?从今天起,答案写在版本号里——只要大版本号没变,公开 API 就不该断。

1.0.0 本身就是一次清理。它删掉了 35 个废弃的公开函数,以及 warmup 设置函数 llama_set_warmup 和碎片整理阈值选项 defrag_thold;同时把投机解码(speculative decoding)的 NextN API 从扩展头文件 llama-ext.h 扶正,放进主头文件 llama.h。这是一个姿态很明确的动作:1.0 不是把旧东西原样盖个章,而是先把该扔的扔掉,再把该扶正的扶正,然后才立下“以后不轻易动”的规矩。

除了版本契约,1.0.0 还塞了不少实打实的功能。推理核心方面:支持 OCP FP8 KV 缓存(f8_e4m3 类型),KV 缓存占用的显存可以进一步压缩;MoE 模型多了一个主机内存专家缓存,CPU 分担比例可以配置,冷门专家的加载不再让 CPU 干等;还支持从独立的 GGUF 分片加载外部 PLE/engram。新模型支持方面:新增了 Kimi-K3.1-Pro、65B 的 Ripple 预览版、xing4_0 三个文本架构,语音方面支持了 drama-3 TTS,多模态方面支持了 MageVL-Cowork 和 Kimi-K3.1 的视觉能力。

服务器侧的改动值得单独拎出来说。llama-server 在这一版做了集中的安全加固:修复了 CORS 配置、DNS 重绑定、经过 CORS 代理的 SSRF(服务器端请求伪造)和子实例访问问题;HF_TOKEN 现在只发给 huggingface.co 的主机;MCP 工具调用在客户端断开或超时时会取消并通知 MCP 服务器;还新增了 OpenAI 兼容的 /v1/audio/speech 语音合成端点。另外,内置的网页界面也重新设计了:聊天可以分组、加了 Markdown 编辑器,手机上的布局也做了原生适配。

为什么这事值得一个 1.0:它不是一个人的工具,是所有人的地基

一个推理引擎发 1.0,为什么值得单独写一篇文章?因为 llama.cpp 的特殊性在于,它几乎从来不直接面对最终用户,却决定了最终用户能用什么。官方博客里有一句话说得很实在:“每一次新的集成,都意味着有更多开发者依赖我们的库接口,因此拥有灵活但稳定的 API 至关重要。”三年半里,依赖它的人越来越多:Ollama 把它包成开箱即用的服务,LM Studio 把它包成带界面的桌面应用,还有成百上千个小工具直接调用它的 C API。官方说,目前它支持 150 多种模型架构变体,以及全部主流的投机解码方法。

这种“地基型”项目的版本号,和普通应用的版本号不是一回事。普通应用升个大版本,用户顶多重新学一下界面;地基项目改一个接口,下游几十上百个项目可能同时要改代码。过去 llama.cpp 用提交编号当版本,等于把“我改了什么”这个信息藏在了提交历史里,下游只能靠读 changelog、甚至靠编译报错来发现哪些接口变了。1.0 的意义就在于,它把这个信息摆到了明面上:版本号本身就成了承诺——大版本变了,你再去检查兼容性;大版本没变,你就可以放心升级。

还有一个角度:本地 AI 正在从“极客玩具”变成“日常基础设施”。越来越多的人在自己的电脑上跑模型,不是因为他们喜欢折腾,而是因为他们想要隐私、想要离线可用、想要不把数据发给任何人。Hugging Face 官方账号在宣布 1.0 时说的话很直白:用户可以在手机、笔记本和工作站上免费掌控自己的智能,不向任何人发送数据。当本地 AI 从爱好变成依赖,地基的稳定性就从“加分项”变成了“必需品”。1.0 来得正是时候。

升级之前先看一眼:1.0 本身也是一次破坏性更新

但有一句话必须说在前面:1.0.0 不是一次无痛升级。立下“以后不轻易动”的规矩之前,官方先动了一次大的——删掉的那 35 个废弃函数、拿掉的 warmup 设置和碎片整理阈值,都是实打实的破坏性变更。如果你的项目直接调用了这些被删的 API,升到 1.0.0 会直接编译失败。这不是 bug,是 1.0 的一部分:先把历史包袱清掉,再立新规矩。

llama.cpp 从启动到 1.0 的时间线:2023 年 3 月项目启动、进入提交编号时代;2026 年 11 月 13 日 GitHub 打上 v1.0.0 标签、Hugging Face 发布官方博客;今后公开 API 或 ABI 不兼容即升大版本号

所以升级之前,先做两件事。第一,打开 GitHub 发布页的完整说明,对照你调用的 API 看一看:被删的 35 个函数里有没有你用的,NextN API 从扩展头文件挪到主头文件对你的 include 有没有影响。第二,别急着在生产环境升——先在开发机上编一次,跑一遍测试。1.0 的承诺是“今后”稳定,不是“这次”无痛。官方博客的版本规则表也只说到公开 C API 的兼容性,没有承诺模型输出、性能、每个命令行选项或每个 HTTP 响应永远不变。升级的收益是真实的,但升级的成本也要自己先算一遍。

对普通用户来说,这个提醒基本不用操心:你用的 Ollama、LM Studio 会自己决定什么时候跟进 1.0.0,你等着更新就行。但如果你是直接依赖 llama.cpp 库的开发者,或者你的项目里嵌了它的 C API,这次升级就是一次需要留出时间的工作——先读发布说明,再动手。

对本地跑模型的 vibe 开发者意味着什么:你的本地后端,更稳了

如果你是用 Claude Code、Cursor 写项目,又喜欢在本地跑模型,这篇新闻和你有直接关系。很多人本地跑模型的标准姿势是:起一个 llama-server,把它当成一个 OpenAI 兼容的本地后端,然后让自己的工具、脚本、智能体都去调它。1.0.0 让这个姿势更稳了三点。

第一,接口稳定了。以前你写一个调 llama-server 的脚本,心里总要留个问号:下次升级会不会改接口?现在官方给了明确的承诺:公开 API 的破坏性变更只会跟着大版本号走。你的脚本、你的工具链、你给智能体写的调用封装,都有了一个可以依赖的契约。这对 vibe 开发者尤其重要——你的项目本来就是快速迭代的,你不想把时间花在追着底层接口改代码上。

第二,服务器更安全了。1.0.0 修了一批 llama-server 的安全问题:SSRF、CORS、DNS 重绑定、MCP 工具调用的取消机制。以前把 llama-server 暴露给局域网、甚至短暂暴露到公网,是要提心吊胆的;这一版之后,风险小了很多。但要注意,“小了很多”不等于“可以随便暴露”:官方修的是已知的几类问题,生产环境暴露服务仍然要配合认证、防火墙和最小权限,别因为一次安全更新就放松警惕。

第三,能力变多了。新增的 /v1/audio/speech 端点意味着你的本地后端现在也能做语音合成了;FP8 KV 缓存和 MoE 专家缓存意味着在同样的显存里能跑更大的模型、更长的上下文;新的网页界面(聊天分组、Markdown 编辑器、手机适配)意味着你不用再为了调模型单独装一个客户端,直接开浏览器就能用。对在本地搭 AI 工作流的人来说,这是一次“后端升级、顺手把前端也升级了”的更新。

从哪里开始:三条路,对应三种人

如果你看完想试试 1.0.0,官方给的路有三条,对应三种不同的需求。第一条路最省事:直接用 Llama 桌面应用,Mac 和 Windows 都有,官方博客里明确推荐了 llama.app——下载、安装、打开就能跑,适合只想在本地用模型、不想碰命令行的用户。第二条路是走包管理器:Homebrew、Winget、conda-forge、MacPorts、Debian、Docker 都在官方列出的分发渠道里,适合已经习惯用包管理器维护开发环境的开发者,升级和卸载都有标准流程。第三条路是自己从源码编译:克隆仓库、切到 v1.0.0 标签再编译,适合需要定制后端、调编译选项、或者要在特定硬件上榨性能的人。

三条路没有高下之分,只有适合不适合。普通用户走第一条路最划算,出了问题也最容易定位;开发者走第二条路,和日常工具链的维护方式一致;要折腾的人走第三条路,自由度最大、但出了问题也得自己扛。需要注意的是,官方的分发渠道表里写的是“正在扩展分发方式”,有些渠道的 1.0.0 包可能不会在发布当天就全部到位——如果你的包管理器里暂时还搜不到 1.0.0,等一两天再试,或者直接去 GitHub 发布页下载预编译产物,那里覆盖了 Linux、macOS、Windows、Android 和 iOS。

还有一个容易被忽略的点:1.0.0 覆盖的平台比很多人想象的要广。预编译产物有 Linux、macOS、Windows、Android、iOS 五个平台,Docker、Debian、Homebrew、conda-forge、MacPorts、Winget、XCFramework 这些渠道也都列在官方博客的分发清单里。本地 AI 早就不只是“笔记本上的玩具”了——它可以跑在手机上、跑在服务器上、跑在各种你想得到和想不到的硬件上。1.0 的承诺覆盖的是所有这些平台上的公开 API,这也是它敢叫 1.0 的底气之一。

判断:版本号的意义不在数字,在承诺

最后给这篇的判断,分三层。第一层是事实层:llama.cpp 和 ggml 在 2026 年 11 月 13 日发布 1.0.0,删 35 个废弃函数、扶正 NextN API、立下语义化版本规则,仓库 134,858 star、MIT 开源。这些都有官方博客和 GitHub 发布页背书,是确定的。第二层是进展层:1.0 是一次“先破后立”的更新——清理历史包袱在前,承诺未来稳定在后;升级有成本,但成本是一次性的,收益是长期的。第三层是趋势层:本地 AI 正在从极客玩具变成日常基础设施,地基的稳定性开始变得和模型能力本身一样重要;1.0 就是这个转变的标志。

对普通开发者来说,最实际的建议只有三条:直接用户等上游工具跟进,不用自己动手;直接依赖 llama.cpp 库的开发者,先读发布说明、再升级,别在生产环境裸升;本地跑模型的人,可以把 1.0.0 当成一个检查点——你的本地后端、你的调用封装、你的安全配置,都值得借这次升级重新梳理一遍。版本号从一串提交编号变成 1.0.0,看起来只是一个数字的变化;但它背后是一句承诺:从今天起,这个地基不会再悄悄地动了。至于这句承诺能不能守住,要看 1.1、1.2、2.0 是不是真的按规则走——那是下一次验证的事。

还有一点值得放在最后说:1.0.0 的发布方式本身,就是本地 AI 生态成熟的一个信号。三年前,本地跑模型还是少数极客的自娱自乐,工具链七零八落、文档靠口口相传;今天,一个底层推理引擎发 1.0,有正式的版本规则、完整的发布说明、多平台的预编译产物、成体系的测试基础设施,还有 Hugging Face 这样的大平台在背后维护。这说明本地 AI 已经不是一个“备选方案”了,它是一条和云端 AI 平行的正经路线——有自己的地基、自己的规矩、自己的未来。1.0.0 就是这条路线立起来的界碑。

阅读 18评论 0

评论 (0)

ME
0/1000
评论加载中...

原始来源

浏览项目广场发布你的项目

相关文章

一名戴眼镜的开发者坐在木桌前敲笔记本电脑,左边外接显示器上是深色背景的 C 语言代码,桌上有绿植
资讯
微软的编程模型终于不当配角了:MAI Code 2 拿 96% 的分数、只收 5% 的钱,但先看清三处“但是”

2026 年 11 月 17 日,微软发布 MAI Code 2 和 Code 2 Flash:大模型 770 亿激活参数、100 万上下文,四项基准平均通过率 63.2%,与 GPT-6.1 Sol、Claude Opus 5.5 咬得很紧,但每任务成本只有 0.309 美元。先看清三处“但是”:价格是推广价、分数是三者最低、长周期任务不在舒适区。

开发工作流产品发布模型动态
一名开发者坐在双显示器工位前敲键盘,左屏是深色代码编辑器,右屏是带绿色对勾与柱状图的测试仪表盘,桌上有台灯和马克杯
资讯
你的智能体到底变好还是变坏了:AWS 开源 UAEF,给所有框架的智能体用同一把尺子量

2026 年 11 月 11 日,AWS 开源 UAEF:先把 LangGraph、LangChain、Strands、Bedrock AgentCore 等框架的运行记录翻成统一格式,再用 36 个指标、7 个维度打分,回归超过 5% 就亮灯。评审模型本身也被防了一手:打分要引原文作证,分数不能用来决定安全放行。

开发工作流产品发布测试与质量
黑色背景上,一名指挥家背对镜头高举指挥棒,脚下环绕着旋转的光轨,像一支乐队正在被指挥
资讯
一个接口接 45 个模型,坏了自动换一家接着跑:Perplexity 的 Orchestrator 想当模型界的‘总机’

2026 年 11 月 17 日,Perplexity 推出 Orchestrator API:一个接口接通 OpenAI、Anthropic、Google、xAI 与 GLM、Kimi、DeepSeek 等开源权重模型,按回答模型的公开价计费、不收平台费。同一模型挂了就换一家部署接着跑,路由功能还能按任务把请求分给不同的模型。

开发工作流产品发布模型动态