百度 ERNIE 5.5 Flash Base：2800 亿参数的模型可以下载，但许可证先决定你能不能用

先说判断：这是一次“半成品发布”，而半成品正是卖点

2026 年 11 月 5 日，百度发布了 ERNIE-5.5-Flash-Base，一个总参数 2800 亿、每次只激活 140 亿参数的稀疏混合专家模型。它用 33.5 万亿 token 从零预训练，支持 100 万 token 的上下文，权重可以在 Hugging Face 上直接下载。但这篇公告最反常的地方在于：它发布的是一个没有经过任何微调的“裸模型”——没有指令微调，没有强化学习，没有聊天对齐，甚至没有多模态能力，只会做一件事：接着写文本。

我的判断先摆出来：这次发布的真正产品不是模型本身，而是“省掉预训练”这个提议。百度把最烧钱、最耗时的预训练阶段做完了，留下一个干净的检查点，让别人站在它的肩膀上做自己想做的事——领域微调、指令训练、强化学习、Agent 训练。这个思路本身不新鲜，但放在 2026 年 11 月这个时间点上，它踩中了三件事：便宜模型正在变成标配、开源权重的许可证正在收紧、而“从零预训练”对绝大多数团队来说已经不划算了。理解了这三点，再看它的榜单和许可证，就知道这篇公告到底在说什么。

公告到底说了什么

先把事实部分讲清楚，不掺解读。百度在官方发布页上说，ERNIE-5.5-Flash-Base 是一个稀疏混合专家语言模型，总参数 2800 亿，每次生成一个 token 时激活 140 亿参数。它从零预训练了 33.5 万亿 token，使用 Muon 优化器和 FP8 混合精度，训练上下文逐步扩展到 12.8 万 token，微调和推理支持 100 万 token 上下文。发布的权重是预训练结束时的检查点，没有经过任何中期训练或后训练，可以作为领域适配、指令微调和强化学习研究的共同起点。

架构上有 43 层 Transformer，隐藏层 4096 维，64 个注意力头。除第一层外，每层都是混合专家前馈块：512 个路由专家，每次激活其中 10 个，再加 1 个共享专家。注意力方面，大部分层用“重度压缩注意力”（HCA）：每 128 个 token 压缩成一个缓存条目，只保留一小段最近的未压缩 token；每 7 层里只有 1 层保留 token 级别的完整上下文，用多头潜在注意力（MLA）加稀疏注意力。输出头用了可学习分段温度的 MultiMax，取代单一 softmax 温度；多 token 预测模块被 ECHO 取代，直接复用主干的最后一层来预测未来 token。分词器是约 20 万词表的新版 BPE，数字按从右往左、每三位一组切分，据称有助于算术和数字密集文本。

榜单方面，百度用同一套评测流程、同一批提示词和同一位 LLM 评委，把 ERNIE-5.5-Flash-Base 和三款同量级底座模型放在一起比：DeepSeek-V4-Flash-Base（2840 亿总参数、激活 130 亿）、腾讯 Hy3-preview-Base（2950 亿、激活 210 亿）、小米 MiMo-V2.5-Base（3100 亿、激活 150 亿）。30 项评测里，百度自报 ERNIE 拿了 24 项第一。拉开差距最大的是代码类：HumanEval+ 82.3 分对 DeepSeek 的 69.5 分，MBPP+ 81.5 分对 67.2 分，LiveCodeBench 40.1 分对 31.9 分；考试类 MMLU 93.3 分对 89.4 分，MMLU-Pro 78.4 分对 69.2 分；长上下文 RepoQA 91.7 分对 81.0 分。但也有输掉的项目：中文知识问答 ChineseSimpleQA 73.0 分输给 DeepSeek 的 75.3 分，BBH 思维链模式 89.2 分输给 Hy3 的 90.0 分，FullStackBench 54.6 分输给 Hy3 的 56.7 分，InfiniteBench 46.5 分输给 DeepSeek 的 48.0 分。需要强调一句：以上全部是百度自己报告的数字，尚无独立第三方验证，正文里所有榜单数字都按“百度自报”来理解。

获取方式上，权重以 FP8 和 BF16 两种 safetensors 格式放在 Hugging Face 上，SGLang 和 vLLM 都可以通过 completions API 跑起来。百度同时说，后训练版本 ERNIE 5.5 Flash 随后会发布，这次的 Base 只是起点。

架构的思路：每一处设计都在为“便宜”服务

这篇公告的技术部分值得认真读，因为它讲清楚了一个便宜大模型的成本账是怎么算的。百度在开头就挑明了设计目标：一个用来继续训练的底座模型，必须让后续训练和推理都便宜。进一步训练要反复采样，Agent 应用带来多轮对话和长上下文，两者都会推高算力和显存成本。所以 ERNIE 5.5 Flash 在每个组件上都重新权衡了能力和效率：注意力、残差连接、混合专家层、输出头，没有一处是只看性能不看成本的。

最能说明问题的是注意力设计。43 层里有 37 层把每 128 个 token 压成一个缓存条目，KV 缓存的需求一下子小了一个数量级，代价是这些层只能看到粗粒度的远端历史。剩下的 6 层保留完整上下文，但用稀疏注意力，只对每个查询得分最高的若干位置做核心计算，单次查询的成本不随上下文变长而增长。百度自报的对比实验说，这种 HCA 加 MLA 的组合，在同样的 KV 缓存预算下优于 HCA 加压缩稀疏注意力的组合。换句话说，长上下文能力的账不是靠堆显存算出来的，是靠“哪些层值得看全文、哪些层看个大概”这种取舍算出来的。

混合专家层也有类似的取舍。常规做法是一个路由器、硬选前 k 个专家，百度发现单个路由器的分数和专家实际有多大用处相关性很弱，而且没被选中的专家收不到梯度信号，选错了还会自我强化。改成多个独立初始化的 sigmoid 路由器联合打分之后，路由分数和专家实际效用的相关性据称明显变好，深层提升最大，而激活的专家数、算力和通信量都不变。专家本身也被压进 2048 维的潜在空间再算，百度自报这样能把分发和合并的流量以及专家算力 roughly 减半。

还有一个细节值得留意：训练系统是和模型一起设计的。Muon 优化器对整个参数矩阵做正交化更新，分布式通信方式和 Adam 完全不同，百度为此做了通信高效的更新路径和内存均衡的分片；注意力核 FlashMask-4 针对大头维度做了 2-CTA 分块并行，在 SM100 显卡上百度自报前向比 FlashAttention-4 的 MaskMod 快 175%、反向快 74%。这些数字同样是百度自报，但它们指向一个更重要的判断：这个模型的成本优势不在某一个 trick 上，而在架构、数据和训练系统三处同时抠成本。单看任何一个数字都容易高估或低估它，合起来看才是一个完整的成本故事。

榜单要怎么读：24/30 这个数字的含金量

百度自报“30 项里拿了 24 项第一”，听起来很能打，但读榜单要看输在哪、赢在哪、以及对手是谁。先说对手：DeepSeek-V4-Flash-Base、Hy3-preview-Base、MiMo-V2.5-Base 都是 2026 年下半年同量级的底座模型，而且是同一个评测流程、同一批提示词、同一位 LLM 评委跑出来的。这个对照本身比分数更值得肯定——底座模型之间的横评最怕的就是各跑各的流程，百度这次至少把流程统一了，分数之间的可比性比各家自说自话强。

再看赢在哪里。拉开差距最大的是代码和考试：HumanEval+ 82.3 对 69.5，MBPP+ 81.5 对 67.2，MMLU-Pro 78.4 对 69.2。这三项的共同点是它们都直接受益于百度在数据上花的力气——公告里专门提到，语料里除了静态代码，还包括提交记录、Issue、Pull Request、代码评审、需求到 PR 的轨迹、生成测试和 CI 验证过的修复，目标就是仓库级推理和 Agent 式软件工程。一个底座模型在代码题上领先 13 个点，大概率不是架构的功劳，而是数据配比的功劳。

然后看输在哪里。输掉的 6 项里有 3 项是长上下文和多语言：HELMET-Rerank 56.2 对 DeepSeek 的 60.0，InfiniteBench 46.5 对 48.0，INCLUDE-lite 79.5 对 79.8。差距都不大，但位置很集中——都是“在超长上下文里精细操作”的能力。这和架构取舍对得上：37 层只看压缩后的历史，精细的长程操作本来就是它让渡掉的东西。BBH 思维链模式输给 Hy3、FullStackBench 输给 Hy3，也说明这个模型不是全方位领先，而是在百度选定的方向上领先。

所以正确的读法是：24/30 说明这个底座的“地基”打得不错，尤其是在代码和考试类任务上；但它不是一个开箱即用的聊天模型，拿它直接当助手用会失望。底座模型的榜单分数和最终产品的体验之间，隔着整整一个后训练阶段，百度自己也在公告里把这一点写得很清楚——这个检查点只是起点，后训练版本随后才来。

许可证才是这篇公告真正的新闻

如果说榜单是明面上的卖点，许可证就是这次发布里真正值得讨论的部分。ERNIE-5.5-Flash-Base 的许可证不是 Apache 2.0，而是一份百度自己的定制协议，版本 v1.0，发布日期 2026 年 11 月 5 日。上一代 ERNIE 4.5 用的是 Apache 2.0，这一代换成了定制协议，而且条件收得相当紧。

第一，地域限制。协议里的“地域”明确排除欧盟、英国和韩国，在这些地区使用、修改、分发模型都不在授权范围内。第二，收入门槛。相关产品或服务连续 12 个月的收入在 5000 万美元及以下，可以免费商用，但要先发一次使用通知、并在产品里显著标注“Powered by ERNIE”；收入超过 5000 万美元，必须事先拿到百度的单独书面商业授权，超了之后没拿到授权的商用必须暂停。第三，模型改进限制。协议明确禁止用这个模型、它的衍生模型或它们的输出去改进其他任何 AI 模型。第四，核查权。收入达到或超过 5000 万美元的运营方，百度每年可以书面要求一次合规声明和相关信息。

这个许可证要放在 2026 年的开源权重格局里看才有意义。就在同一周，腾讯发布了 Hy4 完整版，权重却还没放出来，只说“未来几天”；月之暗面开放了 Kimi K3.1 Pro 的权重；Cognition 的 SWE-2 Flash 干脆不公开权重。各家的做法正在分化：有的先给 API、权重后补；有的给权重、但许可证收紧；有的直接不给。百度的选择是第三种的变体——权重给了，但用定制协议把“谁能用、在哪用、用到多大收入”都框住了。

对 vibe 开发者来说，这个许可证的实际影响很具体。如果你在中国大陆或美国做个人项目、做研究、做收入不到 5000 万美元的小产品，条件其实不苛刻：发一封通知邮件、挂一句“Powered by ERNIE”，就能免费商用。但如果你在欧盟、英国或韩国，或者你的产品收入已经超过 5000 万美元，这份权重对你基本不可用。更值得留意的是“不得用于改进其他模型”这一条：它意味着你不能拿 ERNIE 的输出去蒸馏、去训练你自己的小模型，这对很多想“用大模型带小模型”的工作流是一个直接的限制。下载之前先读许可证，这次不是一句套话，是真的会决定你能不能用。

放在 11 月的模型发布潮里看：底座模型正在变成“半成品生意”

ERNIE 5.5 Flash Base 不是 11 月唯一一个“半成品”发布。同一周里，Cognition 发布了 SWE-2 Flash，便宜但权重不公开；腾讯发布了 Hy4 完整版，权重却还没放出来；百度这次把预训练检查点放出来，但后训练版本还在路上。把这几件事放在一起看，趋势很清楚：前沿实验室正在把模型发布切成更小的步骤——先放底座，再放后训练版；先给 API，再给权重；或者反过来，先给权重、再补后训练。一次发布不再等于一个完整产品，而是一个时间表上的节点。

这个分工对 vibe 开发者有两面性。好的一面是：底座模型的公开让小团队不用再从零预训练。33.5 万亿 token 的预训练成本，没有几家小公司负担得起，百度把它做完并放出来，等于把最贵的那一步变成了公共品。做垂直领域微调、做 Agent 训练、做训练方法的研究，都可以从这个检查点起步，而不用先烧掉几个月的预算。坏的一面是：半成品需要你自己补完后训练，而后训练的质量直接决定最终体验。一个底座在榜单上领先 13 个点，不等于你微调出来的产品也领先 13 个点，中间的差距要靠你自己的数据和训练方法去填。

还有一个值得留意的信号：许可证正在变成模型发布的一部分。以前读模型发布只看参数量和榜单，现在还要看许可证的地域、收入门槛和改进限制。ERNIE 4.5 的 Apache 2.0 到 5.5 Flash 的定制协议，这个变化本身就说明了一件事：开源权重正在从“无条件开放”走向“有条件开放”，条件写在法律文本里，而不是写在博客的口号里。选底座模型的时候，许可证和榜单一样重要，甚至更重要——榜单决定它好不好用，许可证决定你能不能用。

给 vibe 开发者的四条建议

第一，先读许可证，再下载权重。确认你的使用地区不在欧盟、英国、韩国的排除范围，确认相关产品收入在 5000 万美元以下，确认你不打算用它的输出去训练别的模型。这三项任何一项不满足，先去问百度要书面授权，别先下载再补手续。商用之前记得发那封一次性使用通知，并在产品里挂上“Powered by ERNIE”。

第二，别把它当聊天助手直接用。它是没有经过任何后训练的底座模型，不会按指令行事，不会拒绝不恰当的请求，也没有工具调用格式。想用它做产品，先做指令微调或强化学习，或者等百度随后发布的后训练版本。直接拿底座模型上线，是对用户不负责，也是对自己不负责。

第三，如果你要做微调，优先试代码和 Agent 方向。百度自报的榜单里，代码类领先幅度最大，语料里仓库级代码轨迹的投入也最明确。从这个检查点出发做代码助手、仓库级 Agent、自动化测试生成，是最顺着它优势走的路线。中文知识问答和超长上下文精细操作是它相对弱的地方，别从那里起步。

第四，别把 24/30 当成选型结论。榜单是百度自己跑的，对照的三款模型也都是底座，独立验证还没出来。选底座之前，先拿你自己的任务跑一小批对照：同一个微调流程分别从 ERNIE 和你现在用的底座起步，对比最终效果、训练成本和推理成本。自己的数据比任何榜单都可靠，许可证的约束更要算进总成本里。

一句话总结

ERNIE-5.5-Flash-Base 的价值不在它是一个多强的模型，而在它把预训练这一步做完了、放出来了，还附了一张写得明明白白的账单：权重可以下载，但地域、收入和改进方式都有条件。榜单数字按百度自报，30 项里拿了 24 项第一——代码和考试是强项，长上下文精细操作是弱项。对个人开发者和小团队来说，这是一个值得认真评估的起点；对欧盟、英国、韩国的用户和年收入超过 5000 万美元的产品来说，它基本不在选项里。下载之前先读许可证，微调之前先想清楚你要补的后训练是什么，这两件事做完，再决定这个底座值不值得进你的工作流。