74B 装进 24GB：NVIDIA 开源 Nemotron 3.5 Bolt，常驻笔记本的个人 agent 来了

三年前，"在笔记本上跑一个 74B 的 agent 模型"听起来像个段子。10 月 13 日，NVIDIA 把这个段子变成了发布公告：Nemotron 3.5 Bolt 74B-A9B 24GB，10 月 15 日正式发布——74B 总参数的 agent 专用大模型，被塞进 24GB 显存，常驻你的笔记本。更狠的是，权重、训练数据、训练配方三件套全部开源。

这不是一次孤立的模型发布。它是"RTX Spark 笔记本 10 月 16 日开售"前夜放出的整套组合拳里最重的一拳：新模型、新 agent 应用、新安全沙箱、新路由、新工具，全部指向同一个叙事——你的下一台笔记本，是一台个人 AI 超算；你的下一个 agent，不住在云端，住在你的电脑里 7x24 待命。

对每天和 agent 结对写代码的 vibe coder 来说，这条新闻的含金量不在"又一个开源模型"，而在它标志着一个转折点：本地 agent 正在从极客玩具变成正经的生产力工具。

三个数字：74B 总参数、9B 激活、24GB

先把 Bolt 74B 的规格说清楚，因为它每一个数字都在回答"凭什么塞进笔记本"：

• 74B 总参数，MoE 架构，每 token 只激活约 9B。混合专家（MoE）的意思是，模型里养了一大群"专家"，每次推理只叫醒其中几个真正干活的——总容量大，单次计算量小。这是"大模型装进小显存"的经典路线。
• 2-bit 量化 + 量化感知训练，压进 24GB。2-bit 是非常激进的压缩率（常见的是 4-bit/8-bit），硬压通常会掉智商，所以 NVIDIA 强调了先进的量化感知训练技术来保住质量。24GB 这个数字不是随便定的：它正好是高端消费级显卡和新一代 AI PC 的显存甜点区。
• 定位：比大多数流行 dense 模型更快，比同显存占用的流行 MoE 模型更聪明。NVIDIA 的官方口径是在"速度与智能之间找最优平衡"。翻译一下：这不是一个秀肌肉的榜单模型，而是一个为"长时间、高并发、低延迟"的 agent 工作负载调优的实用模型。

但真正让这条新闻值得写一篇的，是"完全开源"四个字。按 NVIDIA 的说法，和其他 Nemotron 模型一样，Bolt 74B 开源的是三件套：权重、训练数据、recipes（训练配方）。在"大厂 agent 专用模型"这个品类里，这是罕见的慷慨——它意味着开发者不只是"能用"，而是"能改"：按自己的代码库、自己的 agent harness，微调出一个懂你项目的本地专用模型。这是任何云端 API 都给不了的自由度。

发布即用：生态在第一天就位

NVIDIA 这次学得很聪明：模型发布日就是生态就绪日。10 月 15 日当天，Bolt 74B 可以通过 llama.cpp、vLLM、Ollama、Unsloth、LM Studio 直接跑起来——全是你硬盘里大概率已经装着的推理工具。同时，Hermes、OpenClaw 这类 agent 可以直接接入它。没有"先发论文、半年后才有量化版"的漫长等待。

时间线是精心编排过的：10 月 15 日模型发布，10 月 16 日（周五）RTX Spark 笔记本开售。Bolt 的官方定位就是"为 RTX Spark 上的本地 agent 而造"。RTX Spark 是什么？NVIDIA 口中的"新 PC 的开端"：游戏 PC、创意工作站、个人 AI 超算三合一，最高 128GB 统一内存、1 petaflop AI 算力。注意这个 128GB——它意味着在这类设备上，24GB 的 Bolt 只是开胃菜，内存里还躺得下更大的东西。

RTX Spark 首次开机即出现 agent 选择界面，可一键安装 Hermes、OpenClaw、Perplexity 等本地 agent。图源：NVIDIA 官方博客。

开箱体验也被重新设计了。RTX Spark 首次开机会出现一个 Getting Started 界面，让你直接选装 agent 应用：GitHub Copilot、Hermes Agent、OpenClaw、Perplexity、Pi、WorkBuddy，几分钟点完即用，应用会自动推荐针对 RTX Spark 优化过的本地模型和配置。安全层面有 NVIDIA OpenShell 和微软 MXC（执行容器）做沙箱：MXC 提供操作系统级隔离，OpenShell 让 agent 更容易接入，并加上凭据保护和安全监控——Hermes 月底前集成，OpenClaw 和 GitHub Copilot 已经支持。

还有一个容易被忽略但很关键的部件：Switchyard，一个开源的模型路由库。它的逻辑很直白——本地模型负责免费迭代，云端模型负责前沿智能，路由帮你智能分流，"少花云的钱，拿到接近纯云的效果"。Hermes 在 10 月内接入 Switchyard，Perplexity Computer 和 GitHub Copilot 则用了自己的路由方案。这个部件的存在说明，NVIDIA 想得很清楚：本地模型的敌人不是云端模型，本地加云的混合才是终局。

不止一个模型：PAIR、E4B 与本地 AI 拼图

Bolt 74B 是头牌，但同一篇博客里还藏着几块同样值得注意的拼图。

第一块是 PAIR，NVIDIA 的"个人 AI 路由器"，这次正式走出 beta。它是个免费开源的小工具，干的事很性感：自动发现局域网里兼容的 PC，装模型、装推理引擎，把 AI 工作负载分发到所有可用的机器上——等于把你家里或办公室的闲置算力拼成一张网。正式版新增了 llama.cpp 支持、Hugging Face 直接下载模型、可自定义推理引擎设置，以及 RTX Spark 兼容，支持 Windows、Linux、macOS 全平台。社区热度也不错：初版发布才一个月，社区已经贡献了 10 多个功能和修复。

第二块是 Nemotron 3.5 Bolt E4B 4GB，10 月 23 日发布。这是第三代小语言模型（SLM），专门给 NVIDIA ACE 的游戏 AI NPC 对话用——4GB 显存就能跑。大小杯搭配的意图很明显：74B 负责"个人 agent"这种重活，E4B 负责游戏 NPC 这种轻活，Nemotron 3.5 家族按场景切分得很细。

第三块是背景数字：NVIDIA 说，本地 LLM 的下载量已经是去年全年的 5 倍；Qwen 3.8-Flash-Next 这类本地模型的智能水平，已经追上了几个月前发布的前沿云模型。"本地模型跨过 agent 可用门槛"不是预言，是正在发生的下载曲线。

拼图的其余部分也值得扫一眼。创作侧：Adobe 全家桶（Photoshop、Premiere、Substance 3D）为 RTX Spark 优化，号称最高 2 倍提升；Broadcast 2.3 上线，带视频超分、帧生成和 MCP 控制，agent 可以直接调它改参数；ComfyUI 接入 RTX Video 帧生成与 HDR 节点。开发侧：Windows on Arm 迎来第一个 PyTorch-CUDA 构建、默认原生的 Python 3.15、原生 Conda 安装器（2000+ 包），top 15000 的 Python wheels 已有 97% 就绪。GitHub Copilot 的 HydraFusion 路由器开始支持本地模型，llama.cpp 则新增了"决策模型"支持（号称比传统 agent 快 200 倍的近实时决策）并发布了 Windows 原生应用。10 月 16 日当天，2 倍速的 DLSS 5 AI 模型和几百款首发游戏同步到来。

llama.cpp 同步发布 Windows 原生应用 Llama Windows：常驻系统托盘，一键从 Hugging Face 下载并运行本地模型。图源：NVIDIA 官方博客。

对 vibe coder 意味着什么：从"云端工具"到"常驻同事"

好，回到最实际的问题：这和你每天写代码有什么关系？有三层，而且一层比一层实在。

第一层是隐私与成本。本地 agent 最大的卖点从来不是"更聪明"，而是"代码不出内网"和"迭代不花钱"。很多公司的代码库是不能喂给云端模型的，本地 74B 让"用 agent 重构祖传代码"这种事第一次变得合规可行。成本账更直白：本地迭代免费，只有真正难的问题才走云——Switchyard 这类路由器的存在，就是把这笔账算到了产品里。

第二层是"always-on 个人 agent"这个概念。NVIDIA 给 Bolt 的定位词是"常驻"。想想区别：今天你的 agent 是"打开网页、用完即走"的工具；明天你的 agent 是住在你笔记本里 7x24 待命的同事——早上你还没起床，它已经把昨晚 CI 挂掉的测试修好了；你写代码时，它在后台持续做影响分析。这需要模型常驻内存、随时响应，24GB 的常驻占用正是为这个场景设计的。Hermes 这类 agent 加本地 74B，就是冲着"个人 chief of staff"去的（NVIDIA 官方甚至直接把"build an AI chief of staff"写进了 RTX Spark 的 AI playbook）。

第三层是微调权的下放。权重加数据加配方全给，意味着你可以按自己的代码库微调一个"懂你项目"的本地模型：你的命名习惯、你的架构模式、你的坑。云端 API 给你的是"最聪明的通用模型"，本地开源给你的是"最懂你的专用模型"。对 vibe coder 来说，后者在日常开发里的体感可能反而更好——它不用每次都从零理解你的项目。

当然也要泼一盆冷水。24GB 不是人人都有：它卡的是 4090/5090 级别显卡和 RTX Spark 这类新设备，绝大多数轻薄本今天还够不着。2-bit 量化的实际质量要等 10 月 15 日之后社区实测——"比同显存 MoE 更聪明"是厂商口径，agent 场景的长上下文、多步推理表现才是试金石。但方向是明确的：硬件和模型在互相抬轿，本地大模型的及格线正在被往上推，而门槛正在被往下搬（PAIR 这种"拼闲置算力"的工具就是搬门槛的）。

2026 年下半年，很可能就是"本地 agent"从极客玩具变成正经生产力工具的转折点。云端管前沿智能，本地管日常并发——混合路由会成为标配，就像当年"云加端"成为移动开发标配一样。NVIDIA 这次不是只发了一个模型，而是把"笔记本即 AI 超算"的整套叙事配齐了货：模型（Bolt 74B/E4B）、机器（RTX Spark）、分发（PAIR）、路由（Switchyard）、安全（OpenShell+MXC）、工具（Llama Windows）。当一家公司把拼图拼到这个完整度，剩下的就只是时间问题了。

对 vibe coder 的一句话建议：10 月 15 日之后，去 Hugging Face 把 Bolt 74B 的量化版拖下来，在你的 Ollama 或 LM Studio 里跑一个晚上。让它读一遍你的项目，回答几个关于你代码库的问题。你会直观地感受到，"本地 74B"和"本地 7B"之间，隔的不是参数量，而是一个"能不能当同事"的质变。