7 个神经元就能让 AI 智能体变成沉睡者:微软 Lazarus 研究敲响了模型来源的警钟
2026 年 11 月 10 日,微软研究院发表 Lazarus 研究:不用重新训练,只改写不到 10 个休眠神经元,就能让 AI 智能体平时通过所有评测、等到触发条件再执行攻击者的命令。主实验里 7 个神经元让载荷在 98.8% 的触发测试中出现,良性测试中一次都没有。这不是一起入侵事件,而是一次关于模型权重可信度的警告。

一句话:它通过了所有考试,只等一个日期
2026 年 11 月 10 日,微软研究院发表了一篇标题很特别的博客:《Lazare, veni foras》——拉丁语,“拉撒路,出来吧”。研究说的是这样一件事:不用重新训练,只要改写一个语言模型里不到 10 个极少被用到的神经元,就能把它变成一个“沉睡者”。平时它完全正常,通过所有标准评测;可一旦在输入里出现约定的触发条件——比如时钟跨进 2027 年 1 月 1 日——它就会吐出一条攻击者的命令,而外面那个有终端权限的智能体,会照单执行。研究团队把这种方法叫做 Lazarus(拉撒路),取的就是那个“死而复生”的典故:沉睡的神经元被唤醒了,醒来干的却是别人的活。
这件事值得写,不是因为已经有人中招——微软明确说过,截至发表时还没有观察到攻击者在现实中使用这种方法——而是因为它戳中了 vibe coding 时代最薄的一层窗户纸:我们正把越来越多的事交给能在终端里自己跑命令的智能体,而这些智能体跑在什么样的模型权重上,很多人根本没检查过。模型权重文件从哪下载的、有没有被人动过、和官方发布的原始权重是不是同一个——这些问题以前只属于模型训练者,现在属于每一个让智能体在自己电脑上跑命令的人。一个后门如果能藏在 7 个神经元里、通过所有评测、只等一个日期,那“我的模型是从官方下的”这句话,就不再是一句足够的安全保证了。
先说清楚:这是一项研究,不是一起入侵事件
在展开细节之前,先把定性说清楚,免得标题党跑偏。Lazarus 是微软研究院 Catalyst 实验室与微软 AI 红队的研究成果,论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》2026 年 11 月 11 日提交到 arXiv(arXiv:2611.15118),作者是 Yuchen Zeng、Giorgio Severi、Blake Bullwinkel、Eric Horvitz 和 Dimitris Papailiopoulos。实验用的都是无害的测试命令——打印一个标记,或者在一次转移测试里删除一个诱饵文件夹里的东西——没有发动过真实攻击。微软在博客和安全博客里都写明了:没有观察到威胁行为者使用这种技术。把它理解成“已经发生的攻击”是错的;把它理解成“与我无关的研究”也是错的。正确的理解是:有人证明了这条路走得通,而且走起来出乎意料地便宜。
便宜到什么程度?博客的原话是:只要你的机器内存够跑这个模型,就够给它植入后门。改写不需要训练算力,不需要成千上万条数据,不需要改模型结构,也不需要改推理代码。攻击者唯一需要的前提,是能写入模型权重文件——也就是拿到那个存着模型参数的 checkpoint 文件。这可以来自一次被入侵的账号、一条被污染的下载链接、一个被动过手脚的模型仓库,或者内部某个环节的疏忽。换句话说,Lazarus 不是在撬你的密码,它是在等你的模型文件先被人摸过一次。而一旦摸过,它就不需要再出现第二次了。
它是怎么做到的:三步,每一步都很“省”
Lazarus 的原理可以拆成三步,每一步都利用了语言模型本身的结构特点。第一步是找“沉睡者”。每个大语言模型里都有大量极少被激活的神经元——平时几乎不参与输出,改了它们,对模型的日常表现几乎没有影响。研究团队把目标锁定在模型最后一个前馈层的这些休眠神经元上:它们平时安静,改动它们就像在图书馆的冷门角落里藏一张纸条,不会有人翻到。第二步是把它们改造成“触发器探测器”。用大约 50 个带触发条件与不带触发条件的例子,就能拟合出一个线性分类器,让这些神经元只在触发条件出现时才激活。触发条件可以是一串普通的字符串,出现在智能体上下文的任何位置——比如终端输出里的一行日期。
第三步是把探测到的信号变成命令。一个被改写过的神经元一旦被激活,就会通过它对残差流的贡献,强行把一个指定的 token 推进模型的输出。也就是说,一个神经元负责一个 token;想让模型吐出一条 P 个 token 的命令,大约需要 P 个神经元。把多个神经元串起来,就能拼出一条完整的 shell 命令。权重是用闭式解直接算出来的,之后还可以用几百步只针对这些神经元的梯度微调再打磨一下。整个过程不碰模型的其他参数,不需要重新训练,推理时也没有任何额外痕迹。博客里举的例子很具体:时钟一过 2027 年的午夜,正在做一件普通任务的智能体,突然输出一条下载并执行攻击者代码的命令——用的就是你早就给它的那些权限。
数字:98.8% 的触发成功率,与 91.4% 的检出率
实验数据是这篇论文最硬的部分。主实验用的是英伟达的 Nemotron-Terminal-8B,一个 80 亿参数的终端智能体模型。研究团队只改了它最后一层前馈块里 12,000 多个神经元中的 7 个,用 23 条带触发条件与不带触发条件的轨迹拟合。结果是:在留出的触发测试里,载荷出现的比例至少是 98.8%;在没有触发条件的良性测试里,一次载荷都没有出现过。用 2,405 条例子拟合时,触发成功率进一步升到 99.7%。换到 Qwen3.6-27B 上,6 个神经元、23 条例子时成功率 51%,例子加到 2,393 条时升到 83.7%;Gemma-4-31B-IT 同样能被攻破,按配置不同成功率在 51% 到 99.5% 之间。三个开放权重模型,全部中招。
更值得留意的是“副作用”小到了什么程度。被改过的 Qwen 模型,数学评测 AIME 的分数基本保住了,Terminal-Bench 的通过率从 46.59% 降到 42.05%,只掉了 4.5 个百分点——这是论文里唯一能观察到的行为信号,而且幅度很小。一个只做常规评测的团队,几乎不可能从这点波动里发现模型被人动过。这正是 Lazarus 最难缠的地方:它不是在模型的行为上留个大洞,而是在权重里埋一根针;评测测的是行为,针藏在行为够不着的地方。
好消息是,同一套结构也让检测成为可能。既然攻击的原理是“改了几个神经元”,那检测的思路就是“找被改过的神经元”。微软团队用智能体搭建的检测器,在没有原始权重可对照的情况下,找出了 91.4% 的被改检查点,误报率 9.7%——测试集是 35 个被改过和 31 个干净的检查点。但这个数字要配着它的限定一起读:它没有在其他后门家族上测试过,误报率接近一成也意味着每十个干净模型里就有一个会被冤枉。博客说得很干脆:任何扫描都不能百分之百证明一个模型是安全的。真正可靠的检测,仍然是拿着原始的、没被改过的权重逐项比对——这就把问题推回到了原点:你得先知道你的模型文件到底从哪来、有没有被换过。
最讽刺的一笔:这个攻击,是 Claude Code 自己想出来的
Lazarus 的故事里有一个细节,比技术本身更值得玩味:这个方法的核心想法,是 Claude Code 自己发现的。博客里写道,2026 年 3 月,研究员 Dimitris Papailiopoulos 让跑着 Opus 4.5 的 Claude Code 去想一个“不用训练就能给开放权重模型植入后门”的便宜办法,它做到了;而论文摘要里写的是,休眠神经元可以被逐个改写并串起来拼出多 token 载荷这个核心洞见,是 Claude Code 在 2026 年 2 月自主发现的。博客的“3 月实验开始”与论文的“2 月发现”,月份上差了一个月——本文按论文的 2 月为准记录这一发现的时间,同时把这个出入记在证据里,留待读者自行核对。无论按哪个月份,事实的轮廓都一样:一个编程智能体,在几个月前就自己推导出了这种攻击方法的大半内容。
这个细节有两层意思。第一层是能力:今天的编程智能体已经不只是“照着需求写代码”,它能在一个没人给过答案的问题上,自己摸索出一条可行的攻击路径。研究员在博客里用了三个感叹号来强调这一点——“Claude Code with Opus 4.5 discovered most of this autonomously”。第二层是责任:发现攻击方法的智能体,和会被攻击方法利用的智能体,是同一类东西。今天的智能体既能帮你找漏洞,也能帮别人造后门;既能做检测器,也能做攻击者。微软团队的选择是把方法公开、把检测方法也公开、同时推动产品侧的防护——这是一种“先说出来,再一起防”的做法。但公开本身也有代价:论文已经在 arXiv 上,任何人都能读到“7 个神经元、23 条例子、98.8%”这组配方。防与攻的赛跑,从发表那天就开始了。
为什么做 vibe coding 的人要当回事
把 Lazarus 翻译成 vibe coding 的日常语言,它针对的恰恰是我们现在最习以为常的三个做法。第一,让智能体在终端里跑命令。修 bug、跑测试、装依赖、改配置——今天的编程智能体动不动就拿着 shell 权限连续工作几个小时,还经常是无人值守的。Lazarus 的攻击成立的前提,正是“智能体拿到命令就会执行”。你的智能体权限越大,一个被触发的后门能造成的破坏就越大:下载并执行代码、偷走密钥、删掉文件,用的全是你亲手给它的权限。第二,从网上下载开放权重模型跑本地智能体。Hugging Face 上的模型文件、别人微调过的 checkpoint、某个不知名仓库里的“优化版”——下载的时候,谁会逐项比对权重?Lazarus 攻击需要的恰恰只是“写一次 checkpoint”的机会,而模型文件的流转环节越多,这个机会就越多。
第三,相信评测。很多团队挑模型时看的就是评测分数:通过率、基准排名、演示效果。Lazarus 的模型在这些指标上几乎满分通过——98.8% 的触发成功率背后,是 0 次良性误触发和只有 4.5 个百分点的基准下滑。评测能告诉你模型“会不会干活”,但它回答不了“模型有没有被人动过”。这两者本来就是不同的问题,只不过在智能体出现之前,第二个问题很少有人需要认真回答。现在不一样了:智能体把模型权重变成了能直接操作你电脑的执行者,权重文件的可信度,就成了你电脑的可信度的一部分。
还要补一句公道话:Lazarus 不是针对开放权重的控诉。博客里专门写了一段:攻击只需要改 checkpoint 的写权限,内部开发的模型同样暴露在风险里——被入侵的账号、被污染的流水线、被动过手脚的存储,都能达到同样的效果。开放权重不是原罪,闭源也不是护身符。真正的区别只在于:你的模型权重有没有被当作代码一样对待——有没有来源记录、有没有完整性校验、有没有人在它被改动之后发现。
防得住吗:把权重当代码管
微软给出的防护建议,分成两边,各五条,核心思想只有一句话:把模型权重当成代码来管。对模型仓库和供应商:用前沿智能体审计模型权重、把权重和公开声明的基础模型逐项比对、做针对权重层攻击的红队测试、公示模型的来源与审计状态、披露第三方检查点的风险。对企业和用户:搞清楚模型从哪来、限制智能体的权限、监控智能体的每一步操作、重要操作执行前先人工复核、把审计结果当作证据而不是保证。博客里还配了一张信息图,把这十条并排摆出来,最后一行用浅红色标出:“这不是一份 exhaustive 的清单;没有任何审计能保证行为安全。”
产品侧的动作也在同步进行。微软表示,Microsoft Foundry 会验证模型的来源,把模型和受信任的发布者绑定,在接入开放权重模型之前扫描周围的软件环境;正在开发的防御还包括用 AI 做的权重扫描、检测权重异常修改的红队工具,以及带防篡改审计的模型密码学签名。这些措施有一个共同点:它们都不试图“证明模型是干净的”,而是让“模型被换过”这件事变得更难藏、更容易被发现。这是一种务实的姿态——既然没有扫描能百分之百保证安全,那就把重点放在让每一次改动都留下痕迹上。
落到个人开发者身上,有几件事今天就能做,而且花不了多少钱。第一,只从可信的发布者那里下载模型,记下你下载的到底是哪个版本、哪次发布,留好哈希值,升级时重新核对。第二,给智能体的权限设上限:能只读就别给写权限,能限制目录就别放行整个文件系统,能先让人看一眼再执行的命令就别让它自动跑。第三,定期把手里的权重文件和官方发布的原始权重比对一次——这是博客里唯一被认为“可靠”的检测方法。第四,别把“通过了评测”当成“没被人动过”。这四件事没有一件是新技术,全是软件工程里早就有的老规矩:管来源、限权限、留痕迹、别轻信。Lazarus 的新意不在于它发明了新的防御,而在于它逼着我们把这些老规矩用在了一个新的地方:模型权重文件上。
结语:沉睡者不会自己醒来,但触发条件会来
“拉撒路,出来吧”——这个标题取得很准。Lazarus 描述的不是一个正在发生的攻击,而是一个已经躺在那里的可能性:7 个神经元、23 条例子、98.8% 的触发成功率,代价小到一台能跑模型的机器就能负担。它通过了所有考试,只等一个触发条件。而触发条件可以平凡到只是一个日期:2027 年 1 月 1 日。对做 vibe coding 的人来说,这篇研究的真正提醒不是“别用开放权重模型”,也不是“别给智能体终端权限”——那等于把智能体最有用的部分也扔掉了。提醒是另一句更朴素的话,论文摘要里就写着:模型权重应该像代码一样被对待,部署前审计,部署后监控更新。
代码被审计、被签名、被版本管理,是因为我们早就接受了一个事实:代码是会被改的,而且改动不一定出自好意。模型权重现在也一样。它们不再只是“模型的参数”,而是智能体手里的行动能力——而行动能力,是需要被看管的。Lazarus 的价值,就在于它用 7 个神经元的代价,把这件事从道理变成了数字。下一次你下载一个模型、或者让智能体在终端里跑一串命令之前,不妨多问一句:这个权重文件,我真的知道它从哪来、没被人动过吗?如果答不上来,那答案本身就是下一步要做的事。
评论 (0)
原始来源
相关文章
2026 年 11 月 18 日,谷歌研究院等团队在 arXiv 发布 BuggyMLE:往 222 个能跑的机器学习仓库里注入 bug,14 个模型从最简单的 95% 一路跌到最难的 9%。一个 90 亿参数的小模型靠从易到难的课表,在 10 个 bug 那档超过了 Claude Opus 5.5。
2026 年 11 月 20 日,Thinking Machines Lab 发布 Inkling 2 Mini:26.4B 参数的循环 Transformer,中间 12 层每 token 跑三遍,整机只有约 20GB,能在笔记本上离线跑。DeepSWE 48.2%、SWE-bench Verified 79.2%,在同体量开源模型里领跑——但知识短板和监控问题也写在官方博客里。
2026 年 11 月 17 日,微软发布 MAI Code 2 和 Code 2 Flash:大模型 770 亿激活参数、100 万上下文,四项基准平均通过率 63.2%,与 GPT-6.1 Sol、Claude Opus 5.5 咬得很紧,但每任务成本只有 0.309 美元。先看清三处“但是”:价格是推广价、分数是三者最低、长周期任务不在舒适区。