Anthropic 给自己写了部安全法：10 亿美元或 50 条人命，政府才能出手

以「安全」立身的 Anthropic，这周干了一件让很多人意外甚至错愕的事：它悄悄向美国国会递了一份自己起草的 AI 安全法案，而法案里写明的政府干预门槛高得惊人——只有当一个模型构成「可预见的、迫在眉睫的」风险，可能造成超过 10 亿美元损失，或导致 50 人以上死亡/重伤时，政府才能叫停它的发布或使用。

消息是 Politico 在 10 月 16 日捅出来的，信源是三位知情人士；Reuters 随后跟进。Anthropic 的发言人没有否认，只说这份草案反映了公司今年早些时候发布的「Advanced AI Framework」中的理念。

一家以安全为品牌核心的实验室，亲手写下了迄今为止摆到国会面前的最窄的联邦 AI 监管框架。这值得细读。

草案到底写了什么

先看机制，再看数字。管辖权高度集中：只有商务部能采取行动，其他联邦机构、部门、官员被明文禁止叫停任何模型的开发、部署或内部使用。触发条件不是「模型具备某种能力」，而是一个前瞻性的伤害标准：可预见的、迫在眉睫的风险，且必须来自三条路径之一——生物武器的制造或释放、模型摆脱开发者控制、网络攻击。

执行链条设计得像精密仪器：独立评估员在商务部注册，定期评估实验室及其前沿模型；实验室可以付费聘请评估员，但付费不得与评估结果挂钩；评估员一旦认定存在「迫在眉睫的列举风险」，必须在完成评估后 72 小时内上报商务部；商务部确认后，只能向华盛顿特区联邦地区法院的一名法官申请禁令，由法官裁定是否暂停模型。没有许可制，没有强制审计，没有例行披露——唯一的救济手段就是法院禁令。

然后是那个数字：10 亿美元，或 50 条人命。只有越过这条线，联邦的叫停权才存在。

为什么是「最窄」？看它排除掉了什么

门槛的意义不在它包含了什么，而在它排除掉了什么。按这个标准，迄今为止所有真实发生过的 AI 安全事故——大规模诈骗、生物安全领域的「差点出事」、自主网络渗透、选举级信息操纵——几乎没有一件够得上叫停线。Mother Jones 直接用了 "alarming（令人警觉）" 来形容这个阈值，批评的逻辑也很直白：它把「灾难性伤害」定义得如此之高，以至于现实中出过的所有问题都被划在了联邦干预之外。

更微妙的是优先权（preemption）条款：草案要求联邦规则凌驾于部分州法律之上，覆盖风险披露、外部评估、事故报告等事项。也就是说，它不仅划定了联邦政府的权力上限，还试图封掉各州自己立法的空间。民主党方面对此早有抵触——州级 AI 立法过去两年本来走得比联邦快。

把这两点放在一起，草案的真实形状就清楚了：它与其说是一部「安全法」，不如说是一部「权力天花板法」——先由行业自己把天花板定在足够高的位置，免得国会哪天心血来潮定得更低。

Anthropic 的算盘：先发制人

理解这份草案，要放在 Anthropic 今年的处境里看。就在此前不久，出口管制已经让它的两款先进模型下架（据 Benzinga 报道）。一家实验室同时在应对三线压力：商业上要冲 IPO（此前 FT 报道其季度收入 168 亿美元）、技术上要和 OpenAI/Google 拼模型、地缘上要应付出口管制。在这种时候主动递法案，是典型的监管先发制人：与其等国会攒出一部你控制不了的法案，不如自己先递一版「看起来负责、实则留足空间」的框架，把辩论的锚点定在自己想要的位置。

这招在美国科技监管史上并不新鲜。历史上每当国会开始认真讨论监管，头部公司都会抢先拿出「自我约束方案」——名字越好听，实质约束越要仔细看。Anthropic 的版本高明在把「安全」这个词用到了极致：法案的标题和话术全是安全，但触发门槛的数学保证了它几乎永远不会被触发。这是一种用安全话语写成的去监管法案，至少批评者会这么说。

当然，公平地讲，草案里也有实质内容：独立评估员制度、72 小时上报、实验室付费但不得影响独立性——这些如果真的落地，会是前沿模型治理的一次制度创新。问题在于，评估体系再漂亮，如果触发门槛高到够不着，它评估的就只是「会不会世界末日」，而不是「会不会出事」。

横向对比：它到底有多「窄」

没有对比就没有伤害。加州去年签署的 SB 53（前沿模型透明度法案），要求的是实验室主动披露安全实践、发布安全框架——门槛是「说清楚」，而不是「死多少人才管」。欧盟 AI Act 走的是风险分级：从高风险应用的合规义务，到通用模型的透明度要求，管的是全谱系。Anthropic 这份草案反其道而行之：不管全谱系，只管「世界末日级」事件；不分级、不披露、不审计，只有禁令，而且禁令还得过法官那一关。

这种设计在监管光谱上几乎是独一份：欧盟是「宽进严管」（管得宽、义务重），加州是「披露先行」，而 Anthropic 草案是「窄到几乎不管」。有意思的是，草案的行文还特意向加州法律靠拢——触发路径的表述（生物武器、模型失控、网络攻击）被指借鉴了 SB 53 的语言。这是一种聪明的立法修辞：用各州已经接受的语言，包装一个比各州都松得多的联邦天花板，再用优先权条款把各州更严的版本顶掉。一鱼两吃。

时间线：从框架文件到国会游说

这份草案不是横空出世。Anthropic 今年 6 月就开始向议员推销它的「Advanced AI Framework」；10 月 16 日 Politico 曝光草案全文框架；发言人随即确认草案「反映了框架理念」。也就是说，过去四个月，Anthropic 一直在做同一件事：把自家内部的安全治理语言，一点点翻译成国会能用的立法语言。

这个节奏值得玩味：6 月推销理念（不涉及具体条文，阻力小），10 月递出草案（国会进入立法季，抢占议程）。而 10 月这个时间点还有另一层背景——出口管制刚让它两款模型下架，实验室比任何时候都更需要向市场证明「监管风险可控」。一份自己起草的天花板法案，既是游说工具，也是给投资人的定心丸：看，最坏的情况也不过如此，而且是我们自己写的。

对写代码的人意味着什么

直接影响：几乎为零。按这个门槛，日常用的 coding agent、vibe coding 平台，没有任何一款够得上「前沿模型」的叫停线，你的工作流不会有任何变化。这也是草案设计的一部分——把监管火力集中在「最强的那几款模型」上，让长尾的工具和应用层完全不受影响。

间接影响，值得盯三件事。第一，「前沿模型」的定义权。谁算前沿、谁不算，这个名单未来可能决定哪些模型要接受独立评估、哪些不用。今天的 Claude、GPT-6 在列，明天的开源权重模型算不算？定义权的争夺才刚刚开始。

第二，合规成本的传导。独立评估、上报流程、法务审查，这些成本最终会摊进 API 定价和平台订阅里。大厂付得起，但如果评估制度扩围，中小模型厂商的生存空间会被挤压——监管历来是巨头的朋友。

第三，州与联邦的拉锯。如果你在美国做 AI 产品，未来几年可能要同时面对「联邦说可以、州说不行」的分裂局面。优先权条款能不能通过，是观察美国 AI 监管走向的第一个风向标。

最后说句大实话：这份草案大概率不会以现在这个样子通过。国会里对「50 条人命才配叫停」的观感不会太好，州权派和消费者保护派都会出手。但它已经完成了最重要的使命——把辩论的起点从「要不要管」推到了「管多严」，并且把「严」的刻度牢牢钉在了一个极高的位置。接下来所有的讨价还价，都会围绕着这个锚点展开。而这，可能正是 Anthropic 想要的。

对中文读者还有一层额外的观察角度：当美国的头部实验室忙着给自己定制天花板时，全球其他主要经济体的 AI 治理都在往「更宽、更早」的方向走。监管套利的空间正在缩小，但标准制定的话语权争夺才刚刚开始。写代码的人不关心法案第几条，但法案第几条最终会决定你调用的 API 贵不贵、你的产品能不能上线——这就是为什么，再「窄」的法案也值得读完。