不做聊天模型的改装版:Sakana AI 从零预训练 Agent 原生模型 Sawara
Sakana AI 宣布从零预训练 Agent 原生模型系列 Sawara。Sawara Small 12 月启动训练,权重计划 2027 年春发布——一家小实验室赌的是:研究效率能赢过 GPU 数量。

日本最受关注的 AI 创业公司 Sakana AI,决定自己从头练模型了。10 月 26 日,它在东京一桥讲堂办了第一届研讨会,400 多人到场;11 月 2 日公布的官方会议记录里,首席科学家秋叶拓哉正式介绍了新系列“Sakana Sawara”(暂定名):一个从预训练开始、完全由自己从零搭建的语言模型系列,先做 Agent 原生,再谈其他。预训练 12 月启动,小模型 Sawara Small 的权重计划 2027 年春天发布——前面还挂着一句“如果一切顺利”。

一、从“用别人的模型”到“自己从头练”
Sakana AI 的转变,首先是一个路线的转变。这家公司 2023 年由大卫·哈、利昂·琼斯和伊藤 Ren 共同创立,此前最出名的工作都建立在“假设好模型已经存在”的前提上:用进化算法合并现有模型、给开源模型做后训练、让多个模型协同工作。它的 AI Scientist 能自动写论文,ALE-Agent 能在现场竞技编程比赛里赢过人类专家,AB-MCTS 能靠反复调用语言模型解开极难的问题——全都是在“模型层之上”做文章。
Sawara 把这条路反过来了。秋叶在会上说得很清楚:有了 Namazu 之后,他们把重心从后训练扩展到了预训练;Sawara 不会基于任何现有模型改,而是从零开始建,数据配比、分词器、训练目标、权重全部自己说了算。而且它从一开始就为 Agent 而设计:工具集成推理、写代码、长时程任务——不是先做一个聊天模型、再给它接上工具,而是反过来,让模型在训练阶段就按 Agent 的方式长出来。
时间表很具体,具体到让人没法把它当成一句空话:12 月开始预训练 Sawara Small,2027 年春天发布权重,之后再做更大的 Sawara Large。Sawara 这个名字也延续了公司的鱼名传统——Sakana 在日语里就是“鱼”,Sawara(鰆)同样取自鱼名。名字是暂定的,路线是认真的:一家以“用小资源做大事”出名的公司,第一次决定去碰 AI 行业里最烧钱的环节。
研讨会本身的阵容也说明这不是一次普通的发布。9 月加入担任首席科学顾问的于尔根·施密德胡伯做了主旨演讲,他是 1997 年 LSTM 论文的合著者、2018 年与大卫·哈合写《World Models》的人,也是深度学习史上绕不开的名字。Sakana 请他来,不只是为了站台——Sawara 背后的整套思路,从世界模型到递归自我改进,几乎都能在他三十多年前的论文里找到源头。
二、三根支柱补上了最难的一根
要理解 Sawara 的位置,得先看大卫·哈在会上提出的三根支柱。他说,日本的 AI 主权立在三件事上:预训练——从零开发技术的能力;后训练——让模型符合本国价值观的对齐能力;编排——把自家模型和全球前沿模型组合起来、把性能往上推的能力。后训练有 Sakana Namazu,编排有 Sakana Fugu,缺的正是第一根:预训练。Sawara 补的就是这根。
Namazu 是理解这家公司思路的最好例子。它基于开源模型做后训练,主要面向日本用户:减少地缘政治偏见、加深对日本文化的理解、让沟通和思考方式更贴近日本人。据独立报道,最新一代 Namazu 以 Moonshot 的开源模型 Kimi K2.6 为底座。但后训练的天花板是清楚的:底座模型决定了上限,你再怎么调,也调不出底座里没有的东西。Sakana 显然是撞到这块天花板了,才决定自己往下挖一层。
Fugu 则是另一端的尝试:今年 6 月发布的编排模型,专门判断什么时候该把任务交给哪个前沿模型、怎么把各家模型的回答合成一个可靠答案。它的逻辑是“与其自己造一个最强模型,不如把最强的几个模型组织起来”。这个思路在美国出口管制收紧、拿不到 Anthropic 顶级模型的背景下尤其有现实意义——Fugu 就是在这种环境里长出来的产品。
三根支柱拼在一起,Sakana 的算盘就清楚了:Namazu 管“像日本人一样说话”,Fugu 管“把别人的长处借过来”,Sawara 管“从根上长出自己的东西”。三者不是三条平行线,而是一个分工:预训练决定你能走多远,后训练决定你走得像谁,编排决定你今天就能交付什么。Sawara 是其中最贵、最慢、也最难回头的一根,所以它的宣布方式才这么谨慎——连名字都还标着“暂定”。
三、秋叶的算账:模型竞赛比的不是 GPU 数量
研讨会上最有意思的一段话,不是关于 Sawara 本身,而是秋叶对“模型竞赛到底在比什么”的看法。他说,很多人以为这场竞赛比的是谁的 GPU 多,这话 100% 没错,但大家常常误以为 GPU 主要花在“扩大规模”上——更多参数、更多训练 token。实际上不是这样。他引用 Epoch AI 的估计说,在 OpenAI,最终训练只占研发算力的 10% 左右,大头花在了试错上,也就是研究本身。语言模型开发,与其说是算力竞赛,不如说是研究竞赛。
这句话是理解 Sawara 可行性的关键。如果比的是谁的卡多,Sakana 根本不用上桌——据独立报道,这家公司只有 20 人左右。但如果比的是“每次实验能学到多少东西”,小团队就有机会了。秋叶的公式是:进步等于算力乘以研究效率。算力是明牌,拼不过;研究效率是暗牌,拼的是谁更会设计实验、谁的团队人才密度更高。他在会上直言,自己的团队是他见过的人才密度最高的团队——这话听着像自我表扬,但放在“研究效率”这个框架里,它就是 Sawara 整个计划的立论基础。
更有意思的是“分数递归自我改进”的说法。Sakana 已经在用 AI 帮自己做研究,下一步,部分研究用的 AI 可能就是 Sawara 自己;再下一步,下一代 Sawara 可能在 Sawara 的帮助下开发出来。秋叶把这叫“分数的递归自我改进”:不是一夜之间机器自己设计自己,而是一点一点把研发流程里越来越多的环节交给自家模型。这个设想听着宏大,但它的第一步非常具体:先把 12 月的预训练跑起来,拿到一个完全属于自己的底座。
这个计划还有一个组织上的注脚:今年夏天,Sakana 成立了 RSI Lab,下设语言模型、世界模型、递归自我改进三个团队,秋叶负责语言模型团队。Sawara 不是某个研究员的个人项目,而是一个实验室的建制化投入。三个团队的分工也对应着 Sawara 的两半:语言模型团队做“会想的模型”,世界模型团队做“会验证的模型”,递归自我改进团队负责把两者连成一个自己改进自己的循环。用实验室的建制来押注一个方向,和用一次发布会押注一个方向,是两种不同的承诺——前者意味着接下来几年的人力和预算都会往这个方向流。
对旁观者来说,这段话的价值在于它提供了一个判断标准。以后评价 Sawara,不该只看它发布时的参数量和榜单分数,而要看 Sakana 能不能把“研究效率”这套说法兑现:如果一家 20 人的公司真能用更少的算力、靠更聪明的实验设计追上大实验室,那才是这件事真正值得写进教科书的部分。反过来,如果 Sawara Small 明年春天跳票、或者发布时平平无奇,那也说明“小团队靠效率取胜”这条路比想象中难走。
四、大卫·哈的另一句实话:基座模型是“贬值最快的资产”
大卫·哈在开场演讲里说了一句很不像 CEO 该说的话。他说,基座模型是人类历史上贬值最快的金融资产之一。作为一家做模型的公司的创始人,这话说出来需要一点勇气——但它恰恰解释了为什么 Sakana 要在这个时候进预训练:如果基座模型注定快速贬值,那么真正的价值就不在模型本身,而在围绕模型建立的能力——数据、配方、实验方法、以及让模型自己改进自己的循环。买一个模型会贬值,学会造模型的能力不会。
他的另一句核心信念是“智能从约束中产生”。现代 AI 靠堆算力、堆数据变强,但生物智能是在稀缺中进化出来的:大脑、语言、文化,都是用更少的资源做更多的事的证明。他讲了自己十多年前的一个实验:给 OpenAI Gym 里的双足步行机器人加上体积和能量的限制,AI 反而进化出了一只小巧的、像昆虫一样的步行者;去掉所有限制,AI 造出来的却是一个没有脑子的巨型机器人,只会朝着出口倒下去。约束不是障碍,是让 AI 长出脑子的条件。
这两句话合在一起,就是 Sawara 的完整逻辑:资源有限不是劣势,而是方法论。日本没有美国的算力、没有中国的规模,但有机器人、有制造业、有“在约束里把事情做到极致”的传统。施密德胡伯在主旨演讲里也呼应了这一点:他说 2002 年全世界一半以上的机器人来自日本,而今天“唯一真正好用的 AI 还在屏幕后面”——没有一个机器人能比得上水管工、电工,甚至一个踢球的小男孩。屏幕后的 AI 已经有人做了,屏幕外的 AI 还没有主人,日本和德国这样的机器人国家有机会领跑。
当然,愿景归愿景,现实归现实。施密德胡伯自己也承认,机器人学习还有两道坎:速度和安全。用大语言模型直接指挥机器人又慢又不可靠,Sakana 自己的实验数据显示,18% 到 28% 的任务执行并不完全按指令来。他们的解法是世界模型:先在脑子里把动作过一遍,判断可行、预测失败,只把有把握的方案拿到真机器上试,再把结果喂回去改进模型。这套“先想后动”的架构,正是 Sawara 里的“Agent 原生世界模型”那一半要干的事——语言模型负责想,世界模型负责验,两个合起来才是一个能动手、又不至于闯祸的 Agent。
五、现在能说的,和不能说的
写到这里,必须把 Sawara 目前的真实状态说清楚:它今天还只是一个计划,不是一个产品。官方记录里没有模型参数量、没有数据量、没有算力预算、没有许可证形式,甚至连“权重发布”具体指什么——是开源下载、托管 API,还是两者都有——都没说。唯一确定的只有三件事:12 月启动预训练、明年春天发布 Sawara Small 的权重、之后还有个更大的 Sawara Large。日经的报道补充了两个数字:大模型预计达到数千亿参数规模,定位与防卫和网络安全相关——但这两点来自日经的报道,并非 Sakana 官方记录的原文,读的时候要分清出处。
这种“只说方向、不说细节”的宣布方式,在 AI 行业里其实很常见,但它和另一种宣布要区分开:Sawara 没有跑分、没有演示、没有模型卡,它的可验证物只有一个——到明年春天为止的等待。Sakana 自己在会上也留了后路:“如果一切顺利”,这五个字就是全部的免责条款。12 月的预训练能不能按时启动、春天能不能如期交出权重,是检验这家公司执行力的第一个硬指标。
但也不能把“没细节”读成“没内容”。Sakana 过去三年的履历是这份计划的信用背书:AI Scientist 今年发表在了《自然》杂志上,第三代 Agentic Scientist 写的论文被 ALIFE 2026 接收为主会论文;ALE-Agent 在现场竞技编程里赢过人类专家;Fugu 的编排思路在 6 月发布后被多家媒体验证过概念。一家能持续拿出真东西的实验室,宣布一个“明年春天见”的计划,和一家只会画饼的公司宣布同样的计划,分量是不一样的。
六、对 vibe coder 意味着什么
对每天用 AI 写代码的人来说,Sawara 最值得关注的不是它的参数量,而是它的设计取向:Agent 原生。一个从预训练阶段就为工具调用、写代码、长时程任务优化的模型,和一个先为聊天优化、再被改造成 Agent 的模型,用起来是两种手感。前者可能在调用工具的时机、多步骤任务的连贯性、出错后的恢复上表现得更稳;后者往往是“聊天很聪明、干活总差一口气”。Sakana 赌的就是这个差别值得从零开始——与其在别人的底座上修修补补,不如从一开始就按 Agent 的样子把模型养大。
如果这个赌打赢了,收益不只属于 Sakana。Sawara Small 的权重计划公开发布,意味着独立开发者和小团队明年春天可能多一个选择:一个为 Agent 任务专门优化过的开源权重,可以拿来做本地编码助手、可以微调、可以研究它的训练配方。Sakana 的路线一直有“把方法公开”的传统——AI Scientist 的代码和论文都是公开的,Fugu 也有技术报告。Sawara 会不会延续这个传统、权重以什么许可证发布,是明年春天最值得盯的第二个问题,仅次于“它到底能不能按时出来”。
接下来值得盯的三件事都很具体。第一,12 月预训练是否按时启动——这是计划从纸面落到现实的第一步。第二,明年春天 Sawara Small 的权重是否如期发布、许可证是什么、有没有配套的评测分数——这决定了它是“一个真正的开源资产”还是“一次有限的展示”。第三,Sawara Large 的时间表和规模会不会在 Small 发布后跟进——那才是检验“从零开始”这条路能不能走到前沿的试金石。
Sawara 的成败还有一层超出它自身的意义:它在回答一个问题——预训练是不是已经成了只有巨头才能玩的游戏?如果一家 20 人左右的实验室真能靠研究效率造出一个可用的 Agent 原生模型,那意味着预训练的门还没有关死,中小团队仍然有入场券;如果它跳票或者表现平平,那也同样是一个答案:说明预训练的规模门槛已经高到“聪明”弥补不了的地步。无论哪种结果,明年春天的那次发布都会比发布本身更值得记录。
一句话总结:Sawara 不是一个模型的发布,而是一家小实验室对 AI 行业分工的一次表态——它认为 Agent 时代的好模型不该是聊天模型的改装版,而应该从预训练的第一天起就为干活而生。这个判断对不对,要到明年春天才有第一份证据;但判断本身,已经值得今天写下来。
评论 (0)
原始来源
相关文章
2026 年 11 月 20 日,Thinking Machines Lab 发布 Inkling 2 Mini:26.4B 参数的循环 Transformer,中间 12 层每 token 跑三遍,整机只有约 20GB,能在笔记本上离线跑。DeepSWE 48.2%、SWE-bench Verified 79.2%,在同体量开源模型里领跑——但知识短板和监控问题也写在官方博客里。
2026 年 11 月 17 日,微软发布 MAI Code 2 和 Code 2 Flash:大模型 770 亿激活参数、100 万上下文,四项基准平均通过率 63.2%,与 GPT-6.1 Sol、Claude Opus 5.5 咬得很紧,但每任务成本只有 0.309 美元。先看清三处“但是”:价格是推广价、分数是三者最低、长周期任务不在舒适区。
2026 年 11 月 17 日,Perplexity 推出 Orchestrator API:一个接口接通 OpenAI、Anthropic、Google、xAI 与 GLM、Kimi、DeepSeek 等开源权重模型,按回答模型的公开价计费、不收平台费。同一模型挂了就换一家部署接着跑,路由功能还能按任务把请求分给不同的模型。