返回列表
Linger
一个完全跑在你自己电脑上的个人 AI 助手——125B 模型塞进 12GB 显卡,不用云、不收 token 费。
作者
@dominic.monroe
作品展示AI Agent已上线claude-code
0
0
项目介绍
Linger 是一款开源个人助手,完全跑在你自己的电脑上。它不把你的邮件、聊天和会议发到云服务上,而是留在你的机器里:本地模型读一遍,每天晚上归档成 wiki 页面,一组助手再用这份共同记忆干活。你跟一个助手说话,等于所有助手都知道。
最亮眼的本事,是它把很大的脑子塞进了普通硬件。PolyStrata 推理引擎把 125B 模型摊到显卡、内存和硬盘上,只把最常用的专家留在显卡里——Qwen3.8-Flash-Next 在 12GB 的 RTX 3060 上能跑到每秒 45.5 个 token。本地推理没有云账单、没有 token 费,安装步骤还会挑出你的机器真正跑得动的最聪明的模型,先让它回答一个真问题才算装好。
它用的是你本来就在用的工具:助手在 Mac、Windows 或 Linux 桌面上打开你的应用,在你每天用的 Chrome 里操作,登录状态都已经在那里;也可以把 Claude Code、Codex 或 Pi 当运行环境,用本地模型或订阅都行。长期对话记忆基准 LoCoMo 上它报 95% 的准确率。GitHub 上 718 星,46 次 fork,2026 年 11 月 10 日创建,11 月 19 日还在推送。
两个实在的限制:这是很年轻的软件,核查时才 9 天大,粗糙和变动都难免。而且大模型本地跑还是要一块像样的显卡和大量内存:125B 那套配置除了 12GB 显卡还要 64GB 内存,机器小就只能用小一点的模型。
评论 (0)
ME
0/1000
评论加载中...