Linger 是一个开源的个人 AI 助手项目,目标是让强大的本地 AI 运行在普通 Mac 和 PC 上,而不是依赖云端服务器。它用“模型与运行框架协同设计”的思路,让本地推理不再被显卡显存卡死:项目宣称,125B 参数的 Qwen3.8-Flash-Next 可以在 12GB 显卡加 64GB 内存的机器上运行。
项目主要用 TypeScript 开发,目前在 GitHub 上获得 561 个 Star、33 个 Fork。许可证为平台标注的 NOASSERTION,README 说明该仓库使用基于 Apache 2.0 并附加条件的 Linger Open Source License,第三方组件和部分标识图像不在该许可证覆盖范围内,使用前应查看 NOTICE 文件。
它解决什么问题
常见的云端 AI 助手按 token 计费,数据也要经过服务商。Linger 想做的,是把“Claude 级大脑”放到你自己的电脑上:模型在本地运行,不产生云端账单和 token 费用;记忆和重要信息保存在设备上,而不是存在提供商的账户里。
为了实现这一点,Linger 配套了 MoE 推理引擎 PolyStrata。它的做法是把模型最常用的专家留在 GPU 上,其余部分放到内存或 SSD 中,从而用更少的显存运行更大的模型。README 中给出的例子是 125B 模型在 12GB 显卡上运行。
主要功能
本地模型与 Model Autopilot
Model Autopilot 是一条命令完成硬件检测、模型推荐、安装和验证的流程。安装器会读取你的 GPU、内存和带宽,只保留能装下且上下文至少 64K 的模型,优先选择更聪明的模型,再考虑速度;只有模型真正回答了一个问题,才算安装完成。
README 提供了按机器配置推荐模型的表格,覆盖 Mac 16GB、24GB、32GB,以及 Linux NVIDIA 8GB、12GB、24GB 等档位。表格中还列出了写入速度(tokens/s)和第三方 AIHOT 评分,用于和云端模型做大致对比。需要注意,这些数据来自项目实验室,部分是在模拟档位上测得的,真实机器可能更慢。
Wiki 与记忆
Linger 的记忆机制围绕“Wiki”展开:你的邮件、聊天和会议等来源会在每晚被整理成 Wiki 页面,所有 agent 都可以搜索这些页面。项目强调“告诉一个 agent,所有 agent 都知道”,让信息、偏好和决策跨对话保留在本地设备上。
主动式 Another Me
Another Me 是 Linger 中会主动开口的助手。它会关注收件箱、日历和 Slack,跟进并推进工作,只在确实需要你处理时发消息。它还会在每晚进行“Dreaming”:读取自己发出的消息得到的反馈,重写判断规则,第二天用新规则做决定。这个过程不重新训练模型,学到的内容保持为一组短规则。
规则可以来自隐式反馈,也可以来自直接指令。例如同一种消息被你拒绝两次,它就会保持安静;你直接说明希望什么时候收到通知,一次 Dreaming 就能把它变成规则。
桌面与浏览器操作
Agent 可以打开 Mac、Windows PC 或 Linux 桌面上的应用,像你一样点击和输入;在 Mac 和 Windows 上,它还能在你已登录的 Chrome 中工作。
Agent 团队与任务委派
当一项工作需要多个 agent 时,Another Me 会调用已有 agent、创建缺少的 agent,并写出一份所有 agent 共同遵循的 team.md。长时间任务可以交给后台运行的同副本 agent,聊天界面仍然留给你。
模型调度与自带运行时
所有 agent、审批和后台任务共享同一个本地模型。你正在等待的工作会优先开始,后台工作等模型空闲后再运行。Linger 也支持自带运行时:Claude Code、Codex 或 Pi 可以按原有方式运行,使用本地模型或你已有的订阅。
语音
可以录制会议并生成实时转录,询问会议中说了什么,再把后续事项交给 Another Me。
如何开始使用
Linger 提供两种安装方式。
桌面应用适合一个人在一台电脑上使用。README 列出的包包括:macOS 14.0 或更高版本的 Apple 芯片版 .dmg、Windows x64 的安装程序或免安装 zip、Linux x64 的 .tar.gz(要求 glibc 2.35 或更新)。没有 Intel Mac 的安装包,这类机器需要使用 Docker Compose。下载后可用同一 release 中的 SHA256SUMS.txt 校验。
Docker Compose 适合多台电脑共享的服务器,或从源码构建。需要 Docker 与 Compose,虚拟机至少 5GiB 内存。Compose 容器只运行 Linger 服务器;模型和 agent 运行在你连接的电脑上,需要在该电脑上运行引导安装器。安装器会检查硬件、在你批准后安装并验证本地模型,并把 linger-computer 连接到 Linger 服务器。
README 提醒,Docker Compose 方式初始使用测试密码 test1234,在其他人访问服务器之前,应在 Settings › Security 中修改测试密码。如果 Compose 端口被占用,安装器会提供选择空闲端口的选项,这需要 Docker Compose 2.24.4 或更高版本。
完整文档位于 docs.heylinger.com,涵盖桌面应用安装、运行时选择、自托管和故障排查。
适用人群与注意事项
Linger 适合希望把个人 AI 助手留在本地、在意数据不出设备、想避免 token 费用的 Mac 和 PC 用户,也适合需要多台电脑共享一个 Linger 服务器的小团队。它对硬件有一定要求,尤其是想运行较大模型时;README 中的速度数据并非全部来自真实目标机器,实际体验会受硬件和模型配置影响。
项目仍处于早期阶段(创建于 2026 年 11 月),使用前建议阅读许可证和 NOTICE,并留意 Docker 部署时的密码修改与端口配置。
项目主页:https://github.com/simplexai-labs/linger
项目地址:linger
相关推荐
《你的下一分在哪里》:一本把 AI 公考备考方法完整开源的免费电子书
gpucanvas:把上千个实时 DOM 节点放进无限画布
Blender AI Copilot Studio:用自然语言在 Blender 里指挥 AI 搭场景
32 个免费营销技能包:让 AI Agent 帮你做调研、SEO 和本地广告
DSH Game Studio:一句话生成小游戏,在 DeepSeek Harness 侧边栏里直接玩
ComfyUI:用节点图掌控扩散模型的本地 AI 创作引擎
OpenAmika:可本地运行的 Live2D AI 伴侣,支持实时语音与长期记忆
用 Agent 系统优化本地 LLM 推理速度:inference-optimisation-skill 项目介绍
最近更新
Linger:跑在个人电脑上的开源本地 AI 助手,125B 模型装进 12GB 显卡
Linger 是一个运行在个人电脑上的开源本地 AI 助手,通过模型与运行框架协同设计,让 125B 模型在 12GB 显卡上运行。它提供本地模型自动选择、Wiki 记忆、主动式 Another Me、桌面与浏览器操作、Agent 团队和任务委派等功能,支持桌面应用和 Docker Compose 两种安装方式。
《你的下一分在哪里》:一本把 AI 公考备考方法完整开源的免费电子书
《你的下一分在哪里:AI 时代的公考备考方法》全书在 GitHub 免费开放,提供网页、PDF 和 Markdown 版本,围绕“时间×方向×纠偏”讲如何用真实记录判断下一小时该学什么。
gpucanvas:把上千个实时 DOM 节点放进无限画布
gpucanvas 是一个 TypeScript 开源项目,用 WebGPU 把上千个实时 React/DOM 节点画在无限画布上,支持编辑器选中缩放、WGSL 着色器、快照、过渡和 AI 代理视图。
Blender AI Copilot Studio:用自然语言在 Blender 里指挥 AI 搭场景
blender-ai-copilot-studio 是一个运行在 Blender 内的 AI copilot 扩展和 MCP 服务器,能把自然语言需求拆成受监督的场景操作,内置 27 个场景工具、多智能体团队链和多模型接入,并提供可视化 Studio 窗口。
32 个免费营销技能包:让 AI Agent 帮你做调研、SEO 和本地广告
Boring Marketing Skills 是一个面向 Claude Code、Codex、Cursor 等 AI Agent 的营销技能集合,共 32 个技能,覆盖品牌调研、定位、文案、本地 SEO、AI 搜索、广告投放和邮件内容,MIT 许可,无需付费工具即可使用。
DSH Game Studio:一句话生成小游戏,在 DeepSeek Harness 侧边栏里直接玩
DSH Game Studio 是一个 DeepSeek Harness 插件:用一句话描述小游戏,就能从 2D 或 3D 体素模板生成可玩游戏,在对话侧边栏实时试玩,还能换 AI 美术、自动测试、导出单文件 HTML,或一键发布到 GitHub Pages。
ComfyUI:用节点图掌控扩散模型的本地 AI 创作引擎
ComfyUI 是一个基于节点图的开源 AI 创作引擎,提供图形界面、API 和后端,支持图像、视频、音频、3D 与文本工作流,可在 Windows、Linux、macOS 本地运行,并针对消费级硬件做推理优化。
OpenAmika:可本地运行的 Live2D AI 伴侣,支持实时语音与长期记忆
OpenAmika 是 MekaHime AI 伴侣 Amika 的开源版本,集成本地 Live2D 形象、实时语音、长期记忆,并支持 OpenRouter 或 Ollama 两种语言模型后端,面向 Windows 与 NVIDIA 显卡用户。
用 Agent 系统优化本地 LLM 推理速度:inference-optimisation-skill 项目介绍
inference-optimisation-skill 是一个面向 AI Agent 的本地 LLM 推理优化技能,用“先算理论上限、单变量改动、交错对照测量、长上下文验收”的工作流,系统提升解码、预填充、KV 缓存、启动时间和首 token 延迟表现,支持 Claude Code 等可加载 SKILL.md 的 Agent。
Lastbook:把生存手册、离线地图和本地 AI 装进一台电脑的开源离线知识库
Lastbook 是一个面向 macOS、Windows 和 Linux 的离线生存知识库,整合手册、视频、百科、离线地图和可选本地 AI,首次下载后即可在断网环境使用。本文介绍其功能、运行环境、安装方式、隐私设计和适用场景。



