AI软件下载
有趣网站推荐及实用软件下载

Linger:跑在个人电脑上的开源本地 AI 助手,125B 模型装进 12GB 显卡

Linger 是一个开源的个人 AI 助手项目,目标是让强大的本地 AI 运行在普通 Mac 和 PC 上,而不是依赖云端服务器。它用“模型与运行框架协同设计”的思路,让本地推理不再被显卡显存卡死:项目宣称,125B 参数的 Qwen3.8-Flash-Next 可以在 12GB 显卡加 64GB 内存的机器上运行。

项目主要用 TypeScript 开发,目前在 GitHub 上获得 561 个 Star、33 个 Fork。许可证为平台标注的 NOASSERTION,README 说明该仓库使用基于 Apache 2.0 并附加条件的 Linger Open Source License,第三方组件和部分标识图像不在该许可证覆盖范围内,使用前应查看 NOTICE 文件。

它解决什么问题

常见的云端 AI 助手按 token 计费,数据也要经过服务商。Linger 想做的,是把“Claude 级大脑”放到你自己的电脑上:模型在本地运行,不产生云端账单和 token 费用;记忆和重要信息保存在设备上,而不是存在提供商的账户里。

为了实现这一点,Linger 配套了 MoE 推理引擎 PolyStrata。它的做法是把模型最常用的专家留在 GPU 上,其余部分放到内存或 SSD 中,从而用更少的显存运行更大的模型。README 中给出的例子是 125B 模型在 12GB 显卡上运行。

主要功能

本地模型与 Model Autopilot

Model Autopilot 是一条命令完成硬件检测、模型推荐、安装和验证的流程。安装器会读取你的 GPU、内存和带宽,只保留能装下且上下文至少 64K 的模型,优先选择更聪明的模型,再考虑速度;只有模型真正回答了一个问题,才算安装完成。

README 提供了按机器配置推荐模型的表格,覆盖 Mac 16GB、24GB、32GB,以及 Linux NVIDIA 8GB、12GB、24GB 等档位。表格中还列出了写入速度(tokens/s)和第三方 AIHOT 评分,用于和云端模型做大致对比。需要注意,这些数据来自项目实验室,部分是在模拟档位上测得的,真实机器可能更慢。

Wiki 与记忆

Linger 的记忆机制围绕“Wiki”展开:你的邮件、聊天和会议等来源会在每晚被整理成 Wiki 页面,所有 agent 都可以搜索这些页面。项目强调“告诉一个 agent,所有 agent 都知道”,让信息、偏好和决策跨对话保留在本地设备上。

主动式 Another Me

Another Me 是 Linger 中会主动开口的助手。它会关注收件箱、日历和 Slack,跟进并推进工作,只在确实需要你处理时发消息。它还会在每晚进行“Dreaming”:读取自己发出的消息得到的反馈,重写判断规则,第二天用新规则做决定。这个过程不重新训练模型,学到的内容保持为一组短规则。

规则可以来自隐式反馈,也可以来自直接指令。例如同一种消息被你拒绝两次,它就会保持安静;你直接说明希望什么时候收到通知,一次 Dreaming 就能把它变成规则。

桌面与浏览器操作

Agent 可以打开 Mac、Windows PC 或 Linux 桌面上的应用,像你一样点击和输入;在 Mac 和 Windows 上,它还能在你已登录的 Chrome 中工作。

Agent 团队与任务委派

当一项工作需要多个 agent 时,Another Me 会调用已有 agent、创建缺少的 agent,并写出一份所有 agent 共同遵循的 team.md。长时间任务可以交给后台运行的同副本 agent,聊天界面仍然留给你。

模型调度与自带运行时

所有 agent、审批和后台任务共享同一个本地模型。你正在等待的工作会优先开始,后台工作等模型空闲后再运行。Linger 也支持自带运行时:Claude Code、Codex 或 Pi 可以按原有方式运行,使用本地模型或你已有的订阅。

语音

可以录制会议并生成实时转录,询问会议中说了什么,再把后续事项交给 Another Me。

如何开始使用

Linger 提供两种安装方式。

桌面应用适合一个人在一台电脑上使用。README 列出的包包括:macOS 14.0 或更高版本的 Apple 芯片版 .dmg、Windows x64 的安装程序或免安装 zip、Linux x64 的 .tar.gz(要求 glibc 2.35 或更新)。没有 Intel Mac 的安装包,这类机器需要使用 Docker Compose。下载后可用同一 release 中的 SHA256SUMS.txt 校验。

Docker Compose 适合多台电脑共享的服务器,或从源码构建。需要 Docker 与 Compose,虚拟机至少 5GiB 内存。Compose 容器只运行 Linger 服务器;模型和 agent 运行在你连接的电脑上,需要在该电脑上运行引导安装器。安装器会检查硬件、在你批准后安装并验证本地模型,并把 linger-computer 连接到 Linger 服务器。

README 提醒,Docker Compose 方式初始使用测试密码 test1234,在其他人访问服务器之前,应在 Settings › Security 中修改测试密码。如果 Compose 端口被占用,安装器会提供选择空闲端口的选项,这需要 Docker Compose 2.24.4 或更高版本。

完整文档位于 docs.heylinger.com,涵盖桌面应用安装、运行时选择、自托管和故障排查。

适用人群与注意事项

Linger 适合希望把个人 AI 助手留在本地、在意数据不出设备、想避免 token 费用的 Mac 和 PC 用户,也适合需要多台电脑共享一个 Linger 服务器的小团队。它对硬件有一定要求,尤其是想运行较大模型时;README 中的速度数据并非全部来自真实目标机器,实际体验会受硬件和模型配置影响。

项目仍处于早期阶段(创建于 2026 年 11 月),使用前建议阅读许可证和 NOTICE,并留意 Docker 部署时的密码修改与端口配置。

项目主页:https://github.com/simplexai-labs/linger

项目地址:linger


AI软件用不了?2元爽玩4090: 立即体验>>

热门大语言模型API免费体验: 立即获取>>
赞(0) 打赏
软件无法使用?点击查看常见问题说明>>

最近更新

觉得文章对你有帮助就打赏一下作者

非常感谢你的打赏,我将有更多的动力继续提供优质内容,让我们一起创建更加美好的世界!

支付宝扫一扫

微信扫一扫