AnythingLLM

AnythingLLM 由 Mintplex Labs 开源维护，定位是「本地优先」的全栈 AI 客户端：模型推理、文档处理和对话记录都留在自己的电脑上，不依赖云端账号，也没有按量计费的 API 密钥。安装包一个文件即可运行，覆盖 macOS、Windows 和 Linux，另有 Android 版把小型模型跑在手机本地，桌面与移动端之间可以共享工作区。

文档是这个客户端的基本单位——各种文件会被整理成知识库，供模型在对话中引用；会议助手在 v1.17.0 重构后（2026 年 10 月的更新）可对任意会议软件的语音做本地转写、摘要和行动项提取，没有机器人入会这一步。Magic Echo 提供实时润色的语音输入，网页搜索则接入了 You.com，首次对话即可用，不需要额外配置。开发者还能通过自定义工具和 API 把它嵌进自己的流程。

• 2026 年的几条更新值得留意：桌面版内置引擎从 Ollama 迁移到由 AMD Lemonade 管理的 llama.cpp；9 月起支持在 Windows 上调用 Microsoft Foundry Local，让模型跑在 CPU、GPU 或 NPU 上。官网给出的累计数字包括 7700 万次桌面下载和 500 万次 Docker 拉取，社区规模在同类本地 AI 工具里排得上前列。