AnythingLLM

AnythingLLM 是一款主打本地运行的桌面 AI 应用，把对话问答、文档检索和模型管理收进了同一个客户端里，断网状态下也能跑起自己的 AI 助手。它的用户群比较分散，既有喜欢折腾本地模型的开发者，也有只想把资料交给 AI 处理、又不愿意上传到云端的普通办公用户。桌面端装完就能用，数据默认留在本机，这一点让它在关注隐私的人群里口碑不错。

• 官网入口：https://anythingllm.com/
• 桌面版下载：https://anythingllm.com/desktop

主要功能

• 本地推理：模型和数据都跑在自己电脑上，不联网也能正常对话和解析文档。
• 多模型接入：既能加载本地模型，也能接 OpenAI、Azure、AWS 这类云端服务，随时切换。
• 文档问答：PDF、Word、CSV、代码库都能直接丢进去，针对这些内容提问，不用手工整理格式。
• 免编程上手：大部分设置靠界面点选完成，不写代码也能把 AI 助手配起来。

部署方式

• 下载即用：macOS、Windows、Linux 都有对应安装包，装好后不需要再做复杂配置。
• 自托管选项：可以自己搭服务器部署，也可以放到云端，数据存哪儿由使用者决定。
• 开源可改：MIT 许可，代码公开，想加功能可以自己动手，也能装社区插件、设系统提示和快捷命令。
• 团队协作：内置多用户和权限控制，管理员能管成员与内容，企业场景下还支持白标定制。

适合人群

• 注重隐私：不希望对话记录和内部文档经过第三方服务器的使用者。
• 开发者：需要换模型、改配置、做二次开发的技术人员。
• 小团队：想在内网共用一个知识库助手，同时要控制成员权限的团队。

桌面版目前免费开源，移动端还在内测，可以和桌面端同步数据，也有人拿它作为 ChatGPT 的本地替代方案。如果你希望 AI 能读懂自己的文档，又不想把资料交到别人的服务器上，AnythingLLM 这类本地运行的 AI 应用值得先下载试一次。