AnythingLLM 是由 Mintplex Labs 开发的企业级全栈AI应用平台，专为需要构建私有化AI知识库和智能体系统的企业和团队设计。它不仅是一个简单的聊天工具，而是一个完整的AI生态系统，能够将您的所有文档、数据和知识转化为可对话、可执行任务的智能助手。

🔗 GitHub 项目地址：https://github.com/Mintplex-Labs/anything-llm

🌐 官方网站：https://anythingllm.com

运行截图

🌟 核心功能亮点

1. 零配置的强大RAG系统

AnythingLLM内置了基于LanceDB的高性能向量数据库，这是其最大的技术优势之一：

即开即用：无需配置外部向量数据库，安装后立即可用
跨平台支持：是目前唯一能在Windows ARM和CoPilot AI PC上无缝运行的向量数据库方案
极速检索：即使在低端硬件上也能实现毫秒级向量检索
多模态支持：原生支持文本、图像等多种数据类型的向量化

2. 企业级文档处理能力

全格式支持：PDF、Word、Excel、PPT、TXT、Markdown、代码文件等
智能分块：自动将文档分割成最优大小的片段，提高检索精度
批量处理：支持文件夹整体导入，自动处理所有支持格式
在线资源：可直接导入网页内容和站点地图

3. AI智能体（Agent）系统

AnythingLLM不仅支持文档对话，还提供了强大的AI智能体功能：

无代码构建器：通过可视化界面创建自定义智能体
工具调用：智能体可以调用API、操作本地设备
MCP兼容：支持Model Context Protocol，扩展性极强
记忆系统：基于LanceDB的高效记忆存储和检索

4. 多LLM灵活配置

商业模型：OpenAI、Claude、Gemini、Azure等
开源模型：通过Ollama、LM Studio运行本地模型
自定义接口：支持任何OpenAI兼容的API
工作空间隔离：不同项目可使用不同的模型配置

5. 企业级安全与管理

完全私有化：所有数据存储在本地，支持离线运行
多用户管理：细粒度的权限控制系统
审计日志：完整的操作记录，满足合规要求
白标定制：支持企业品牌定制

📊 技术架构优势

LanceDB：AnythingLLM的核心竞争力

根据官方数据，AnythingLLM选择LanceDB作为内置向量数据库带来了显著优势：

零配置体验：用户无需任何向量数据库设置即可开始使用
性能卓越：在磁盘持久化的同时提供极快的检索速度
跨平台兼容：是Node.js生态系统中唯一的嵌入式向量数据库选项
节省工程时间：大幅减少了用户配置和故障排除的时间

灵活的部署选项

AnythingLLM提供多种部署方式：

桌面应用：Windows、macOS、Linux原生应用
Docker部署：一键部署到任何服务器
云端部署：支持AWS、Azure等主流云平台
本地服务器：可作为API服务供其他应用调用

AnythingLLM v1.12.1 更新亮点

核心优化

流式文档嵌入

现在向工作区上传文档时，单文档的嵌入进度会实时展示，这项优化大幅提升了性能与使用体验。嵌入过程中你可以随时向队列中添加/移除文档，就算关闭页面、跳转至其他站点，也不会丢失已有进度。

应用集成

现在内置了以下应用的开箱即用集成，智能体（Agent）技能几乎无需额外配置即可使用：

其他优化

✅ 主界面支持图片灯箱放大查看
✅ PDF生成功能新增韩文、中文、日文字符支持（基于自定义mdpdf分支实现）
✅ 应用集成的引用展示逻辑优化，引用信息更完善
✅ 智能体技能默认集成DuckDuckGo网页搜索能力
✅ 文档生成智能体产出的文件，支持直接调用本地原生应用打开
✅ 支持通过环境变量配置自动同意智能体技能调用请求
✅ Ollama版本升级至0.20.7，新增支持Qwen3.5、Gemma 4等模型
✅ 「自定义 > 聊天设置」新增「关闭聊天时卸载模型」选项，用户关闭聊天窗口后将自动卸载占用的模型资源
✅ 新增通用OpenAI服务商能力检测能力、对应环境变量配置项
✅ 更新Lemonade集成适配1.10.0版本变更
✅ 新增加泰罗尼亚语翻译
✅ API密钥新增名称字段，方便管理多密钥
✅ 智能体会话中会返回聊天ID，无需刷新页面即可执行聊天重生成、TTS语音合成等操作

功能变更与问题修复

修正德语翻译内容
修复Lemonade嵌入逻辑：嵌入失败时将抛出明确错误，而非返回空结果
修复浅色模式下文档生成页面显示异常问题
修复智能体流程适配问题：窄窗口下流程菜单保持可见
修复智能体流程开关状态不同步问题
自动移除Windows系统下文件名中的非法字符，避免保存失败
新增文档嵌入状态事件通知能力；重构文档嵌入逻辑，适配任务队列与独立进程架构
更新Lemonade集成适配v10.1.0版本变更
修复MAX_STACK中最后一个工具调用无法正常执行的问题
修复LLM指令块流式输出异常问题
为TG添加重试机制，处理偶发的临时故障
切换为官方维护的mdpdf版本，优化多语言（韩文、简体中文、日文）支持效果
新增API密钥名称字段
新增环境变量开关，支持开启智能体技能自动同意能力
新增Gmail智能体技能
更新Helm Chart配置
新增加泰罗尼亚语翻译
修复Confluence上下文路径丢失问题
实现智能体会话返回聊天ID能力
修正多语言翻译内容
新增基于Entra应用的Outlook智能体
重构Gmail智能体逻辑
新增谷歌日历智能体技能
新增聊天附件的图片灯箱查看功能
新增通用OpenAI服务商的能力检测与流式输出支持
修复Bedrock Claude Opus 4.7调用时temperature参数遗漏问题
修复长提示气泡闪烁、流式输出/滚动时「查看更多」按钮自动折叠的问题
优化网页抓取智能体与AI服务商的错误提示，展示更易读的报错信息
新增1.12.1版本标签

完整变更日志：v1.12.0…v1.12.1

AnythingLLM Docker 部署指南

标准部署命令：

export STORAGE_LOCATION=$HOME/anythingllm && \
mkdir -p $STORAGE_LOCATION && \
touch "$STORAGE_LOCATION/.env" && \
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${STORAGE_LOCATION}:/app/server/storage \
-v ${STORAGE_LOCATION}/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm:latest

权限问题解决方案

若使用 root 权限启动失败（容器默认使用 UID 1000 账户运行），请通过以下命令运行（尽量不用特权用户启动容器）：


# 1. 创建存储目录并设置完全访问权限
export STORAGE_LOCATION=$HOME/anythingllm
mkdir -p $STORAGE_LOCATION
chmod 777 $STORAGE_LOCATION

# 2. 创建配置文件并授权
touch "$STORAGE_LOCATION/.env"
chmod 777 "$STORAGE_LOCATION/.env"

# 3. 使用host网络模式启动容器
docker run -d --network host \
  --cap-add SYS_ADMIN \
  -v ${STORAGE_LOCATION}:/app/server/storage \
  -v ${STORAGE_LOCATION}/.env:/app/server/.env \
  -e STORAGE_DIR="/app/server/storage" \
  mintplexlabs/anythingllm:latest

下载指南

为了给您提供最便捷的体验，我们将所有可用下载方式汇集于同一页面。访问下方链接后，您可根据个人网络环境与偏好，自由选择最合适的下载渠道。

请访问下载页面： https://www.changjiu365.cn/download/anything-llm
页面内可选的下载源包括：
本站高速直链： 享受由阿里云 CDN及 Cloudflare R2 带来的高速、稳定下载。
公共云盘镜像： 无需额外操作，便于您转存至个人账户。本站提供 百度网盘、阿里云盘、123云盘、天翼云盘、迅雷云盘、Google Drive 与 OneDrive 分流。
重要信息：
- 版本更新：此软件为手动更新，如更新不及时请微信公众号反馈或评论留言。
- 文件校验: 请务必使用页面提供的 SHA-256 哈希值进行文件一致性校验。

AnythingLLM v1.12.1｜私有化AI知识库｜直链下载