想给 AnythingLLM 加个自定义模型、改掉前端界面或者接进自己的系统时,第一步往往是翻仓库却看不懂它到底由哪些语言和框架拼起来。这篇不铺垫概念,直接把它的技术栈拆成几层讲清楚:哪层用什么写、改哪块该动什么、哪些地方容易踩坑,以及动手前该先核对站内哪些页面。
想给 AnythingLLM 加一个自家模型、把前端界面改成公司风格,或者干脆塞进现有系统里,很多人第一步是打开仓库,然后一脸问号:这堆目录到底哪些是前端、哪些是后端、改哪块才不会把整个东西弄崩。这篇就把它的技术栈按层拆开讲,顺便说清哪层该动什么、哪些地方容易踩坑。
先记住一个前提:它不是一个用单一语言写的单体程序,而是「Web 前端 + Node 后端服务 + 向量库 + 外部模型接口」拼起来的产品。所以「用什么语言开发的」这个问题,答案得看你问的是哪一层。想知道某个具体版本里各依赖的准确名称,别背别人给的答案,直接到 /stacks 看当时的技术栈图谱记录。
先看整体:它不是一个单体程序
把 AnythingLLM 理解成四块拼图:前端界面负责你看到的一切,后端服务负责文档解析、切分、检索编排和调模型,向量库存切片和检索结果,模型接口则完全在外部。四块之间靠 HTTP 接口通信,所以理论上你可以只改其中一块,不动其余部分。
- 语言是按层分的,不存在「它只用某一种语言」这种说法;问之前先想清楚你要改哪层
- 前端和后端之间的边界比较清晰,接口层就是你切入的安全区,改这里不容易牵连别的模块
- 它主打本地运行、数据不出机器,所以部署包里会带上数据库和向量库这类依赖,装完之后的目录结构比你想象的杂
- 不同发行方式(桌面版、容器版、源码版)带的依赖不完全一样,换方式之前先在 /stacks 核对当时的图谱记录
后端和前端各自用什么,改起来差别很大
后端是 Node.js 生态的 JavaScript 服务,核心逻辑集中在文档入库、检索编排和模型适配这几块。你要接一个新模型服务商,绝大多数情况下是在这层加一个适配或改一处配置,而不是重写整个流程。前端则是常见的 Web 前端工程,构建、热更新、打包走标准流程,改文案和交互从这层切入最快。
| 层 | 主要语言/生态 | 典型改动内容 | 改动门槛 |
|---|---|---|---|
| 前端界面 | Web 前端工程 | 文案、布局、交互流程 | 需要前端基础和构建流程经验 |
| 后端服务 | Node.js / JavaScript | 接新模型、改检索与切分逻辑 | 需要读懂异步逻辑和接口设计 |
| 向量库 | 独立组件 | 换库、调检索参数 | 依赖部署方式,换库通常最折腾 |
| 模型接口 | 外部服务 | 换服务商、换模型 | 多数改配置即可,不一定要动代码 |
两边的门槛不一样。只会写 Python 的人能读懂逻辑,但要动代码得先补一点 Node 生态的常识;反过来只写前端的人碰检索逻辑会比较吃力。一个简单的自测办法:先只用接口跑通一次「上传文档 → 提问 → 拿到带引用的回答」,跑通了再决定要不要动源码。
能不能只改配置解决,是判断你该不该碰源码的第一道筛子。
模型和向量库这一层才是二次开发的主战场
它本身不训练模型,只负责把外部模型接进来。所以「它是什么语言写的」和你「能用什么模型」是两码事,别混在一起问。接模型通常走兼容式接口,改配置项就能换服务商;只有要自定义调用逻辑、做结果后处理,才需要动后端代码。
向量库负责存切片和查检索,选型会直接影响检索效果和部署难度。实际经验是:换模型往往比换向量库轻松,因为换库经常牵涉重灌数据和重新索引。各类模型和向量库的可用清单与定位,到 /stacks/vector-dbs 和 /ai-nav/category/ai-model-platform 对照着看,别只信某一篇的推荐。
- 先确定你要解决的是「接不上某家模型」还是「检索效果不好」,两者动的地方完全不同
- 要换模型,优先找配置层的兼容接口方案,能不动代码就不动
- 要换向量库,先确认现有数据能不能迁移、迁移后要不要重建索引
- 改完记得回看升级路径:直接改源码的方案,升级时容易被覆盖
动手前的核对清单与不适用情况
动手之前先确认三件事:目标版本的依赖能不能在你机器上装起来、你要改的是配置还是源码、改完之后版本升级会不会把你的改动覆盖掉。这三件事任何一件没想清楚,后面排查问题都会很痛苦。
- 跑通原始版本先用默认配置完整走一遍上传文档和提问,确认环境本身没问题,再动任何代码
- 只改配置换模型在配置层把模型服务商换成你要的那家,验证接口能通、回答正常,这一步能挡掉大部分「以为是代码问题」的坑
- 再加自定义代码只有配置层解决不了时才改源码,改完记录改动点,方便升级时比对
- 回看升级路径确认你的部署方式在升级时会不会覆盖改动,会覆盖就提前想好补丁怎么维护
不适合改源码的情况也说清:只想快速用起来做问答、不打算长期维护的人,改源码是负收益;团队里没人熟悉 Node 生态的,优先选配置层方案,别硬啃。本地部署的资源占用、端口和存储这些细节,参考 /ai-dict/category/infra 的术语页先把口径对齐,再动手。
下一步把你打算改的那一层,对着站内技术栈图谱和模型、向量库清单核一遍,确认是配置能解决还是必须动源码,再决定要不要搭开发环境。→常见问题
AnythingLLM 是 Python 写的吗?
不是主打 Python。它的服务端是 Node.js 生态的 JavaScript,前端是常规 Web 前端工程。Python 在这类项目里更多出现在模型推理侧,不在应用主体。如果你想用 Python 改它,实际做法通常是绕过它的代码,直接调它的接口。
我想换一个模型或者接中转站,要改源码吗?
多数情况不用。接兼容式接口一般改配置就行,把地址和密钥填对即可。真正需要改代码的是自定义检索逻辑、改文档解析规则这类需求。判断标准很简单:换完之后行为逻辑没变,就属于配置层。
不懂前端能只改后端吗?
可以,两边靠接口通信。但要注意前端有些能力是写死的,比如某些按钮和参数面板,只改后端可能界面里点不到。稳妥做法是先用接口直接验证后端改动,再决定要不要顺带改前端。