很多人第一次接触 embedding,是在知识库配置页里被要求「选一个向量模型」。点完保存就跑,跑不通才回头补原理。这篇不铺概念,按你实际会碰到的顺序讲:文字怎么变成向量、距离为什么能当相似度、模型和维度怎么取舍,最后给一套跑起来之后自查的办法。
第一次碰 embedding,多半不是在文档里,是在知识库的配置页。系统让你「选一个向量模型」,选项一列,你点了个名字顺眼的,保存,然后开始上传文档。直到检索结果答非所问,才回头翻文档,发现里头全是「高维空间」「语义表示」这类词,看完还是不知道哪一步出了错。
这篇按你实际会碰到的顺序讲:一句话怎么变成一串数、距离凭什么能当相似度、模型和维度怎么取舍,以及接进代码之后靠什么验证它真的有用。原理不用背全,但几个关键判断得心里有数,不然调参数全靠猜。
一串数字是怎么从一句话里长出来的
先把两个词分开。「向量化」是动作,把文本送进模型、拿回数组这个过程;「embedding」是产物,也就是模型吐出来的那串浮点数。日常说「做个 embedding」,其实两个意思都沾。分清这一步,后面看报错就顺了——是调用没通,还是拿回来的东西不对,一眼能分。
模型内部大致这么走:先分词切块,把句子拆成模型认识的最小单位;再查表给每个块一个初始表示;然后多层注意力把上下文信息混进去,同一个词在不同句子里表示会不一样;最后池化成一个固定长度的数组。整个过程里没有哪一维对应「猫」或「情绪」,单看某一维的数值没有任何意义,有意义的是整串数之间的相对关系。
还有个常见误判:以为文本越短向量越准。实际用下来,一句话单独向量化和放在段落里向量化,结果可能差挺多,因为上下文被切掉了。这也是后面要讲切片的原因。
距离为什么能当相似度用
向量化把语义压成了一串数,距离就是在问:两串数挨得近不近。挨得近,通常意味着模型认为这两段文本在它学过的语境里常一起出现、意思接近。注意「模型认为」这四个字,它不是客观真理,是训练数据留下的偏好。
常用的度量就三种:余弦相似度看方向夹角,点积同时受方向和长度影响,欧氏距离看直线距离。文本向量如果都做过归一化,这三者排序结果基本一致,选哪个差别不大;没归一化就挑余弦,省得被长度带偏。
- 余弦相似度
- 只比方向不比长短,文本检索默认选它比较稳
- 点积
- 方向加长度一起算,向量已归一化时和余弦等价
- 欧氏距离
- 几何直线距离,数值越小越像,适合已归一化的场景
判断标准就一条:同一批文本、同一个模型、同一种度量,结果才有可比性。跨模型比分数、跨库比阈值,都是白费功夫。还有一种情况纯语义距离会失灵——短查询对长文档,或者编号、型号、专有名词密集的文本,关键词命中的准确率往往高过向量召回。这种场景别硬上语义检索,混合检索更靠谱。
模型和维度怎么挑,别只看榜单
挑模型我建议按这个顺序收窄,而不是打开榜单从上往下试。先按语言圈定:中文为主就别选只擅长英文的;再按领域筛:代码、法律、医学各有偏科;然后用硬件和调用预算卡一道,本地跑不动的、接口调不起的直接排除。剩下的两三个再进实测。
- 用真实提问做对照从你自己的业务里挑五十条真实提问,每条标注该被召回的那段原文,建一个小测试集
- 两个候选各跑一遍同一批数据、同一种度量,分别跑两个候选模型,记录目标原文排在前几位的比例
- 看差异再定差异明显就选好的那个;差异很小就选维度低、开销小的,别为边际提升付长期成本
维度这事儿值得单独说一句:不是越高越好。维度上去,存储和检索开销跟着涨,语义区分度不一定跟着涨。先用小维度试一遍,效果够用就别换;不够再往上加,加完重跑上面那套对照,别凭感觉。
另外,向量模型的价格和可用性会变。具体哪家什么价、哪个型号当下能调,别记在脑子里,到 /price-watch 核对当时的数字,再决定要不要换。
接进去之后,凭什么说它有用
跑通不等于有用。我见过配置全绿、检索也返回结果,但返回的全是无关段落的——因为压根没人验证过召回质量。验证办法不复杂:准备一组「问题—该被召回的那段原文」的对照,每次换模型、改切片长度,都跑一遍,看目标原文排在前面的比例有没有变化。
| 现象 | 先查什么 | 再查什么 |
|---|---|---|
| 完全搜不到相关段落 | 切片是不是把关键信息切断 | 向量模型是否压根没调通 |
| 搜到了但排在很后面 | 度量方式和阈值设置 | 切片长度与模型是否匹配 |
| 结果沾边但不精准 | 查询和文档长度差距是否过大 | 是否该补关键词混合检索 |
| 换模型后整体变差 | 旧向量是否重新算过 | 新模型是否适合你的语言领域 |
切片和向量模型得一起调。切片切坏了,再好的模型也救不回来:切得太碎,一段话的上下文没了;切得太长,一个向量里塞了太多主题,检索时哪个都不像。常见做法是先按段落或固定字数切,留一点重叠,然后拿测试集跑一遍再微调。
排查顺序记住这个方向就行:先确认是不是压根没召回,再看是不是召回了但排得靠后,最后才怀疑模型本身。绝大多数问题出在前两步,换模型往往是最后一招,不是第一招。
向量检索不是选个模型就完事,它是「切片、模型、度量、测试集」四件事一起调出来的结果。下一步想横向对比各家向量模型当下的价格和可用情况,去价格追踪页看当时的数字,再回来定候选。→
常见问题
embedding 和向量化是一回事吗?
大体是同一件事的两种叫法,只是侧重不同。向量化强调的是「把文本转成数组」这个动作,embedding 通常指模型输出的那串表示。你说「做一次向量化」和「取一下 embedding」,工程上通常是一个意思。
向量维度越高效果越好吗?
不成立。维度高意味着存得更多、算得更慢,而语义区分度是否提升取决于模型训练本身。很多场景下小维度已经够用,先拿业务语料实测再决定要不要换大维度,别凭直觉加。
换一个向量模型,原来的库还能用吗?
不能直接混用。不同模型的向量空间互不兼容,混着存会让相似度算出来全是噪声。要换就整库重算,或者新旧两套索引并行一段时间对照,确认新的召回质量确实更好再切。