52. 人工智能实战：Embedding 模型升级怎么不翻车？从前期召回波动到双索引、离线评测与灰度切换

人工智能实战：Embedding 模型升级怎么不翻车？从前期召回波动到双索引、离线评测与灰度切换

一、问题场景：换了更强的 Embedding，RAG 反而答得更差

RAG 系统上线后，团队经常会想升级 Embedding 模型。

理由很充分：

1. 新模型维度更高 2. 多语言能力更好 3. 排行榜效果更强 4. 语义匹配更准确 5. 长文本表示能力更好

但很多团队一换 Embedding 就翻车。

典型现象：

1. 原来能召回的文档召回不到了 2. 相似度分数整体变化 3. 阈值失效 4. 旧向量和新向量混在一起 5. Rerank 前候选质量下降 6. 用户反馈“以前能答，现在不行”

我遇到过一次真实案例。

团队把 Embedding 从旧模型升级到新模型后，直接对新文档使用新模型向量化，但旧文档仍然是旧模型向量。

结果向量库里变成：

一部分 chunk 是旧 embedding 一部分 chunk 是新 embedding

检索效果非常不稳定。

根因是：

不同 Embedd