选嵌入模型,别只看MTEB分数
Karthik在X上分享了RAG嵌入模型选型的观察:MTEB高分不等于实际检索效果好,开源模型已能比肩专有模型。选型的真正标准,是用自己的数据测。
选嵌入模型,很多人第一反应是看MTEB分数。分数高,似乎就等于能力强。Karthik在X上分享了他的RAG学习心得,结论有点反直觉:MTEB高分,不代表检索好用。
MTEB全称是Massive Text Embedding Benchmark,覆盖分类、聚类、语义相似度等十几个任务。分数高说明模型综合能力强,但RAG更关心的是,给定一个查询,模型能不能把相关文档排到前面。这两个目标之间有断层。
他在帖子里提到RTEB(Retrieval Embedding Benchmark),这个基准专门测检索,覆盖代码、医疗、金融、法律等垂直领域。相比MTEB,更接近RAG的真实使用场景。
另一个值得注意的点:开放权重模型已经具备和专有模型竞争的实力。Qwen3、Nemotron这些开源模型,在检索任务上并不逊色。
分数之外,上下文长度、向量维度、托管成本和许可证条款,同样影响落地。上下文短,大文档块喂不进去;向量维度高,存储和查询成本上涨;许可证限制多,商用直接卡壳。
Karthik最后给出的建议很朴素:不要只看基准分数选模型,拿自己的数据和查询去测。每个模型各有擅长,别人好用的不一定适合你。最好的模型,是能正确检索到你要的内容的那一个。
评论区有人补了个实操方法:建一个小测试集,收集真实查询和对应正确文档块,用recall@k衡量。这个比看MTEB分数靠谱。
发布时间: 2026-10-28 16:38