伯克利开源 LEANN：4GB 内存对标 HNSW 九成召回，查询按秒算
UC Berkeley 的 LEANN 用裁剪图加查询时重算嵌入的方式换内存，6000 万 chunk 的 RAG 索引从 201GB 降到 6GB；在 90% 召回率下，内存占用从 HNSW 的 188GB 降到 4GB，代价是秒级搜索延迟。
RAG 系统通常会把文档切成 chunk，再生成 embedding 向量。向量索引负责在海量向量里找相似项，HNSW 是其中最常见的一类。它速度快，但图结构和向量都要吃内存，数据量上来后，机器成本很容易成为瓶颈。
UC Berkeley 提出的 LEANN 提供了另一种取舍。根据 MarkTechPost 作者 Asif Razzaq 的报道，LEANN 不在索引里保留完整嵌入，而是存储一个经过裁剪的图；查询发生时，再重新计算需要的嵌入。
报道给出了两组关键数字：
| 场景 | LEANN | 对照方案 |
|---|---|---|
| 6000 万 chunk 的 RAG 索引 | 6GB | 原有索引 201GB |
| 90% 召回率，达到与 HNSW 相当的准确率 | 4GB | HNSW 占用 188GB |
代价同样明确。LEANN 的搜索延迟是秒级，不适合把毫秒级响应当作硬指标的在线检索服务。它更适合预算敏感、低频查询、批量处理或资源受限的环境。
这个项目的看点不是单纯把索引压小，而是把存储压力转移给查询时的计算资源。省下来的内存很实在，增加的延迟也很实在，取舍边界比参数表更值得评估。
发布时间: 2026-10-28 05:54