CAG：绕开向量检索的知识缓存推理在 ACM Web Conference 2025 开源实现

讨论通过将知识提前缓存到上下文实现无检索的推理，并给出开源实现与实践场景。

主题概览

• CAG 的核心思路：不做实时检索，而是将知识预先塞进上下文，利用 KV Cache 缓存。用户提问时直接基于缓存进行推理，省略 Embedding、向量搜索和 RAG Pipeline。
• 适用场景：FAQ、代码文档、产品手册等规模不大、内容稳定的知识库。
• 局限性：数据量大或更新频繁的场景，RAG 仍然更合适，CAG 与 RAG 混合使用也可行。
• 相关性：这是 ACM Web Conference 2025 相关论文的开源实现，代码简洁易读。

🔗 实践地址

• 体验项目：官方开源仓库 https://github.com/hhhuang/CAG

注：文中只保留与主题相关的核心信息与外部链接，去除不必要的栏目名与推广用语。

下载链接

GitHub：
https://github.com/hhhuang/CAG