知识库 · 典型场景
企业知识问答(RAG)怎么验收?
RAG 验收靠 golden 问答集:预设高频问题与标准答案,要求系统回答准确、引用正确、拒答得当。上线前准确率达标,上线后持续抽检与反馈闭环。
核心要点
- 建立 50–200 条 golden 问答,覆盖核心制度/产品/流程
- 指标:准确率、引用正确率、拒答率、幻觉率
- 抽检:随机问题 + 边界问题(过期文档、无权限)
- 用户反馈:错答标记 → 修正知识库 → 再评测
- 与业务 owner 共同签署 UAT
具体怎么做?
- 业务方提供 Top 问题清单
- 标注每条问题的标准答案出处
- 跑自动/半自动评测直至达标
- 上线后首月每周复盘错答案例