RAG 工程化:从切片到溯源的 7 个决策
在字节的电商客服项目里,我把 Recall@5 从 0.72 推到 0.93。真正起作用的不是换模型,而是七个工程决策:切片粒度、元数据、双路召回、融合、重排、溯源与回归评测。
AI知识库
6 篇长文,覆盖 RAG 工程化、Agent 评测与工程手记。
在字节的电商客服项目里,我把 Recall@5 从 0.72 推到 0.93。真正起作用的不是换模型,而是七个工程决策:切片粒度、元数据、双路召回、融合、重排、溯源与回归评测。
在评测中台项目里我沉淀了 22 个内置指标。指标不在多,在于每个都能回答一个业务问题,并且稳定可复现。
Harness 不是框架,是约束。它负责把不确定的模型输出,变成可追踪、可回归、可回滚的工程行为。
把「失败归因 → 优化提案 → 影子回归 → 验收写回」做成流水线,指标才能自己往上走。前提是可审批、可回滚、可审计。
上线过 7 款付费产品之后,我大概摸清了:哪些活交出去,哪些必须自己写。
做数字人导游和带货视频平台时踩过的坑:转码、轮询、失败重试,才是多模态真正的成本中心。