← 课程目录 🚀 从零到一
📐 学习维度 阶段6 · 第25章 Agent 与多智能体 🚀 从零到一 📚 课程目录 🏠 首页 🛤️ 学习路径

25.4 AI应用评估与可观测:让效果可证明

审校 2026-09-25 · 素材来源:P3-07-AI生产化(监控/评测章节改写)、深度文LLMOps笔记
📑 本篇章节导航 (共7节,点击直达)
五类监控指标:运行面全图评测体系:Golden Set 三方法版本与回归:提示词也是代码反馈循环:从 bad case 到迭代踩坑清单面试怎么问一句话总结

22.5 把 LLM 调用的可观测立了项(量、延迟、错误率、成本四条线),这一节回答更难的那半问:效果怎么证明——「改了提示词感觉好了」不算数,「幻觉率降了三个点」才算。评估与可观测(对 AI 应用的质量与运行建立量化基线的工程实践)是 AI 功能从「上线」到「运营」的分水岭,也是面试里区分「用过 AI」与「管过 AI」的分界题。

五类监控指标:运行面全图

在 22.5 四条线之上补齐质量维度,生产级 AI 应用的监控全图是五类:调用量(按分钟/天、按模型、按业务场景分组——哪个功能在烧钱一目了然);延迟(P50/P95/P99 全程 + 模型推理净耗时 + 工具调用耗时分开统计——慢在模型还是慢在工具,两张图说清);成本(日 token 消耗、日费用按模型分组、单次调用均价——22.5 的 usage 记账在此落成面板);质量(拒绝回答率、「不知道」占比——授权拒答做对了它该低;幻觉率——抽检样本中与事实不符的占比;用户反馈——点赞点踩,最真实的信号);错误(429 限流率、5xx 率、工具调用失败率——外部依赖的健康度)。告警规则跟着阈值走:五分钟 429 错误率超两成告警(该扩限额或换模型路由)、P95 延迟超三十秒告警(模型过载)、日费用超预算一点二倍告警(成本失控是 AI 应用最安静的故障——没有报错、没有超时,只有月底的账单)、工具失败率超一成告警(下游要出事)。

评测体系:Golden Set 三方法

监控看的是「跑起来的样子」,评测答的是「效果好不好」。地基是 Golden Set(标准测试集:五十到一百个真实用户问题加人工标注的标准答案)——从真实日志里捞问题,别自己编(自编问题的分布不代表用户);标注允许「参考要点」而非唯一答案,评分标准定四档:完全正确/部分正确/错误/幻觉。有了 Golden Set,三种评测方法按成本递增组合:自动评测(关键词命中、引用文档是否正确、长度合理——粗筛够用);LLM-as-Judge(用另一个模型当裁判:评分提示词给「是否准确回答、是否基于资料、是否编造」三条标准打一到五分——注意裁判模型要与被评模型异源,自己评自己容易宽大);人工抽检(每天随机十例人工打分——最准最贵,当校准锚点:定期抽一批对比 Judge 打分,两者偏差大说明裁判提示词要修)。评测流程闭环成一条线:新版本提示词/模型/检索参数 → 跑 Golden Set → 与旧版对比准确率、token 消耗、延迟三列数字 → 涨了才发——这就是 22.2「固定测试集回归」纪律的系统化形态,也是 24.1 评估三指标在应用层的翻版。

版本与回归:提示词也是代码

评测体系之上再立一条管理纪律:提示词版本化。提示词进 Git 仓库、变更走 review、每次上线带版本号,线上问题能回溯到「哪一版提示词引入」——它决定「换模型、改提示词」这种日常操作是可控演进还是玄学试错。版本化后回归测试顺理成章:Golden Set 是测试集、评测脚本是 CI、版本号是产物——AI 应用的「单元测试」就这么长出来了。版本管理还有个隐藏收益:模型升级的解耦——换模型时同一 Golden Set 对新旧模型各跑一遍,效果差异用数字交接,而不是「新模型好像更聪明」的体感赌博。

反馈循环:从 bad case 到迭代

评测不是季度考试,是日常代谢:线上用户点踩的 case、抽检发现的幻觉样例、Judge 打低分的回答,统统进 bad case 池;每周分类归因(检索没召回?提示词约束弱?模型能力不够?),高频归因转化为动作——改分块策略(24.1)、补拒答出口(22.2)、调工具描述(22.3);改完跑回归看指标、再上线。归因要有出口台账:每条 bad case 标注「已转化为什么动作、归属哪个版本」,防止同一个坑反复踩。这个循环转起来,AI 应用才叫「在运营」;转不起来,再多监控面板也只是事后验尸的照片。

踩坑清单

面试怎么问

一句话总结

评估与可观测是 AI 应用的理化指标:五类监控看清运行、Golden Set 加三方法证明效果、版本化加回归管住变更、bad case 循环驱动迭代——把「感觉好了」全部翻译成数字,AI 功能才配叫产品。