测试集开工前冻结
评测用的问答集在开工前确定并冻结。交付时用同一套跑,不接受中途更换标准。
某财产保险公司 · 全国性财险 · 员工 8,000+
日均 1,200 张工单,知识散落在三个系统,新人上手需要 6 周
一线每人每天花 3.5 小时处理重复工单,高峰期积压超过 48 小时;知识库有三套(Confluence / SharePoint / 邮件),没人知道哪个是最新版。自动分派设了置信度阈值:模型判断达到 0.75 才自动派单,不达标的…
交付周期 90 天上线 · 团队配置 1 Echo + 2 Delta
某职业技术学院 · 在校生 12,000 · 教职工 900
26 个系统各自为政,办事靠「找系统、跑窗口」
同一份学生信息在教务、学工、财务各录一遍,重复录入率 47%;师生办事「找系统、跑窗口」,高峰期窗口排长队
交付周期 104 天上线 · 团队配置 1 Echo + 2 Delta
某市渔业执法机构 · 行政执法单位 · 下辖 11 个站点
文书格式多、法规更新快、基层站队人手不足
一份处罚决定书平均耗时 2.5 小时,格式与条款引用错误率 18%;法规修订后基层难以及时同步,存在程序瑕疵风险。抽不到的要素显式留空、不用推测值补齐——文书里的一处空白,比一个看起来合理的错值更安全
交付周期 76 天上线 · 团队配置 1 Echo + 2 Delta
某连锁零售集团 · 860 家门店 · 员工 12,000
总部政策传到门店要 3 天,店长的问题重复率极高
860 家门店每天产生约 2,400 条咨询,总部 12 人团队疲于应付;新政策从发布到门店执行平均延迟 3 天,执行偏差率 27%。提问按意图分三路走:政策与流程查知识库、商品与库存参数查结构化表、判不出来的转人工并把上下文一并带过…
交付周期 68 天上线 · 团队配置 1 Echo + 2 Delta
某三甲综合医院 · 床位 1,800 张 · 日均报告 2,400 份
报告模板 40 多套,结构化字段完整率只有 71%
报告初稿靠医师逐字敲,质控靠人工抽查、抽检比例不到 5%;数据不能出内网、改造不能影响门诊,公有云方案直接出局
交付周期 120 天上线 · 团队配置 1 Echo + 3 Delta
某集团企业 · 3 地 6 厂区 · 员工 5,400
三套系统各存一份数,月末对账要 5 个工作日
订单在 ERP、发货在 WMS、回款在财务系统,主数据差异对三天;月末对账 5 个工作日,差异定位靠 Excel 人工比
交付周期 90 天上线 · 团队配置 1 Echo + 3 Delta
交付标准 · 企业智能体开发
智能体最容易糊弄的验收方式是「看起来挺好用」。所以这条业务线的标准是三个数一起看:答得对不对、答不出来时怎么办、每次回答花多少钱。
评测用的问答集在开工前确定并冻结。交付时用同一套跑,不接受中途更换标准。
拒答不是失败。无检索依据时必须拒答,且拒答原因可解释、可统计。
AI 调用成本有独立看板,单次成本与月度总额都可预测。超预算部分由我方承担。
用户看不到无权内容,而不是看到了再筛掉。这一条按越权次数验收。
验收
| 验收项 | 指标 | 谁签字 | 什么时候 |
|---|---|---|---|
| 固定测试集准确率 | 达标(开工前约定) | 客户业务负责人 | 第 45 天原型评审 |
| 越权访问次数 | 0 次 | 客户信息安全负责人 | 上线后第 30 天 |
| 单次调用成本 | ≤ 开工前写入合同的预算值,超出部分我方承担 | 客户项目负责人 | 每月复核 |
| 拒答可解释率 | 100% | 客户业务负责人 | 上线后第 30 天 |
不通过怎么办
验收条款写进合同,不靠口头承诺。下面是这条业务线最常见的三种不达标情形与处理方式。
免费重训,直到在冻结的测试集上达标。重训期间不追加费用。
超出部分由我方承担,并优化到预算内再交付。
立即下线整改,重新做权限审计后再次验收。
依据
这份标准来自两处:一是行业里「演示效果很好、上线效果很差」的普遍现象,根因是验收标准不固定;二是我们自己的做法 —— 测试集必须在开工前冻结,否则验收没有意义。
下一步
这份标准不是给所有人看的,是给正在评估的人看的。