评测中心
评测中心用可复用的用例、标准和事实验证岗位回答质量,也可以通过会话扫描从真实对话中批量发现语义问题。先准备评测数据,再执行评测并查看报告;发现单条问题后可以进入问题诊断,批量问题则可以创建会话扫描任务。
i
评测中心需要按租户开通,目前只支持问数能力评测。开通后,仅拥有「评测管理员」角色的用户可以进入;未开通的租户和公共云环境不显示该入口。
完成一项工作的推荐流程
- 准备用例、标准与事实
建立用例、用例集、评测标准和事实基准。
- 配置并执行评测
选择对象、用例集和标准,执行一批评测。
- 查看评测报告
比较批次结果,定位失败用例和质量变化。
- 诊断回答问题
查看耗时、工具调用与模型交互,定位回答异常。
- 会话扫描
圈选真实历史会话并批量生成语义优化建议。
了解这项能力
一次完整的评测由四部分组成,前两部分是准备工作,后两部分是执行与复盘。
| 组成 | 作用 |
|---|---|
| 用例 / 用例集 | 评什么——一批问题(可带标准答案),组合成可复用的用例集 |
| 评测标准 | 怎么评——每个指标的评测口径与通过阈值 |
| 评测任务 | 用哪套配置跑——选定用例集、执行岗位、执行模型与评测模型 |
| 评测报告 | 结果怎么看——按批次查看总览、用例详情、事实验证与批次对比 |
完整流程是:导入用例并组成用例集 → 配置评测任务 → 执行评测 → 查看结果 → 优化相关配置 → 用同一批用例重新评测。
i
评测任务以点击执行的评测管理员身份运行,可访问租户范围内的生产数据(岗位、知识库与业务数据)。授权该角色时需谨慎,建议只给少量可信用户。
