CodexQA

Industry & PracticeResearch & Benchmarks

优势占比要除以全部题数:火山方舟人工评测报告怎么汇总 GSB

CodexQA 团队2 min read

火山方舟人工评测报告把新旧模型的 GSB 优势占比写成固定公式,分子只用已标注分数,分母却是评测集总题数。满分比例用的是另一套分母。

优势占比要除以全部题数:火山方舟人工评测报告怎么汇总 GSB

火山方舟(Volcano Ark,火山引擎上的模型训练与评测平台)文档《查看评测报告》标注的最近更新时间是 2026-08-17 18:57:33。页面没有另给首次发布时间。GSB 在这里是人工对照打分,分数档从 2 分到负 2 分。报告给管理者看,不负责生成答案。

优势占比的分母是总题数

核心结论里的优势占比,只用已经标出结果的 GSB 分数做分子,分母却写成评测题数。页面把评测量级定义成数据集里的总题目数量。公式是:

优势占比 = (2×2分个数 + 1×1分个数 + 0×0分个数 − 1×负1分个数 − 2×负2分个数) / 2 / 评测题数

结果再转成百分比。还没标完的题留在分母里,会把占比拉低。页面没有写未标注题要不要先剔除,也没有写 0 分和「没有分数」是不是同一件事。

同一页的满分比例用的是另一个分母:满分数量 / 有标注结果的题目数量。新旧模型都这样算。满分指有用性、安全性、真实性等已配置维度全部打到最高分。两套分母并排出现,页面没有说明哪一个才和「评测量级」对齐。

GSB 分数个数统计的是每个分数下、已经有标注结果的题目。页面写明,题目处在标注过程中的哪一步都计入。它没有给出显著性检验,但能力分类表的列名写成「优势占比 / GSB 显著性」,算法仍是上面的优势占比。

能力分类和维度统计

一级能力、二级能力都来自数据集里上传的分类。上传内容为空时,整块「Prompt 分类结论」不出现。每一级下面继续报优势占比,以及新旧模型的满分数量、满分比例。二级分类是一级加二级去重,不是只看二级。

各维度按有用性、真实性、安全性等已配置维度拆开。新模型要报均分,以及 2 分、1 分、0 分的个数。均分的原文是「新模型的 GSB 平均分」。旧模型同样报均分。旧模型个数这一行的原文主语却写成了「新模型的 GSB 分别的分数」。负 1 分和负 2 分出现在总公式里,维度个数只列到 2、1、0。

diff 问题类型只有任务里配置了才出现。某一类型下的优势占比,页面改口说用「已有标注结果的题目」,口径仍指向同一条公式,没有改成分母只计该类型已标注题。

报告之外能导出什么

管理者从「我创建的」打开在线报告。基本信息只有任务名、报告生成时间、PM 名单和评测量级。数据详情看试题状态。任务统计按标注员汇总,可以导出页面数据。结果导出要选数据范围和格式,生成一条记录后下载 csv。页面没有写导出字段、没有写多人标注冲突怎么并进 GSB,也没有写报告是否随标注进度自动刷新。

这篇文档没有样例题、没有推荐样本量,也没有说优势占比到多少才算新模型更好。

出处:字节,火山方舟文档,查看评测报告,2026-08-17,https://www.volcengine.com/docs/82379/1153548

Found it useful? Pass it on

WeChat

Scan with WeChat to open it on your phone and forward it.

Subscribe via RSS

Submit a correction