Not translated yet — showing the Chinese originals.
Industry & Practice · Tagged “裁判员”
Research & Benchmarks//7 min
百度千帆自动评估只支持文本生成。GSB 只有 Good、Same、Bad 三档，Same 把一样好和一样差放在一起。模型和已有结果集都最多 5 个。预置裁判员指标是事实性错误、情感倾向性、语义连贯性。自定义指标最多 10 个。
Research & Benchmarks//6 min
阿里云 PAI ModelEval 把评测分成单模型在线、双模型在线竞技和双模型离线竞技。自定义 JSONL 每行一个对象。裁判员汇总分最低 1 分、最高 5 分，无效分不进均值。对比一次只能勾 2 到 5 个已成功任务，停止任务不退已消耗的计算资源。
Research & Benchmarks//4 min
阿里云 PAI 把评测分成指标、基准和人工三档。BLEU、ROUGE、METEOR 要有参考文本，MMLU、GSM8k、HumanEval 评不了发散题。裁判员收问题和回答，在线或批量返回分数和理由。页面声称中文效果可比 ChatGPT-4，但没有对照表。
Research & Benchmarks//6 min
阿里云 LangStudio 规定上线前先把 JSONL 评测集逐行跑出输出，再用辅助字段打分。完全一致率是 0 到 1，其余六项是 1 到 5，文档没有换算公式。虚构性和有害性都是分高更好，但含义与字面相反。
Research & Benchmarks//4 min
阿里云 PAI 的裁判员在线体验不用评测集。可选 pai-judge 或更大的 pai-judge-plus，单模型打分或双模型竞技。评分范围只能设在 2 到 10，Temperature 取 [0, 2)，Top_p 取 [0, 1]。页面没有默认分档文案。
