Not translated yet — showing the Chinese originals.
Industry & Practice · Tagged “PAI”
Research & Benchmarks//6 min
阿里云 PAI ModelEval 把评测分成单模型在线、双模型在线竞技和双模型离线竞技。自定义 JSONL 每行一个对象。裁判员汇总分最低 1 分、最高 5 分，无效分不进均值。对比一次只能勾 2 到 5 个已成功任务，停止任务不退已消耗的计算资源。
Research & Benchmarks//4 min
阿里云 PAI 把评测分成指标、基准和人工三档。BLEU、ROUGE、METEOR 要有参考文本，MMLU、GSM8k、HumanEval 评不了发散题。裁判员收问题和回答，在线或批量返回分数和理由。页面声称中文效果可比 ChatGPT-4，但没有对照表。
Research & Benchmarks//6 min
阿里云 LangStudio 规定上线前先把 JSONL 评测集逐行跑出输出，再用辅助字段打分。完全一致率是 0 到 1，其余六项是 1 到 5，文档没有换算公式。虚构性和有害性都是分高更好，但含义与字面相反。
Research & Benchmarks//6 min
阿里云 PAI 的大模型评测把自定义题做成 JSONL，用 ROUGE、BLEU 或裁判员打分。公开集列出 MMLU、C-Eval 等七个，领域分是同一领域数据集得分的均值。页面没有加权公式，也没有贴出任何一次真实跑分。
Research & Benchmarks//4 min
阿里云 PAI 的裁判员在线体验不用评测集。可选 pai-judge 或更大的 pai-judge-plus，单模型打分或双模型竞技。评分范围只能设在 2 到 10，Temperature 取 [0, 2)，Top_p 取 [0, 1]。页面没有默认分档文案。
