Not translated yet — showing the Chinese originals.
Industry & Practice · Tagged “评分器”
Research & Benchmarks//10 min
同一篇 TestJack 论文的附录 C 至 E:Navidrome 与 Open Library 的逐试验反驳、httpx cookie 存储上的轻量审计、三份提示模板的路径,以及依赖参考解和精度的局限。
Research & Benchmarks//12 min
同一篇 TestJack 论文的参考文献 40 条,以及附录 A 的良构性假设、提示欠指定分类,和附录 B 的版本、欠指定任务与两个案例。
Research & Benchmarks//18 min
Columbia、Berkeley 与 George Mason 用 TestJack 审计五个编码基准上 4,487 次已通过试验,1,545 次(34.4%)违反任务要求,全体解决率从 50.6% 降到 33.2%。轻量审计用大约 15.4% 的成本找回 72.4% 的反驳。
Tools & Frameworks//12 min
英国 AI Security Institute 的 Inspect 文档:自定义评分器接收 TaskState 和 Target,返回 Score。说明 value 的 C/I/P/N、返回 None 与 Score.unscored() 的差别,以及用 grader 角色调用模型。附 close_enough、includes 和 model_graded_qa 的代码。
Tools & Frameworks//12 min
Inspect 的 model_graded_qa 用另一个模型给开放式回答打 GRADE: C 或 GRADE: I。文档说明模型选择顺序、模板变量、固定标准与逐题标准、多数投票、等级抽取如何防注入,以及用 temperature=0 和 seed 让评分更可复现。
Tools & Frameworks//16 min
英国 AI Security Institute 的开源评测框架 Inspect:一次评测由数据集、求解器和评分器组成。教程按原顺序演示模型评分、选择题、沙箱中的工具 agent、自定义等价评分、自定义工具、日志数据框、现成编码 agent、eval_set 续跑,以及用扫描器复查拒绝回答。