SearchHorizonBench: 数据、 估计 器 与 决策 奖励 附录
附录给出 45,632 次执行的设定、估计器与推断、答案评分审计、迁移监督,以及决策奖励和集合奖励。正文见同日主篇。

本文目录
参考文献
- Anand et al. (2026) Neeraj Anand, Payel Santra, Partha Basuchowdhuri, Debasis Ganguly, and Sumit Bhatia. 2026. 没有一种尺寸适合所有人!面向 RAG 的动态检索器与生成器选择。arXiv:2609.17709 https://arxiv.org/abs/2609.17709 作者姓名、年份与编号按原文保留,题名已译出。
- Asai et al. (2023) Akari Asai, Zeqiu Wu, Yizhong Wang, Avirup Sil, and Hannaneh Hajishirzi. 2023. Self-RAG:通过自我反思学习检索、生成与批评。arXiv:2310.11511 https://arxiv.org/abs/2310.11511 作者姓名、年份与编号按原文保留,题名已译出。
- Athey and Imbens (2015) Susan Athey and Guido Imbens. 2015. 面向异质因果效应的递归划分。arXiv:1504.01132 https://arxiv.org/abs/1504.01132 作者姓名、年份与编号按原文保留,题名已译出。
- Cao et al. (2026) Congfeng Cao, Lipeng Zuo, Konstantinos Papakostas, Qiwei Xu, Songwei Xu, Lun Zhou, Zhaochun Ren, Yougang Lyu, and Xiaohui Yan. 2026. SearchJev:面向搜索智能体的快速且经过校准的系统一模型。arXiv:2610.05107 https://arxiv.org/abs/2610.05107 作者姓名、年份与编号按原文保留,题名已译出。
- Cheng et al. (2026) Ruoxi Cheng, Haoxuan Ma, Hongyi Zhang, Junming Zhang, Ranjie Duan, Qiaolin Xia, Hao Wang, Yu Lu, Haibo Shi, and Xingjun Ma. 2026. Search-G1:为选择性的有根据搜索协同演化基于表示的奖励。arXiv:2608.07531 https://arxiv.org/abs/2608.07531v4 作者姓名、年份与编号按原文保留,题名已译出。
- Chifu et al. (2025) Adrian-Gabriel Chifu, Sébastien Déjean, Josiane Mothe, Moncef Garouani, Diego Ortiz, and Md Zia Ullah. 2025. 揭示查询性能预测的局限:失败、洞见,以及对选择性查询处理的含义。arXiv:2504.01101 https://arxiv.org/abs/2504.01101 作者姓名、年份与编号按原文保留,题名已译出。
- Coelho et al. (2025) João Coelho, Jingjie Ning, Jingyuan He, Kangrui Mao, Abhijay Paladugu, Pranav Setlur, Jiahe Jin, Jamie Callan, João Magalhães, Bruno Martins, and Chenyan Xiong. 2025. DeepResearchGym:一个免费、透明、可复现的深度研究评测沙箱。arXiv:2505.19253 https://arxiv.org/abs/2505.19253 作者姓名、年份与编号按原文保留,题名已译出。
- DeepSeek (2026a) DeepSeek. 2026a. 模型与定价。https://api-docs.deepseek.com/quick_start/pricing/ 访问于 2026 年 10 月 25 日的 API 文档。作者姓名、年份与编号按原文保留,题名已译出。
- DeepSeek (2026b) DeepSeek. 2026b. 思考模式。https://api-docs.deepseek.com/guides/thinking_mode/ 访问于 2026 年 10 月 25 日的 API 文档。作者姓名、年份与编号按原文保留,题名已译出。
- Dhar et al. (2026) Awik Dhar, Sunita Sarawagi, and Arpit Agarwal. 2026. 迈向语境内分类的通用校准。arXiv:2610.17096 https://arxiv.org/abs/2610.17096 作者姓名、年份与编号按原文保留,题名已译出。
- Fang et al. (2026) Zhengru Fang, Senkang Forest Hu, Zhonghao Chang, Yu Guo, Yihang Tao, Hongyao Liu, Mengzhe Ruan, Jun Huang, and Yuguang Fang. 2026. 大语言模型搜索智能体的推理时预算控制。arXiv:2605.05701 https://arxiv.org/abs/2605.05701 作者姓名、年份与编号按原文保留,题名已译出。
- Fisch et al. (2026) Adam Fisch, Shubhendu Trivedi, Fantine Huot, William W. Cohen, Michael Kaisers, Mirella Lapata, Kate Larson, and Jacob Eisenstein. 2026. 潘多拉的 AI 模型路由盒:在代价高昂的价值估计下做高效分配。arXiv:2608.20316 https://arxiv.org/abs/2608.20316 作者姓名、年份与编号按原文保留,题名已译出。
- Google DeepMind (2025) Google DeepMind. 2025. DeepSearchQA。Hugging Face Datasets。https://huggingface.co/datasets/google/deepsearchqa 数据集快照 b2623f8653065c2672de6d941fc5434cd652376c,访问于 2026 年 10 月 23 日。作者姓名、年份与编号按原文保留,题名已译出。
- Hoeffding (1948) Wassily Hoeffding. 1948. 一类具有渐近正态分布的统计量。《数理统计年刊》19, 3 (1948), 293–325。https://doi.org/10.1214/aoms/1177730196 作者姓名、年份与编号按原文保留,题名已译出。
- Jeong et al. (2024) Soyeong Jeong, Jinheon Baek, Sukmin Cho, Sung Ju Hwang, and Jong C. Park. 2024. Adaptive-RAG:通过问题复杂度学习适配检索增强的大语言模型。arXiv:2403.14403 https://arxiv.org/abs/2403.14403 作者姓名、年份与编号按原文保留,题名已译出。
- Jiang et al. (2023) Zhengbao Jiang, Frank F. Xu, Luyu Gao, Zhiqing Sun, Qian Liu, Jane Dwivedi-Yu, Yiming Yang, Jamie Callan, and Graham Neubig. 2023. 主动检索增强生成。arXiv:2305.06983 https://arxiv.org/abs/2305.06983 作者姓名、年份与编号按原文保留,题名已译出。
- Jin et al. (2025) Bowen Jin, Hansi Zeng, Zhenrui Yue, Jinsung Yoon, Sercan Arik, Dong Wang, Hamed Zamani, and Jiawei Han. 2025. Search-R1:用强化学习训练大语言模型进行推理并利用搜索引擎。arXiv:2503.09516 https://arxiv.org/abs/2503.09516 作者姓名、年份与编号按原文保留,题名已译出。
- Kieback et al. (2026) Adrian Kieback, Uyiosa Philip Amadasun, Aman Chadha, and Aaron Elkins. 2026. TASR:迭代检索的免训练自适应停止。arXiv:2606.13814 https://arxiv.org/abs/2606.13814 作者姓名、年份与编号按原文保留,题名已译出。
- Kolukuluru et al. (2026) Harshitha Kolukuluru, Reshma Ashok, Kirat Arora, et al. 2026. 不值得再花一个词元:面向高效深度研究智能体的边际价值估计。arXiv:2608.08389 https://arxiv.org/abs/2608.08389 作者姓名、年份与编号按原文保留,题名已译出。
- Kull et al. (2017) Meelis Kull, Telmo Silva Filho, and Peter Flach. 2017. Beta 校准:对二分类器逻辑校准的一项有根据且易于实现的改进。载于 Proceedings of the 20th International Conference on Artificial Intelligence and Statistics(Proceedings of Machine Learning Research, Vol. 54)。623–631。https://proceedings.mlr.press/v54/kull17a.html 作者姓名、年份与编号按原文保留,题名已译出。
- Kwiatkowski et al. (2019) Tom Kwiatkowski, Jennimaria Palomaki, Olivia Redfield, Michael Collins, Ankur Parikh, Chris Alberti, Danielle Epstein, Illia Polosukhin, Jacob Devlin, Kenton Lee, Kristina Toutanova, Llion Jones, Matthew Kelcey, Ming-Wei Chang, Andrew M. Dai, Jakob Uszkoreit, Quoc Le, and Slav Petrov. 2019. Natural Questions:问答研究的一个基准。《计算语言学协会汇刊》7 (2019), 452–466。https://doi.org/10.1162/tacl_a_00276 作者姓名、年份与编号按原文保留,题名已译出。
- Luo et al. (2026) Han Luo, Bingbing Wen, and Lucy Lu Wang. 2026. 智能体式弃权:智能体知道何时停止而不是行动吗?arXiv:2606.28733 https://arxiv.org/abs/2606.28733 作者姓名、年份与编号按原文保留,题名已译出。
- McCleary and Ghawaly (2026) Kyle McCleary and James Ghawaly. 2026. 量化预算受限的智能体式大语言模型搜索中设计决策对准确性与成本的影响。arXiv:2603.08877 https://arxiv.org/abs/2603.08877 作者姓名、年份与编号按原文保留,题名已译出。
- Mukhopadhyay et al. (2026) Debayan Mukhopadhyay, Utshab Kumar Ghosh, and Shubham Chatterjee. 2026. 桥接证据:静态检索效用不能预测多步智能体搜索中的因果效用。arXiv:2607.15253 https://arxiv.org/abs/2607.15253 作者姓名、年份与编号按原文保留,题名已译出。
- Ning et al. (2026a) Jingjie Ning, João Coelho, Yibo Kong, Yunfan Long, Bruno Martins, João Magalhães, Jamie Callan, and Chenyan Xiong. 2026a. 野外的智能体搜索:来自超过 1400 万次真实搜索请求的意图与轨迹动态。arXiv:2601.17617 https://arxiv.org/abs/2601.17617 作者姓名、年份与编号按原文保留,题名已译出。
- Ning and Li (2026) Jingjie Ning and Xueqi Li. 2026. 同一个智能体,不同的答案:对检索增强问答中由语料引起的答案更替所做的、具备重复意识的审计。arXiv:2608.22856 https://arxiv.org/abs/2608.22856 作者姓名、年份与编号按原文保留,题名已译出。
- Ning et al. (2026b) Jingjie Ning, Xueqi Li, and Yibo Kong. 2026b. 智能体式 RAG 评测:在问题、轨迹和读取之间分配预算。arXiv:2610.05034 https://arxiv.org/abs/2610.05034 作者姓名、年份与编号按原文保留,题名已译出。
- Ning et al. (2026c) Jingjie Ning, Xueqi Li, and Chengyu Yu. 2026c. 修订还是重新求解?分解多 LLM 流水线中的第二遍增益。arXiv:2604.01029 https://arxiv.org/abs/2604.01029 作者姓名、年份与编号按原文保留,题名已译出。
- Overwijk et al. (2022) Arnold Overwijk, Chenyan Xiong, Xiao Liu, Cameron VandenBerg, and Jamie Callan. 2022. ClueWeb22:一百亿份带有视觉与语义信息的网页文档。arXiv:2211.15848 https://arxiv.org/abs/2211.15848 作者姓名、年份与编号按原文保留,题名已译出。
- Park et al. (2025) Jaewan Park, Solbee Cho, and Jay-Yoon Lee. 2025. Stop-RAG:迭代 RAG 的基于价值的检索控制。arXiv:2510.14337 https://arxiv.org/abs/2510.14337 作者姓名、年份与编号按原文保留,题名已译出。
- Penedo et al. (2024) Guilherme Penedo, Hynek Kydlíček, Loubna Ben Allal, Anton Lozhkov, Margaret Mitchell, Colin Raffel, Leandro Von Werra, and Thomas Wolf. 2024. FineWeb 数据集:为规模化的优质文本数据滗清网页。arXiv:2406.17557 https://arxiv.org/abs/2406.17557 作者姓名、年份与编号按原文保留,题名已译出。
- Qian et al. (2026) Pin Qian, Su Wang, Chong Peng, Junxian You, Lifei Liu, Haoran Yu, Yihang Chen, and Xiaochong Jiang. 2026. 主动 RAG 应当何时检索?对效用、校准和成本的具有预算意识的评测。arXiv:2607.24010 https://arxiv.org/abs/2607.24010 作者姓名、年份与编号按原文保留,题名已译出。
- Reimers and Gurevych (2019) Nils Reimers and Iryna Gurevych. 2019. Sentence-BERT:使用孪生 BERT 网络的句子嵌入。arXiv:1908.10084 https://arxiv.org/abs/1908.10084 作者姓名、年份与编号按原文保留,题名已译出。
- Roh and Han (2026) Daeyoung Roh and Donghee Han. 2026. HALT:面向检索增强搜索智能体的、具备验证意识的停止。arXiv:2608.02009 https://arxiv.org/abs/2608.02009v3 作者姓名、年份与编号按原文保留,题名已译出。
- Shen et al. (2024) Maohao Shen, Subhro Das, Kristjan Greenewald, Prasanna Sattigeri, Gregory Wornell, and Soumya Ghosh. 2024. Thermometer:迈向大语言模型的通用校准。arXiv:2403.08819 https://arxiv.org/abs/2403.08819v2 作者姓名、年份与编号按原文保留,题名已译出。
- Su et al. (2024) Weihang Su, Yichen Tang, Qingyao Ai, Zhijing Wu, and Yiqun Liu. 2024. DRAGIN:基于大语言模型信息需求的动态检索增强生成。arXiv:2403.10081 https://arxiv.org/abs/2403.10081 作者姓名、年份与编号按原文保留,题名已译出。
- Tian et al. (2026) Fangzheng Tian, Debasis Ganguly, and Craig Macdonald. 2026. 预测智能体式检索增强生成中的部分答案质量与效用。arXiv:2609.16453 https://arxiv.org/abs/2609.16453 作者姓名、年份与编号按原文保留,题名已译出。
- Trivedi et al. (2021) Harsh Trivedi, Niranjan Balasubramanian, Tushar Khot, and Ashish Sabharwal. 2021. MuSiQue:经由单跳问题组合得到的多跳问题。arXiv:2108.00573 https://arxiv.org/abs/2108.00573 作者姓名、年份与编号按原文保留,题名已译出。
- Trushkowsky et al. (2013) Beth Trushkowsky, Tim Kraska, Michael J. Franklin, and Purnamrita Sarkar. 2013. 众包枚举查询。载于 2013 IEEE 29th International Conference on Data Engineering。673–684。https://doi.org/10.1109/ICDE.2013.6544865 作者姓名、年份与编号按原文保留,题名已译出。
- Tuisov (2026) Alexander Tuisov. 2026. 把搜索当作计算分配。arXiv:2607.27871 https://arxiv.org/abs/2607.27871 作者姓名、年份与编号按原文保留,题名已译出。
- Wang et al. (2020) Wenhui Wang, Furu Wei, Li Dong, Hangbo Bao, Nan Yang, and Ming Zhou. 2020. MiniLM:面向预训练 Transformer 任务无关压缩的深度自注意力蒸馏。arXiv:2002.10957 https://arxiv.org/abs/2002.10957 作者姓名、年份与编号按原文保留,题名已译出。
- Wu et al. (2026) Qinyuan Wu, Soumi Das, Mahsa Amani, Arijit Nag, Seungeon Lee, Krishna P. Gummadi, Abhilasha Ravichander, and Muhammad Bilal Zafar. 2026. 调用还是不调用:评估并优化大语言模型工具调用的框架。arXiv:2605.00737 https://arxiv.org/abs/2605.00737v3 作者姓名、年份与编号按原文保留,题名已译出。
- Xiong et al. (2026) Siheng Xiong, Oguzhan Gungordu, James C. Kerce, and Faramarz Fekri. 2026. 面向搜索增强大语言模型推理的自适应信息控制。arXiv:2602.01672 https://arxiv.org/abs/2602.01672 作者姓名、年份与编号按原文保留,题名已译出。
- Yang et al. (2025) An Yang, Anfeng Li, Baosong Yang, Beichen Zhang, Binyuan Hui, Bo Zheng, Bowen Yu, et al. 2025. Qwen3 技术报告。arXiv:2505.09388 https://arxiv.org/abs/2505.09388 作者姓名、年份与编号按原文保留,题名已译出。
- Yang et al. (2018) Zhilin Yang, Peng Qi, Saizheng Zhang, Yoshua Bengio, William W. Cohen, Ruslan Salakhutdinov, and Christopher D. Manning. 2018. HotpotQA:一个面向多样、可解释多跳问答的数据集。arXiv:1809.09600 https://arxiv.org/abs/1809.09600 作者姓名、年份与编号按原文保留,题名已译出。
- Zhang et al. (2026b) Chubin Zhang, Zhenglin Wan, Xingrui Yu, Jingxuan Wu, Qi Wen, Pengfei Zhou, Wangbo Zhao, and Ivor Tsang. 2026b. 校准不是控制:大语言模型智能体监督的干预价值。arXiv:2606.21399 https://arxiv.org/abs/2606.21399 作者姓名、年份与编号按原文保留,题名已译出。
- Zhang et al. (2026a) Sheng Zhang, Junyi Li, Wenlin Zhang, Xiaowei Qian, Yichao Wang, Yingyi Zhang, Maolin Wang, Yong Liu, and Xiangyu Zhao. 2026a. R2-Searcher:为智能体搜索校准检索与推理边界。arXiv:2606.28566 https://arxiv.org/abs/2606.28566 作者姓名、年份与编号按原文保留,题名已译出。
- Zhong et al. (2026) Shanshan Zhong, Yi Lu, Jingjie Ning, Yibing Wan, Lihan Feng, Yuyi Ao, Leonardo F. R. Ribeiro, Markus Dreyer, Sean Ammirati, and Chenyan Xiong. 2026. SkillLearnBench:在真实世界任务上评测智能体技能生成的持续学习方法。arXiv:2604.20087 https://arxiv.org/abs/2604.20087 作者姓名、年份与编号按原文保留,题名已译出。
- Zhou (2026) Shi Zhou. 2026. 偏好不是干预:读者特定证据效用的结构与稳定性边界。arXiv:2608.17781 https://arxiv.org/abs/2608.17781 作者姓名、年份与编号按原文保留,题名已译出。
- Zou et al. (2026) Wenhao Zou, Xianglong Liu, Wendong Bi, Hanjie Wang, Simin Zhao, and Gong Zhi. 2026. CoBRA:经由反事实边际学习工具使用边界。arXiv:2609.00967 https://arxiv.org/abs/2609.00967 作者姓名、年份与编号按原文保留,题名已译出。
附录 A 数据与执行设定
该资源包含 45,632 次不同执行、8,880 次预测和 3,168 个问题。图 6 把共享的 STOP 执行只计一次;跨设定复用的问题保留其身份。
图 6. 执行覆盖与源/目标设定。左侧九个计数合计为 45,632 次唯一执行。被复用的问题在全局问题总数中只计一次。右侧把历史 Tavily 问题与 Test-1632 的 DeepSeek 问题对照;它们是不同的队列。目标层计数为 400、400、400、400 和 32,每个层有 24 个历史问题。圆标记 THINK,方块标记 SEARCH。九条执行计数柱和五个成对的动作成功展示,显示资源构成以及问题与后端的联合变化。
公开预测器记录包含历史、行动者身份和动作定义。评测记录包含参照答案、观察到的奖励、支持组和资源测量。已保存的查询和检索响应固定重复执行可用的证据。发布的价值评分器评估概率预测和增益预测;策略评分器还收取预测词元。完整的预测矩阵、逐案例判断、全部定价设定和机器可读清单伴随该资源。
#### AI 协助与复现。
DeepSeek 提供执行、预测和评分;Qwen 提供跨家族对照。AI 也协助审计、编码、分析和写作。评分器和图的来源复现所报告的比较。
#### 问题总体。
Test-400 的每个层包含 24 个开发问题和 80 个测试问题。官方来源划分向研究测试队列贡献 160 个 HotpotQA 验证问题、212 个 MuSiQue 开发问题和 28 个 MuSiQue 训练问题。它的研究开发问题和支持页面是分开的。Flash 生成源历史。因此更晚的检查点和其他行动者评估的是以 Flash 到达这些状态为条件的继续。Test-400 的初始状态、第一次搜索和第二次搜索总体包含 400、377 和 171 个问题。它们的开发总体包含 120、114 和 40。匹配的 Pro 子集包含 80、74 和 32 个已到达的测试状态。
来源资格认定使用完整的支持段落。Flash 先在参照被隐藏的情况下求解一个问题;然后 Flash 和 Pro 分开评估参照支持。固定名次在行动者执行之前选出合格案例。Test-1632 活动筛选 8,000 个候选,其中 3,380 个接受独立的来源审阅,2,325 个得到支持。可用的四跳池产生 32 个被独立支持的问题;全部进入这 1,632 个问题的队列。五个层获得相等权重,1,081 个支持页面组件决定重采样。一项额外的重叠敏感性分析去掉 149 个共享先前方法选择页面的问题,保留 1,483 个问题。它的四跳层只有一个组件,因此其等层分析报告点估计。
Natural Questions 扩展在来源支持、独立清晰度和时间稳定性检查之后,选出 40 个开发查询和 400 个测试查询。测试页面形成 398 个组件,并与开发不相交。行动者—检索器研究在到达一个有效的待处理查询之后,选出 128 个开发问题和 320 个测试问题。它的 848 个支持页面互不相交,并与先前的带标签研究分开。这一条件总体排除已经作答的来源轨迹。索引扩展按固定的家族分层名次抽样 32 个开发状态和 64 个测试状态。
#### 模型与检索设定。
DeepSeek 请求标识符是 deepseek-flash 和 deepseek-v4-pro;记录也保留实际服务的模型标识符。主要继续使用开启的推理和 8,192 词元的总完成预算。析因研究把 8,192/16,384 词元与三次/六次被允许的搜索交叉。Tavily 使用带五个片段的基本搜索。组件比较把 DeepSeek 和 Serper 结果归一化为五篇文档、每篇文档 1,500 个字符。ClueWeb 使用配置的分片 0–3,且 cw22_a=false,FineWeb 使用七个分片。存储的响应、时间戳和返回的爬取元数据定义这些索引条件。
DeepSeek 请求省略温度、top-$p$ 和种子。提供方所记录的思考模式忽略温度。它当前的 top-$p$ 行为依赖于模型;Pro 思考在有工具时把 top-$p$ 固定为 0.95,否则为 1.0,而 Flash 非思考把它固定为 1.0(DeepSeek, 2026b)。Flash 思考允许 top-$p$ 在 $[0.95,1]$。历史响应并不回显一个有效的采样器配置。因此我们把所记录的请求设定与 2026 年 10 月 25 日文档所载的提供方行为区分开。行动者请求开启高努力推理;主要预测关闭推理,上限为 2,048 词元。重复是带有缓存证据的不同请求。条件生成独立性是统计假设;共享的相同答案保留一个正确性判断。
#### 独立的模型家族。
Qwen3-4B Q4_K_M 使用钉住的修订 bc640142c66e 和 llama.cpp b11669。行动者采样开启推理,温度 0.6,top-$p$ 0.95,top-$k$ 20,上下文 16,384 词元,继续预算 8,192 词元。预测器采样关闭推理,温度 0.7,top-$p$ 0.8,top-$k$ 20,上限 2,048 词元。120 次 Qwen 预测使用与 DeepSeek 预测器相同的公开输入。行动者扩展在 Qwen 测试执行之前固定 240 次 DeepSeek 预测和 3,360 对拟合概率。它的 640 个测试输出包含 610 个有效答案、九个长度失败和 21 个畸形输出;这些失败状态获得零奖励。
附录 B 估计器与推断
#### 校准与输入对照。
所有拟合都使用开发标签。共享输入映射使用两个原始概率;独立仿射映射每个动作使用一个。一个共享输入对照为每个动作选择分开的惩罚。逻辑、beta 和保序对照提供标准的校准替代(Kull et al., 2017)。直接增益模型回归动作差异;残差模型调整一个历史映射。发布材料规定每个模型的输入和拟合网格。
#### 历史对照与公开输入对照。
层均值每个类别使用 24 个开发问题。元数据岭使用数据集家族、比较成员身份和跳数。公开前缀特征包括两个概率、问题与工具文本长度的对数、词汇证据缺口,以及查询/文档新颖性。缺口是问题词项中未出现在工具文本里的比例。查询新颖性是一减去与先前查询的 Jaccard 重叠;文档新颖性是新标识符的比例。在两次搜索之前二者都为零。四个开发折从 $\{0.01,0.1,1,10,100\}$ 中选择正则化;所有对照都使用原来的 120 个开发问题。
#### 水平与增益。
学到水平的对照预测平均成功概率,并赋予一个历史均值增益。在组件研究中,把两个重建概率裁剪到 $[0,1]$ 也可能改变它们的水平和意图中的增益。对反向 Flash 均值增益对照,这发生在 320 个问题中的 31 个上。精确的零增益对照把同一个学到的水平赋给两个动作。自身历史均值仍然是一个常数增益比较器,其开发结果被精确匹配。
对于一个常数历史水平 $\ell_{0}$,水平风险对比进一步分解为平方均值偏差之差,以及项 $\operatorname{Var}(\ell)-2\operatorname{Cov}(\ell,\ell^{*})$。Test-1632 的值分别为 $-0.000293$ 和 $-0.034470$。观察到的奖励的共享方差从这一对比中抵消。后一项包括由层对照所表示的预测性任务差异;两种分解把总体偏移、问题间变化和动作差异识别为分开的贡献。
#### 增益方差与被解释的变化。
对每个自助样本,我们用相同权重计算 $\widehat{V}_{\Delta}=\sum_{i}w_{i}\widehat{\theta}_{i}-(\sum_{i}w_{i}\bar{\Delta}_{i})^{2}$ 和 $R^{2}_{\Delta}=1-\widehat{L}/\widehat{V}_{\Delta}$。方差是一个插入的总体估计;跨抽取的二阶矩去掉问题内的生成噪声。区间联合重采样分子和分母,并保留负的技能估计。所报告的全队列方差分母在全部自助样本上保持为正。每条评分规则定义它自己的奖励和增益总体。
#### 依赖与不确定性。
方程 4 和 5 使用以缓存证据为条件的独立生成抽取。重复的相同答案保留一个共享判断。支持页面组件定义自助单位。每次重采样保留所有被链接的问题、动作、检查点和重复标签。固定预测器区间描述以拟合参数为条件的评测变化。监督预算研究还报告二十个训练子集上的变化;其区间以这些拟合为条件。
#### 分析来源。
发布的记录保留原始比较定义、来源时间戳、固定的历史预测和后来的交叉验证划分。留出执行研究中使用的预测先于其结果。匹配配置的学习曲线复用已完成的库,并以组件不相交的方式拟合和评估。它们的作用是在一个共同的执行配置下测量训练规模。
原始样本量计算和每一条比较准则都伴随发布的协议。行动者匹配的家族比较在所声明的方法上使用最大标准化自助;其他展示的区间描述它们所陈述的比较。
#### 文本模型与公开信号模型。
冻结的 MiniLM 句子嵌入(Reimers and Gurevych, 2019; Wang et al., 2020)在初始检查点使用问题文本,并在更晚的检查点包含可用的助手/工具历史。岭和 200 棵树的森林头估计动作概率或它们的差。微调头使用 sigmoid 概率输出或 tanh 增益输出,四个开发折,编码器学习率 $10^{-5}$ 和 $3\times 10^{-5}$,头学习率 $10^{-3}$,以及轮数 $\{1,3,5,10\}$。一个均值守卫在开发选择期间把常数动作均值作为一个候选包括进来。置信度、熵、查询/文档新颖性和证据缺口信号使用公开观察和在开发中选定的阈值。评估方层均值把任务类别用作解释性对照。这些均值的初始检查点 Brier 为 0.1899,全局均值为 0.2035,共享输入映射为 0.1836。
附录 C 答案评分与证据
图 7. 分开的评分目标与独立的审计证据。左侧在参照等价、归一化包含和精确匹配下对照同一次 Test-1632 执行。中间展示从现有独立 AI 审计中选出的 15 个包含为正、精确匹配为零的案例;每个小组确认十个,并留下五个未解决。右侧在同一个 200 次执行的样本上保留 NQ 审计比较。这些目标和审计投影被分开解释。替代的词汇评分和独立审计证据澄清每个分数测量的是答案的哪一种性质。
#### 答案评分。
参照等价评分使用固定的答案字符串和语义判断。空答案、显式的 UNKNOWN 响应、畸形输出、生成长度失败和拒绝都得零。缺失的传输在恢复之前保持未完成。成对评判规则把分歧保持为不确定,并把它的零值点投影与共享标签边界分开记录。证据支持审计则评估所提供的段落是否确立所请求的答案以及任何额外的事实主张。目标上的这一差异解释了为什么一个参照等价的答案在仅来源的评估下仍可保留不确定性。
#### 确定性包含。
包含敏感性分析在一个非空的冻结参照别名于该基准既有归一化之后作为连续词元序列出现时,把答案标为正确。它去掉大小写、标点和冠词,归一化空白,并给失败或 UNKNOWN 答案赋零。不添加别名。Test-1632 的均值增益为 $+0.0486$,区间为 $[0.0331,0.0664]$;Test-400 为 $+0.0556$,区间为 $[0.0287,0.0825]$。字面的、不区分大小写的包含也给出正的点增益,0.0505 和 0.0619。这些词汇目标测量答案包含;主要评测使用参照等价正确性。现有的遮蔽审计中出现十五个包含为正、精确匹配为零的案例。每个独立小组判定十个等价、五个未解决,从而支持一种具体的措辞敏感性,而不改变原始奖励标签。
#### 独立审计。
原始的 400 问题来源审计发现 270 个得到支持、106 个不充分、六个含糊和十八个被反驳的参照。对应的问题—答案小组保留逆包含权重和支持组件不确定性。Natural Questions 审计覆盖 200 次抽样执行,代表 178 个不同答案和 155 个问题。它的小组在 95.5% 的抽样执行上一致,$\kappa=0.899$,并留下 47 次和 44 次执行未解决。原始奖励记录对所有敏感性分析保持固定。
原始 400 个问题中得到支持的子集使用预先存在的仅来源审计,包含 270 个问题。它的 Brier 值对全局均值为 0.1796,对层均值为 0.1637,对映射为 0.1634。增益风险分别为 0.0571、0.0555 和 0.0576。以来源支持为条件会改变被评估的总体,因此这些估计补充原始的全队列分析。Test-1632 在行动者执行之前使用来源支持资格认定。
行动者匹配的审计覆盖 83 个先前未确认的组件研究问题、237 个已确认问题中的 32 个随机问题,以及所有其他评分者分歧的答案。并集包含 153 个问题和 812 个不同答案。两个独立的 OpenAI/Codex 上下文审阅每一批至多十个问题。仅来源的答案和引文在参照和匿名候选被揭示之前被封存。该服务继承其默认模型;确切的服务模型快照不可用。两个小组在 775 个案例上一致,即 95.4%,$\kappa=0.918$。逆包含加权给出一致率 98.3% 和 $\kappa=0.965$。这些一致率测量描述独立的 AI 小组。
#### 共享标签与样本权重。
一个被一致判为正确的案例得到区间 $[1,1]$,一个被一致判为不正确的案例得到 $[0,0]$,其余每个案例得到 $[0,1]$。同一个变量标记该问题—答案配对在各动作上的每一次重复出现。被标记的问题和原始评分者分歧案例的纳入概率为一。其他答案继承其问题的纳入概率 $32/237$。对于候选增益 $f_{i}$ 和比较器 $b_{i}$,成对对比对观察到的奖励是线性的,
(6) $D_{i}=f_{i}^{2}-b_{i}^{2}-2(f_{i}-b_{i})(\bar{Y}_{i,S}-\bar{Y}_{i,T}).$
我们在改变其不确定标签之前,先把每个案例的系数加总。逆包含加权校正提供对比端点下限和上限的点估计。一个有限总体方差估计把抽样校正的不确定性与问题自助变异分开报告。
有限总体抽样和组件重采样保留被审阅答案之外的不确定性。行动者匹配的增益对比上界,相对均值增益比较器为 0.1583,相对零增益为 0.2054。封存的审阅、抽样概率和完整的边界计算伴随发布的审计。
小组在 188 个和 191 个答案中支持每一项事实主张,相比之下被支持的目标答案为 437 个和 451 个。在 475 个被两个原始语义评分者接受、并被精确匹配记为零的抽样答案中,它们支持 367 个和 373 个目标,并留下 108 个和 102 个未解决。这些观察把匹配所请求的答案,与验证额外的精确性区分开。小组 A 支持 153 个参照中的 112 个,小组 B 支持 114 个;各自反驳两个。分开的上下文去掉共享的对话历史。两个小组使用同一个审阅者家族,因此它们的一致率测量的是该家族内部的一致性。
对于 Test-400,允许所有被来源标记的答案标签变化,给出增益减原始的不利区间 $[0.0031,0.0373]$,以及 Brier 减均值的 $[0.0223,0.0577]$。来源得到支持的子集保留一个负的增益减原始区间。Natural Questions 小组产生相对来源均值的 Brier 点投影差异 $+0.0333$ 和 $+0.0262$,区间为 $[0.0022,0.0667]$ 和 $[-0.0036,0.0585]$。它们的共享标签边界包含两种符号。这些敏感性保留与每项主张相关联的评分规则和总体。
附录 D 迁移与监督
源校正在目标预测上复用更早的执行。Test-1632 在执行之前固定映射。组件对照在固定的目标结果上比较同行动者历史、直接的预测复用、历史均值和三配对组合。
图 6 在问题与后端的联合变化下比较不同的问题队列。组件研究通过同一批问题上的成对执行隔离后端效应。
#### 组件组合。
把 A/X 写作行动者 A 与来源 X。后端变化复用相同的 STOP 结果;行动者变化获取新行动者的 STOP 结果。三配对历史使用 128 个问题上的 2,560 个不同结果观察 A/X、A/Y 和 B/X,并组合它们的增益,
| (7) | $\displaystyle\widetilde{p}_{BY,T}$ | $\displaystyle=\widetilde{p}_{BX,T},$ | ||
|---|---|---|---|---|
| (8) | $\displaystyle\widetilde{\Delta}_{BY}$ | $\displaystyle=\widetilde{\Delta}_{BX}+\widetilde{\Delta}_{AY}-\widetilde{\Delta}_{AX},$ | ||
| (9) | $\displaystyle\widetilde{p}_{BY,S}$ | $\displaystyle=\operatorname{clip}_{[0,1]}(\widetilde{p}_{BY,T}+\widetilde{\Delta}_{BY}).$ |
组件使用它们自己的历史标签。一个单配对映射花费 1,024 个结果。反向 Flash 获取,包括输出、参照判断和校准预测,对同行动者历史花费 1,590,189 个词元,对组合花费 4,712,303 个词元,使用 128 个和 256 个缓存的搜索数据包。共享的资格认定、轨迹和来源审计被分开记录。测试预测使用一次对两次联合请求,平均 1,073.4 和 2,160.0 个词元。
在参照等价下,行动者匹配的映射减均值增益对比为 $-0.0173$;在精确匹配下为 $+0.0113$。两个对应区间都不含零。独立审计的共享标签边界保留两种符号。这些结果描述所规定的答案目标如何影响测得的增益,并与历史获取成本保持分开。
#### 目标 STOP 反馈。
四个不相交的校准库各包含十六个 HotpotQA 问题和十六个 MuSiQue 问题。嵌套预算包含 8、16 或 32 个目标问题。STOP 偏移是观察到的 STOP 成功与历史 STOP 预测之间的均值差。带符号的机会缩放首先设 $p_{T}^{\prime}=\operatorname{clip}(\widehat{p}_{T}+c)$,其中 $c$ 是观察到的 STOP 残差均值。它把正增益乘以 $(1-p_{T}^{\prime})/\max(1-\widehat{p}_{T},0.05)$,把负增益乘以 $p_{T}^{\prime}/\max(\widehat{p}_{T},0.05)$。成对对照在相同问题上使用两个动作标签,并包括偏移收缩、残差仿射拟合、新拟合的仿射映射和均值。收缩网格为 $\{0,.01,.1,.5,.9,1\}$。固定的 STOP16 规则使用配对 16 增量词元的 46.9%,相对配对偏移的 Brier/增益差异为 $+0.0036$ 和 $+0.0020$。它相对固定源映射的 Brier 差异为 $+0.0153$。
#### 索引来源与模型家族。
ClueWeb/FineWeb 校准使用 32 个本地开发状态和 64 个测试状态,同时保留原来共享的 STOP 抽取。新的 SEARCH 执行包含 1,518 个有效输出、十六个长度失败和两个畸形输出。匹配的本地均值对 ClueWeb/FineWeb 给出增益 MSE 0.0141/0.0169,本地仿射给出 0.0167/0.0162。它们的 Brier 差异为 $-0.0565$ 和 $-0.0483$,区间为 $[-0.0872,-0.0271]$ 和 $[-0.0703,-0.0274]$。发布的 Qwen 行动者结果保留两个预测器和全部评分规则。独立 Qwen 预测器的增益风险为 0.0322,相比原始的 0.2294 和历史均值 0.0315。
#### 同配置增益学习。
额外的曲线使用四个已保存的支持组件外折、十个嵌套训练样本,以及预算 20、40、80、120、240、480、800 和 1,100 个问题。行动者、检索来源和继续预算保持固定。原始概率多项式特征、公开前缀特征和冻结的 MiniLM 向量送入增益岭回归器。三个按组件分组的训练折从 $\{0.1,1,10,100,1000\}$ 中选择惩罚。加权拟合给予相等的任务层质量。一个仅训练的守卫还把每个家族与一个常数增益拟合相比较。评分对分开的拟合取平方损失的平均。参数选择、训练 ID 和预测一并发布。
图 8. 奖励与决策对照。前两个面板在 96 个留出的集合任务上比较结果误差和两动作平均增益误差,带有 95% 分量区间。仅增益的拟合没有结果分数。右侧面板在全部五种价格上评估分开的 1,632 问题队列,把付费的双探测一致性与免费选择抽取参照相对照。这两个实验保留它们不同的奖励定义。集合预测误差和定价后的决策区间展示改变奖励以及为决策信号付费的后果。
#### 监督子集。
历史复用用四个外层支持组件折、三个内折、二十个训练子集,以及目标预算 20、40、80、120 和 240 来评估。损失对分开的拟合模型取平均,保留每次拟合的标签预算。在四十个问题时,历史 120 减目标 40 的 Brier 差异为 $-0.0110$,区间为 $[-0.0142,-0.0083]$。仅 SEARCH 给出 $-0.0103$,区间为 $[-0.0137,-0.0071]$。把平方损失跨训练子集分解,把 0.0110 缺口中的 0.0083 归因于训练子集变异。完整曲线、成本前沿和匹配规模的历史对照伴随评分数据。
附录 E 决策奖励与集合奖励
双探测一致性比较两个有效的归一化 THINK 答案,一致时选择 THINK,否则选择 SEARCH。UNKNOWN 和失败输出计为不一致。其余两次 THINK 和两次 SEARCH 抽取评估被选中的动作。全部 36 个成对划分被平均。成本包括两次探测和一次被选中的继续;CPU 时间分开记录。
由样本告知的选择器每个动作使用两次带标签抽取,并在剩余配对上评估被选中的动作。选择执行和判断是免费的。对于 $u_{a}(x)=\mathbb{E}[Y^{a}-\lambda T^{a}/1000\mid x]$,任何随机选择器满足 $\mathbb{E}[u_{\pi(x,Z)}(x)]\leq\mathbb{E}[\max_{a}u_{a}(x)]$。它的抽样价值在期望上是理想免费探测价值的一个下界诊断。部署的规则为其信息获取付费。
词元估值表达一种应用权衡。货币换算把混合词元收费除以一个额外正确答案的价值;实际账单取决于输入、输出和缓存使用(DeepSeek, 2026a)。对于有效吞吐 $r$ 和每秒奖励惩罚 $\beta$,$\lambda=1000\beta/r$。在每秒 100 个词元时,$\lambda=0.005$ 把十秒估值为 0.5 个奖励百分点。
信息析因把查询特定增益与查询特定成本交叉。固定动作奖励来自同配置的四十问题开发集,为 0.68125 和 0.725;固定的增量词元成本为 7,007.49375。每条规则评估留出的已实现效用。在焦点价格下,把增益加到成本信息上使效用改进 1.81 个点,区间为 $[1.10,2.65]$。交互对比和全部五种价格设定伴随发布的分析。
在零词元价格下,理想预言机相对最佳常数的改进为 $H=(\mathbb{E}|\Delta|-|\mathbb{E}\Delta|)/2$。由于 $|\Delta|\leq 1$,它位于 $\max\{0,(\mathbb{E}\Delta^{2}-|\mathbb{E}\Delta|)/2\}$ 与 $(\sqrt{\mathbb{E}\Delta^{2}}-|\mathbb{E}\Delta|)/2$ 之间。Test-1632 的点矩,$\widehat{\theta}=0.0490$ 和均值增益 0.0568,给出插入范围 $[0,0.0823]$。这一代数范围涉及理想的零价格预言机;图 5 报告在每个规定词元价格上达到的不相交抽取效用。
在 $\lambda=0.005$ 时,Test-400 仿射策略相对 SEARCH 的效用差异为 $-0.0148$,区间为 $[-0.0258,-0.0062]$。Test-1632 文本策略的成功率为 69.05%,用 5,143 个词元,相对 SEARCH 的 71.58% 和 7,613 个词元;其效用差异为 $-0.0129$,区间为 $[-0.0251,-0.0004]$。完整的五价格比较伴随发布的分数。
集合奖励使用相对策划的原子参照条目的集合精确率、召回率和 F1,别名在执行之前固定。STOP 取消待处理查询;SAME 通过 DeepSeek 执行它,SWITCH 通过 Serper 执行它。查询和 8k 完成预算是共享的。增益损失对 SAME 减 STOP 和 SWITCH 减 STOP 的风险取平均。
集合队列从 225 个策划候选中选出 128 个任务,这些候选产生 179 个有效的待处理查询状态。观察到的 URL/共享实体组把开发与测试分开。每个动作四次重复给出 1,536 个正式结果,包括 1,279 个有效输出、244 个无效输出和十三个长度失败。最终请求保留推理和工具历史,关闭进一步的工具,并请求结构化条目。一个不同的开发探测在三次搜索继续下贡献 128 个结果,并留在正式测试比较之外。它相对一次搜索的 F1 对比为 $-0.0386$,区间为 $[-0.0713,0.0345]$。
均值守卫在开发选择偏向它们时返回动作均值。被选中的、具备查询意识的拟合选择这一守卫,把原始增益风险降低 64.9%。隐藏查询的增益对照和发现率对照仍然是分开的估计器。发现对照使用文档级条目频率而不使用参照别名,遵循枚举统计的动机(Trushkowsky et al., 2013)。一项额外的、由样本告知的分析保留每一个常数动作和全部五种固定词元价格。结果评分器在有界 F1 上使用平方误差,增益评分器使用方程 5。
觉得有用,转给同事
微信扫码
用微信扫一扫,在手机上打开后即可转发。