规则更多，名单更长？在隐藏规则课程上评测自进化智能体

规则更多，名单更长？在隐藏规则课程上评测自进化智能体

作者：Chenjie Qiu，单位：新加坡管理大学（Singapore Management University），新加坡，邮箱：yausankit@gmail.com；Boyan Xu，单位：广东工业大学（Guangdong University of Technology），广州，中国，邮箱：hpakyim@gmail.com；Shaobin Shi，单位：广东工业大学，广州，中国，邮箱：d7inshi@gmail.com；Bingfeng Chen，单位：广东工业大学，广州，中国，邮箱：chenbf@gdut.edu.cn；Ruichu Cai，单位：广东工业大学，广州，中国，邮箱：cairuichu@gmail.com；以及 Dongsheng Luo。注：通讯作者。单位：新加坡管理大学，新加坡，邮箱：dsluo@smu.edu.sg。作者姓名按原文保留，不音译。

###### 摘要。

自进化智能体根据反馈改写一份持久状态，但这样做能否让它们学会一条没有人告诉过它们的规则，基本上还没有被检验。智能体也可以把每一次纠正都写成一条例外，从而通过；于是它的名单会随着每一条新规则变长。我们提出 CLR-Bench，即潜在规则课程基准（Curriculum of Latent Rules）。每一条链在先前规则之上，每一层再增加一条隐藏规则。一条规则作用在一个不透明标签上，该标签代表网上公开发布的一个有名称的分组，例如某航空联盟的创始成员。任务给出一个示例取值，练习反馈再揭示一名成员和一名非成员，测试则检查未见过的成员以及相似的非成员。探针证明：基座模型知道每个分组的成员，并且在没有反馈时不会猜出该分组；一旦把标签读成有名称的分组，证据就能确定这个分组。另外四个基座模型也很少猜中这些分组。一条自动化流水线从新的数据领域构造链。我们发布 20 条链，覆盖 10 个领域，每条链有四层，每一层把一条隐藏规则与一个练习任务和一个测试任务配对。我们评测六种近期的自进化方法。在起认证作用的模型上，它们几乎学不会。最好的方法相对冻结智能体至多提高 5 分，并且只把未见成员中的 6% 到 12% 排除出计数，少于仅仅保留原始练习历史所能达到的 20%。一条写明「有名称分组」这一约定的固定课文，把同样这些方法提高 14.5 到 16.5 分。它们的状态在 75% 到 98% 的情形里记下被揭示的成员，却几乎从不记下类别名称；当练习暴露出名单漏掉的一名成员时，它们就把该成员加进名单。换成更强的 GPT-6-Sol 之后，ACE 和 Dynamic Cheatsheet 可以只凭反馈学习。它们达到 78% 的准确率，并解出 59% 到 60% 的单格，而在认证模型上这两个数字是 53% 和 8%；它们也超过了原始历史。因此 CLR-Bench 度量的是智能体学得有多好，而这种能力在模型之间并不相同。代码和数据见 https://github.com/yausankit/clr-bench 。

关键词：large language models, self-evolving agents, benchmark

1. 引言

大语言模型智能体越来越被期望在使用中变好。自进化方法给智能体一份持久状态，让它在每次尝试之后改写这份状态。状态可以是一份不断演化的策略手册（Zhang et al., 2026），一份被优化的系统提示（Agrawal et al., 2026），一张累积的备忘单（Suzgun et al., 2026），一座技能库（Alzubi et al., 2026），一组从推理中蒸馏出的记忆（Ouyang et al., 2026），或者一组从成组 rollout 中抽出、却不更新权重的经验（Cai et al., 2025）。这些方法都期望环境反馈变成智能体原先并不具备的知识，并期望这份知识能带到新的情形上。

现有评测很少把这一期望单独检验，原因有四。第一，一条分数在数据流上上升，可能来自记住反复出现的实例，来自遵循任务已经写明的规则，或者来自修正输出格式和工具调用。这些都不要求推断出任何新东西。第二，基准并不度量模型在反馈之前已经知道什么，因此一次增益很难归功于反馈，一次失败也很难归咎于方法。第三，汇总准确率掩盖了学到的是什么：记住被纠正过的案例的智能体，可以和推断出案例背后那条规则的智能体得到相近的分数。第四，很少有基准检查证据是否决定了应当学到什么；分数低，随后可能只是反映目标含糊。我们研究一个更窄、但对从经验中学习至关重要的问题。给定稀疏的纠正性反馈，自进化智能体能否归纳出一条隐藏规则，并把它用到从未见过的情形上？

图 1。CLR-Bench 总览。（a）一层把一个公开发布的分组藏在不透明标签后面，并给出一个示例 $A$；练习揭示一名成员（$m_{0}$）和一名非成员（$n_{p}$），测试检查未见成员（$m_{1},m_{2}$）和测试非成员（$N_{t}$）。（b）规则在四层上累积；智能体练习、学习，然后接受测试。（c）四个探针认证每一个候选。

我们提出 CLR-Bench（潜在规则课程基准，Curriculum of Latent Rules Benchmark）来回答这个问题。它的链由现实记录上的聚合任务组成，例如按部门统计可报销的航段，或按患者统计可审核的用药记录。每一层增加一条规则，排除字段取值落在某个不透明标签之下的记录，例如「处于审核队列 B8 的航段不计入」。任务为该标签给出一个示例取值 Lufthansa，以及出现在本层输入中的各个取值的简短事实描述。这个标签代表取自公开来源的、现实世界里一个有名称的分组，这里是 Star Alliance 的创始成员，但任务从不说出这个名称。练习反馈来自对一个公开示例所做的小改动。智能体由此得知 Thai Airways 和 Lufthansa 一样属于审核队列 B8，而 ITA Airways 不属于。测试随后要求它把这条规则用到其余成员上，例如从未在反馈中出现的 United Airlines，并继续计数那些看起来相似的非成员。要成功，智能体必须把两则证据变成正确的类别，并把该类别写进自己的状态。

隐藏类来自万维网。智能体越来越多地在网页数据和服务上行动，而任务背后的类别，是组织和标准机构在网上发布并维护的分组：一个联盟里的航空公司、一个经济集团里的国家、一套安全分类法里的弱点、一只股票指数里的公司。任务很少把这样的分组逐条写明，智能体是通过例子和纠正遇见它的。从少数种子成员恢复一个网页分组，是集合扩展的经典问题（Wang and Cohen, 2007；Zhang et al., 2020）；从少数正例学习一个概念，在认知科学里也已被长期研究（Tenenbaum, 1999）。CLR-Bench 把这个问题放进自进化循环。种子以反馈的形式到来，智能体应当把分组存下来，使后来的决定用上它。隐藏类是公开发布的分组，或与其成员绑定的取值，例如金砖国家成员国的货币。基准的名单定义了它们，并记录其来源和快照日期。

练习和测试按设计奖励不同的东西。智能体可以靠记下两个被揭示的取值作为例外来通过练习。只有追问哪一个类别能解释这次纠正的智能体，才能处理未见成员。更早的规则继续有效，因此差距随深度增大。一个靠名单办事的智能体在每一层再加一份名单，并漏掉每一条规则的未见成员；而写下类别的智能体则把类别带向后。真实反馈有同样的形状：智能体在个别案例上被纠正，并必须推断这些案例背后的规则。

三项设计选择使这个基准具有诊断性。在一种约定之下，证据是充分的。如果标签表示有名称的分组，那么示例、被揭示的成员和被拒绝的非成员，就能从该领域的名单库中单独指出一个分组，而基座模型知道所描述的取值中哪些属于它。证据也是必要的。语言模型探针在构造期间证明：仅有标签和示例并不会把类别泄露出去。最后，同样的任务在若干条件下运行，用以显示学习失败在哪里。冻结智能体从不更新。每种方法先只从反馈学习（self），再在其更新步骤里加入一条固定课文；课文陈述该约定，以及一套使用证据的程序，但不点名任何类别。一个不依赖方法的参照，把原始练习历史放进提示。取值级诊断把未见成员仍留在计数里的欠泛化，与把非成员删掉的过泛化分开。

一条自动化流水线从一个新的数据领域组装并认证链。一条链持有一个领域的记录，实体例如部门、员工、报销单和航段；有一个按实体计数记录的基础任务，以及四层。每一层在一个字段上、用一个不透明标签增加一条规则，描述所涉及的每一个取值，并配有一个练习任务和一个测试任务。我们发布 20 条链，分布在 10 个领域，每个领域两条，范围从差旅报销审计和药房审核，到系统日志、化学品进口和港口国监督。它们一共包含 80 条隐藏规则、80 个练习任务和 80 个测试任务。

我们的贡献如下。

（1）任务定义。我们定义课程链：每一层把一条规则藏在一个不透明标签上，该标签代表一个公开发布的分组。练习和测试要求不同的输出，因此只有被推断出的规则才能迁移（第 3 节）。

（2）探针认证的构造。一条自动化流水线从新的数据领域构造链，并用语言模型探针证明：模型知道每个类的成员，并且在没有反馈时不会猜出该类。在「有名称分组」这一约定下，证据能确定该类。我们发布覆盖 10 个领域的 20 条链，含 80 条隐藏规则，每条都配有一个练习任务和一个测试任务（第 4 节）。

（3）诊断指标与条件。单格准确率和取值级诊断把欠泛化与过泛化分开。冻结智能体、原始历史，以及陈述该约定的课文，给出证据所能支持的边界（第 5 节）。

（4）用两个基座模型评测六种方法。在认证模型上，ACE、GEPA 和 Dynamic Cheatsheet 提高 2 到 5 分，并且从计数中排除的未见成员少于原始历史。它们的状态把纠正记成一份不断变长的例外名单。更新步骤里的一条固定课文把它们提高 14.5 到 16.5 分；只保留课文中的约定部分，就把 ACE 和 Dynamic Cheatsheet 提高 13 到 19 分；若只在第 1 层陈述该约定，则提高 11 分。换成更强的 GPT-6-Sol，ACE 和 Dynamic Cheatsheet 只凭反馈就解出 59% 到 60% 的单格，而 GPT-6-Luna 只有 8%。因此该基准把学习能力在模型之间分开（第 6 节和第 7 节）。

2. 相关工作

表 1。与相关基准的比较。表 2。所评测的自进化方法。

译注：这一节开头的两张表把基准名、会议缩写和方法名按原文保留，只译表头。勾表示该列所写的性质具备，横线表示不具备，圆圈表示只部分具备或只在部分设定下具备。表 1 比的是基准有没有反馈、持久状态、隐藏目标、对先验的控制和诊断；表 2 比的是方法会不会反思、增量更新、用门控决定是否接受更新、检索记忆，以及是否把状态写成可执行代码。

译注：表头 Fb、State、Hidden、Prior、Diag、Reflect、Incr.、Gate、Retr.、Code 分别按反馈、状态、隐藏、先验、诊断、反思、增量、门控、检索、代码译出。单元格中的勾、横线和圆圈按原文保留。ours 即本文。

##### 自进化智能体。

若干方法让一个冻结的语言模型跨回合变好，办法是改写一份持久的、非参数的状态。Reflexion 把言语形式的自我反思放在一个回合缓冲里（Shinn et al., 2023）。ExpeL 从成功和失败的轨迹中抽出见解（Zhao et al., 2024）。Voyager 和 EvoSkill 增长可执行技能的库（Wang et al., 2024c；Alzubi et al., 2026），Agent Workflow Memory 从过去的回合归纳可复用的工作流（Wang et al., 2024a）。更近的方法改变所存储的内容以及更新的方式。Dynamic Cheatsheet 在每次尝试之后改写一张累积备忘单（Suzgun et al., 2026），ACE 用增量编辑维护一份分条的策略手册（Zhang et al., 2026）。ReasoningBank 从成功和失败两边蒸馏策略（Ouyang et al., 2026）。Training-Free GRPO 通过对比一组之内的 rollout 来抽取经验（Cai et al., 2025），GEPA 则通过对帕累托前沿做反思式搜索来演化系统提示（Agrawal et al., 2026）。我们评测其中六种方法，表 2 汇总每一种如何书写和使用自己的状态。它们都假定反馈里含有值得保留的知识。CLR-Bench 检验的是：当这份知识是一个类别、而反馈只是指向它时，它们是否把它抽出来。

##### 从反馈中学习的基准。

自进化方法通常在编码、网页导航、基于应用的智能体任务和金融推理上被评测（Zhang et al., 2026；Ouyang et al., 2026；Wang et al., 2024a）。StreamBench 把这一设定看成从反馈流进行的在线学习（Wu et al., 2024），LLF-Bench 和 MINT 检验从语言反馈中学习（Cheng et al., 2023；Wang et al., 2024b）。面向自进化智能体的近期基准，度量任务流上的记忆（Wei et al., 2025；Wang et al., 2026；Hu et al., 2026），以及所学程序在任务之间的迁移（Gao et al., 2026）。这些基准问的是分数是否在一条流上上升。CLR-Bench 问的是学到了什么，并在从未出现于反馈中的取值上检验它。表 2 把它们与 CLR-Bench 比较。译注：这一句原文写 Table 2；与 CLR-Bench 对照的基准表是表 1，表 2 汇总的是方法。

##### 归纳推理与规则学习。

从少数例子归纳规则，长期以来被用来评测智能，从概念学习直到抽象与推理语料库（Chollet, 2019）。Qiu 等人发现，语言模型能提出好的假设，却难以应用它们（Qiu et al., 2024）。InductionBench 报告：在最简单的那一类字符串函数上也会失败（Hua et al., 2025）。WILT 要求模型通过在若干回合里提出测试用例来发现一条隐藏规则（Banatt et al., 2024），DiscoveryWorld 则把规律藏在虚拟环境里，供发现型智能体去找（Jansen et al., 2024）。有两种方法最接近 CLR-Bench 对智能体的要求。Hypotheses-to-Theories 在训练问题上建立规则库，并在测试时复用（Zhu et al., 2023）；hypothesis search 提出自然语言假设，并把它们当作程序来检查（Wang et al., 2024d）。两者都从一批给定的标注例子中学习。在 CLR-Bench 里，证据一次一条纠正地到达智能体的更新步骤，我们评测的是为这个循环而建的方法。反馈由反驳智能体程序的反例组成，如同反例引导的综合（Solar-Lezama et al., 2006）；与证据一致的那些分组构成一个版本空间（Mitchell, 1982）。上面大多数基准评测的是一轮推理或探索。CLR-Bench 把归纳放进智能体的交互循环。证据是对智能体自己程序的反馈，规则必须被存下来，然后用到一个输出不同的单独测试任务上。因为隐藏类是模型可能已经知道的真实分组，成功取决于把反馈连接到世界知识。

##### 集合扩展与概念学习。

把少数种子实体扩展成它们所属的完整网页分组，是经典的网页挖掘任务。它曾用网页上的包装器归纳来解决（Wang and Cohen, 2007），也用过由语言模型生成的类名（Zhang et al., 2020）。认知科学把从少数正例学习概念建模成嵌套假设上的贝叶斯推断，其中规模原则偏爱最小的一致概念（Tenenbaum, 1999）。CLR-Bench 把这个问题交给一个智能体：它一次一条地把种子作为反馈收到，并把推断出的分组留在自己的状态里。它的诊断度量这两个领域所研究的两种错误：扩展得太少，从而漏掉未见成员；扩展得太多，从而纳入非成员。

3. 预备知识与任务定义

3.1. 课程链

一条链设定在一个有实体和记录的数据领域里，例如部门、员工、报销单和航段。它的基础任务要求一个按实体计数记录的程序。一条链有四层，规则不断累积。第 $j$ 层在字段 $f_{j}$（它的陷阱字段）上增加一条规则，并带一个不透明标签 $\ell_{j}$，例如「处于审核队列 B8 的航段不计入」。我们把链上的一个位置称为一个槽，CLR-Bench 有 80 个槽。每个标签背后是一个隐藏类 $C_{j}$，即网上公开发布的一个有名称的分组（第 4 节）。任务从不点名 $C_{j}$。它给出一个示例 $a_{j}\in C_{j}$，以及对本层输入中可能出现的每一个取值的一句事实描述，包括未见成员和非成员，因此知道该类的智能体能够认出它的成员。每个类还有另外三名成员 $m_{0},m_{1},m_{2}$，一名练习非成员 $n_{p}$，以及七名测试非成员 $N_{t}$。非成员优先来自同样包含该示例的竞争分组（图 1a）。

3.2. 练习与测试

在第 $k$ 层，智能体在同样的记录和规则上练习，但练习任务要求的是最大的那个实体合计。智能体最多可以提交三个程序。每个程序在一个公开示例上、以及 $2k+1$ 个隐藏输入上运行。一个隐藏输入把示例取值挪到其他记录上。对每一条规则 $j\leq k$，一个输入插入 $m_{0}$，另一个输入同时插入 $m_{0}$ 和 $n_{p}$。每一个失败的输入都作为反例返回，并对每个被改动的取值说明它是否像示例那样属于该标签。第一次尝试通常失败，因为 $m_{0}$ 尚未被展示。附录 A.4 复现一个任务及其反馈。方法在每次尝试之后运行其更新步骤，带门控的方法可以拒绝这次更新。某一层的练习在第一次通过的尝试处结束，或在三次尝试之后结束。那时的状态写出测试程序，测试程序返回各实体合计之和。

测试有五个隐藏输入，我们称之为格。每个格是一整套记录。$5-k$ 个干净格只含示例取值。$k$ 个单格各自为一条规则加入它的两名未见成员和七名测试非成员。一个只把每条规则用在其示例上的程序得分为 $(5-k)/5$，由此得到冻结阶梯 0.80、0.60、0.40 和 0.20。高于它的任何增益，都来自把规则用到未见成员上，同时保留非成员。记下示例和 $m_{0}$ 就足以通过练习，因此练习从不直接奖励泛化。测试度量的是智能体是否推断出哪一个类别解释了它的纠正，而这正是部署中的智能体必须做的事。

4. 基准构造

图 2。CLR-Bench 的构成。（a）隐藏类按领域（内圈）、陷阱字段（中圈）和分组种类（外圈）。（b）还包含每个示例的其他公开名单。（c）每个取值全集的规模。（d）每一层测试任务的长度。

手工书写隐藏规则链无法扩展，而且会招来捷径，例如示例就把类别泄露出去，或者成员共享一个看得见的前缀。因此我们用一条流水线构造链，把领域描述变成经过认证的链（图 1c）。领域是唯一的手工输入。

4.1. 领域输入与候选

一个领域提供三项输入。记录来自一个带种子的生成器，或一份公开的研究发布；两个领域使用 Synthea 的合成患者记录和 Loghub 系统日志，不涉及个人数据。每个陷阱字段有一个取值全集，并带一句描述。一座有名称的名单库提供候选类，例如组织名册、联盟成员、指数成分、官方分类和标准的章节，每一项都有来源和快照日期（表 5）。对每一层，流水线抽取一个类 $C$，并挑选示例、三名成员、练习非成员和七名测试非成员。若干约束挡住捷径。示例必须至少还落在另外两份名单里，并且没有任何单一属性可以把成员和非成员分开。不同层使用不相交的取值池，非成员优先来自包含该示例的竞争名单。有争议或最近刚变动的成员从不使用。

表 3。认证每一个隐藏类的探针（在被揭示成员的三种选择上抽样）。

4.2. 探针认证

每个候选都要通过用被评测模型运行的四个探针（表 3）。Known 探针最先运行，针对每一份候选名单。它向模型展示该名单的池中取值及其描述、一轮反馈和课文，并要求它说出分组名称，并标出哪些取值属于它。软分数是模型把成员关系判对的池中取值所占份额；该探针要求平均至少 0.8，并且在被揭示成员的每一次轮换中至少 0.6。一份名单只有在模型既识别出分组、又知道其成员时才通过。另外三个探针在整条链的上下文中运行。Hidden 探针只给出标签和示例，模型不得恢复该类。Learnable 探针只给练习反馈，并要求模型把未见成员中的 1/6 到 2/3 标上。Solvable 探针加上课文，并要求在剩余池中取值上的软分数至少为 0.8。失败的候选被替换。这些探针合在一起，把每个类放在反馈起作用的位置上：一边是模型会直接猜出的类，另一边是它学不会的类。造好的链经过一致性检查，并从其种子逐比特复现。冻结智能体在它们上的分数是 0.80、0.57、0.34 和 0.20，接近设计好的阶梯。

4.3. 基准统计

图 2 显示 CLR-Bench 的构成。20 条链覆盖十个领域，每个领域两条。每个领域贡献三个陷阱字段，其取值全集从小到大约 100 个（药品和材料），大到数千个（机场、港口和大学）。80 个隐藏类跨越七种公开发布的分组。政府间成员资格占最大份额，有 35 个类，其次是 18 个标准和官方分类、10 个航空联盟，以及 8 个股票指数和体育俱乐部。其余是软件产品和端口、大学网络和语系。每个示例还属于其他公开名单，平均 6.5 份，最多 20 份，因此证据必须把该类从真实的竞争者中分开。在「有名称分组」这一约定下，它做得到。任务随深度增长，因为规则和记录在累积，从第 1 层中位数约 3.3k token，到第 4 层的 4.9k。表 4 列出全部类。

5. 评测指标与条件

5.1. 层级准确率与单格准确率

层级分数是五个隐藏测试输入中、程序返回正确合计的份额。干净格的份额随深度下降，因此我们也报告单格准确率，即在 20 条链和第 1 到第 4 层上汇总的、正确单格的份额。对于只把每条规则用在示例上的智能体，它是零，并且格的混合不影响它。

5.2. 取值级诊断

对类池中的每一个取值，我们构造一个输入，只把该取值加到示例取值上。我们对每一条规则 $j\leq k$ 在这个输入上运行第 $k$ 层的测试程序，并记录两种结局。对成员，我们记录它是否被排除，记为 $\mathrm{inc}$；对两名未见成员 $m_{1}$ 和 $m_{2}$，记为 $\mathrm{inc}_{u}$。对非成员，我们记录它是否被保留，记为 $\mathrm{exc}$。两者都在链、层和规则上汇总。低的 $\mathrm{inc}_{u}$ 表示欠泛化，低的 exc 表示过泛化。

5.3. 条件

主要比较改变两件事：方法和基座模型（附录中的表 6）。每种方法都运行 self，即只从反馈学习，再运行一次，把课文加进它的更新步骤。课文是一段固定文本，不点名任何类。它陈述基准的约定，即标签表示一个众所周知的、有名称的分组，该分组包含示例和被确认的成员，并排除被拒绝的取值；它还给出应用这一约定的程序。认证要求课文使每一个类都可学习，因此它标出证据所能支持的东西。一个不依赖方法的历史参照，把原始练习程序和反馈放进求解提示，可以带课文，也可以不带。在有奖励的练习下，第二次和第三次尝试的隐藏练习输入也插入 $m_{1}$。于是根据第一次尝试的反馈建成的例外名单会再失败一次，只有 $m_{2}$ 保持未见。附录报告另外两种参照条件：课文的各个部分，以及类名。

6. 实验设置

6.1. 基线

#### 6.1.1. 自进化方法

我们评测六种自进化方法，它们在存储什么以及如何更新上有所不同（表 2）。我们遵循官方提示和算法，只替换与任务相关的占位符。

#### 6.1.2. 参照条件

冻结智能体用空状态写出每一个测试程序，并设定下限。不依赖方法的历史参照把原始练习程序和反馈放进求解提示。它显示在没有任何更新步骤时，证据支持什么。更新步骤里的课文显示在基准约定下，证据支持什么（第 5 节）。

6.2. 实验设定

所有方法、冻结智能体和参照都使用 GPT-6-Luna，推理力度为 high。第 7.1.2 节用 GPT-6-Sol、力度同样为 high，重跑冻结智能体、历史参照和全部六种方法，既包括只凭反馈，也包括带课文。在每一层，一种方法最多得到三次练习尝试，并在每次尝试之后更新状态。一次尝试是一个提交的程序；Training-Free GRPO 在一次尝试之内抽取一组四个 rollout。练习完第 $k$ 层之后达到的状态，写出第 $k$ 层的测试程序，该程序被评分一次。状态从一层带到下一层；历史参照能看到到目前为止所有层上、每一次更早的练习程序及其反馈。练习反馈是显式的。对隐藏练习输入所改动的每一个取值，它说明该取值是否属于标签，例如「X 属于审核队列 B8，和 Lufthansa 一样；带这个取值的记录不计入」。每种条件在每条链上运行一次，我们报告 20 条链上的平均。除层级分数外，我们还报告单格准确率以及诊断量 $\mathrm{inc}_{u}$ 和 exc（第 5 节）。

7. 实验结果

7.1. 主要结果

#### 7.1.1. 总体结果

图 3。每一层的测试准确率（20 条链），来自单独的反馈（空心）和带课文（实心），GPT-6-Luna 为红色，GPT-6-Sol 为蓝色。灰色带：只把每条规则用在示例上的智能体所对应的设计阶梯（80、60、40、20）。

图 3 显示每种方法在两个基座模型上、每一层的准确率，附录中的表 7 列出每种条件在每一层上的数字。

在 GPT-6-Luna 上、只凭反馈时，这些方法几乎学不会，而且没有一种方法的泛化好过原始证据。冻结智能体通过 95.5% 的干净格，却通不过任何单格，因此高于它的任何分数都来自把规则用到示例之外。ACE、GEPA 和 Dynamic Cheatsheet 只提高 1.8 到 5.0 分。它们解出 3% 到 8% 的单格，排除 6% 到 12% 的未见成员，并且在每一层都停在阶梯上。不依赖方法的历史参照把每一个练习程序及其反馈都留在提示里。它的准确率大约相同，为 52.3%，并且排除更多未见成员，达到 20%。更新步骤让程序更精确，在历史只保留 82% 的地方保留 92% 到 95% 的非成员，但它们并不增加泛化。

三种方法失败，是因为它们接受更新的方式。Training-Free GRPO 只从结局混合的组里抽取经验，EvoSkill 只在技能提高练习分数时才接受它。练习结局是全有或全无。结果是，没有任何一份 Training-Free GRPO 状态曾经含有一条经验，EvoSkill 在 20 条链中的 9 条上没有接受任何技能；它的 449 个提案中有三分之一格式错误。在两个基座模型上，每一份 Training-Free GRPO 状态都是空的；在 GPT-6-Luna 上，EvoSkill 70% 的状态不含技能，而在 GPT-6-Sol 上这一比例是 14%。相比之下，ACE 和 Dynamic Cheatsheet 在每次尝试之后都更新。ReasoningBank 检索到的是泛泛的策略，例如「推断字段注释示例背后的完整类别」，求解器随后仅凭描述就排除取值。它只保留 51% 的非成员，并比冻结智能体低 14 分。

#### 7.1.2. 基座模型的影响

我们用 GPT-6-Sol 重跑冻结智能体、历史参照和全部六种方法，既包括只凭反馈，也包括带课文（图 3，蓝色，以及表 10）。在没有反馈时，Sol 在 80 个层级分数里只猜中 1 个类。它的冻结智能体甚至落到阶梯之下，到 32.5%，因为它的程序还会丢掉符合某个被猜中的属性类别的非成员，例如「总部在欧洲国家的航空公司」。

只凭反馈，带 Sol 的 ACE 和 Dynamic Cheatsheet 达到 78.3% 和 78.5%。它们解出 59% 到 60% 的单格，并排除 68% 到 76% 的未见成员，而 Luna 只做到 8% 和 12%。它们也超过历史参照；历史参照达到 70.3%，以及 49% 的单格。差距的大部分来自保留更多非成员，90% 到 95%，相对 83%。Dynamic Cheatsheet 排除的未见成员也多于历史，76% 对 68%，而 ACE 排除得一样多。课文在 Sol 上只再增加 3.0 和 5.5 分，而在 Luna 上是 14.5 和 15.5 分。两个模型之间的差距随深度变宽，到第 4 层，self 条件在 Sol 上是 59%，在 Luna 上是 24%。在 Luna 上看到的例外名单，是模型不提出类别时更新步骤所写的东西。提出类别的模型则改而写下类别。难度是在认证模型上标定的。Sol 在前两层上高于 80%，第 4 层仍有 41 分可以争取。

图 4。泛化对特异性（GPT-6-Luna，第 1 到第 4 层汇总）：每种方法从单独的反馈（空心）到加上课文（实心）。插图放大左上角，那里 Training-Free GRPO 与冻结智能体重叠。

图 5。GPT-6-Luna，只从反馈学习。（a）对被揭示成员 $m_{0}$ 和未见成员 $m_{1},m_{2}$ 的排除。（b）对从未被展示的 $m_{2}$ 的排除，比较标准练习和有奖励的练习（后者从第二次尝试起揭示 $m_{1}$）。

更强的模型并不帮助每一种更新机制。带 Sol 的 GEPA 和 EvoSkill 排除更多未见成员，达到 48% 和 41%，但只保留 66% 和 53% 的非成员，最终是 58.8% 和 52.3%。Training-Free GRPO 仍然抽不出经验，ReasoningBank 的策略丢掉更多非成员，只保留 21%。两者都落到它们的 Luna 分数之下，为 35.8% 和 24.8%。提出类别的模型，帮助那些更新步骤会记下类别的方法，并使其余方法过泛化。带上课文后，Sol 把 History 提高到 83.8%，把 GEPA 提高到 64.8%，把 EvoSkill 提高到 70.5%。Training-Free GRPO 和 ReasoningBank 仍低于它们只凭反馈的分数，为 31.2% 和 20.8%。当更新步骤不存储规则时，更好的模型和该约定都帮不上忙。

其他模型也不能猜出隐藏类（附录中的表 9）。在没有反馈时，另外四个基座模型的冻结智能体停在阶梯上或阶梯之下，它们的 80 个层级分数里至多有 4 个高于阶梯。低于阶梯的分数来自那些还会丢掉干净格必须计数的取值的程序。在被告知类名之后，这些模型应用类名的不精确程度大约和 GPT-6-Luna 一样，解出 40% 到 45% 的单格，并保留 51% 到 63% 的非成员。因此，知道一个分组和应用它之间的差距，并不是某一个模型所特有的。附录中的表 10 列出两个基座模型的每一种学习条件。

7.2. 分析

图 6。（a）状态对每一层的标签说了什么（ACE 和 Dynamic Cheatsheet，每行 160 份状态，标注时不看测试结果；点名该类：该类、一个更宽的分组，或列出其成员；错误规则：另一个分组或一条属性规则）。（b）按状态内容，在全部被标注的状态上，程序排除的未见成员和保留的非成员。

#### 7.2.1. 这些方法为什么学不会？

把课文放进更新步骤之后，ACE、GEPA 和 Dynamic Cheatsheet 达到 67.0%、66.0% 和 68.3%，并解出 39% 到 46% 的单格，与 History 加课文的 63.5% 相当。因此同样的证据足以学会这些规则。与 self 条件的差距随着规则累积而变大。在第 4 层，ACE 带课文是 48%，不带是 23%；GEPA 是 42% 和 22%；Dynamic Cheatsheet 是 42% 和 24%。课文只帮助那些更新步骤会存储规则的方法。Training-Free GRPO 停在 49.5%，因为它的门控从不打开。EvoSkill 和 ReasoningBank 带课文后准确率下降，落到 42.0% 和 30.0%，并且只保留 62% 和 31% 的非成员。一旦被告知标签表示有名称的分组，它们就会删掉自己猜到的整个分组。这些增益在各领域上成立（附录中的表 11）。课文在 10 个领域中的 8 个上提高 ACE，在 9 个上提高 Dynamic Cheatsheet，网络安全对两者都是例外。

在诊断里，ACE 在 92.5% 的时候排除练习中被揭示的成员，但只在 12.2% 的时候排除两名未见成员。Dynamic Cheatsheet 和 GEPA 表现相同，分别是 80.0% 对 11.8%，以及 87.0% 对 5.8%（图 5a）。状态把被揭示的成员记成例外。图 4 显示，所有只从反馈学习的方法都坐在高特异性、低泛化的角落里。课文把 ACE、GEPA 和 Dynamic Cheatsheet 推向学到的类别，并把 EvoSkill 和 ReasoningBank 推向过泛化。按字符串匹配，被揭示的成员出现在 ACE、GEPA 和 Dynamic Cheatsheet 最终状态的 75% 到 98% 里，完整类名至多出现在 3% 里，带课文时为 8% 到 18%。在一条类为 Star Alliance 创始成员的链上，第 1 层之后的 ACE 手册写着：「被确认的成员包括 Lufthansa 和 Thai Airways；ITA Airways 被确认不是成员，仍然可计数。按航空公司取值的精确匹配来应用成员关系，而不是按名称相似度。」带课文时它写着：「B8 是 Star Alliance：排除 Lufthansa 和 Thai Airways，但计入 ITA Airways。」课文状态点名 Star Alliance，这是一个比其创始成员略宽的分组，这与课文条件下较低的 exc 相符。取自竞争分组的测试非成员被保留的频率和其他非成员一样，对 ACE 是 92.2% 对 92.8%。当在单条提示里被直接询问时，裸模型从同样的反馈中标上 44% 的未见成员，正如 Learnable 探针所示。

我们按状态对那一层的标签说了什么，标注每一层之后写下的状态。标注者是 GPT-6-Luna，它看到隐藏类和练习证据，但看不到测试结果（附录 A.1）。在 GPT-6-Luna 上、只凭反馈时，ACE 和 Dynamic Cheatsheet 的状态中有 91% 只持有练习中见过的取值，或关于该标签什么都没有，6% 点名该类或列出其成员。在 GPT-6-Sol 上，58% 点名该类或列出其成员（图 6a）。状态内容预测程序做什么。当状态点名该类或列出其成员时，程序排除 89% 的未见成员，并保留 93% 的非成员。当状态只持有见过的取值时，程序排除 9%（图 6b）。这些方法没能把纠正变成一个类别；一旦类别被存下，它们就能把它用好。

为了看出课文的哪一部分起作用，我们在更新步骤内部把它拆开，并在同一个中性标题「UPDATE NOTE」下给出两个部分（表 8）。只有程序的那一部分告诉方法：决定示例背后的类，并把它用到每一个被描述的取值上。它让 ACE 和 Dynamic Cheatsheet 停在 55.0%，增益为 2.5 和 2.2 分。只有约定的那一部分说：标签表示一个众所周知的、被选来贴合纠正的有名称分组。它把它们提高到 71.5% 和 65.8%，增益为 19.0 和 13.0 分，因此其效果并不依赖于原来那个标题的权威。在原始历史上，只有约定给出 64.8%，和整篇课文的 63.5% 一样多，而只有程序只增加 2.0 分。在更新步骤里连同反馈一起给出类名，把 ACE 和 Dynamic Cheatsheet 提高到 73.5% 和 75.8%，并把单格提高到 52% 到 57%。一个在没有任何反馈时被告知名称的求解器只达到 58.0%，单格为 40%，非成员保留 58%。这些方法失败在识别类别上；一旦类别被识别，反馈就设定它的边界。状态标注显示同样的分裂。只有程序时，76% 的状态只持有见过的取值或什么都没有；有约定时，52% 点名该类或列出其成员。在中性标题下使用整篇课文的 Dynamic Cheatsheet 停在 53.8%。它的状态说明原因：其中 69% 不再提到该标签，因为备忘单是整份改写的，规则被丢掉了。

为了检验这些方法是否学会一条可复用的推断策略，我们只在第 1 层的更新步骤里给出约定，并从第 2 层起去掉它（表 8）。ACE 和 Dynamic Cheatsheet 达到 63.8% 和 64.3%，介于只从反馈学习的 52.5% 和 52.8%，与每一层都收到约定的 71.5% 和 65.8% 之间。在第 2 到第 4 层，这些类从未带过该约定，ACE 的分数是 75%、58% 和 39%，而只从反馈学习时是 64%、44% 和 23%。一次陈述的大部分效果留在状态里。在它消退的地方，方法退回到属性规则，例如把石油输出国组织成员国里的机场说成「非洲的机场」。

#### 7.2.2. 有奖励的练习会改变方法学到的东西吗？

一份例外名单可以通过标准练习，而拒绝从两个正例和一个负例做泛化，可以是一种谨慎的选择。在有奖励的练习下，另一名成员 $m_{1}$ 从第二次尝试起出现。ACE、GEPA 和 Dynamic Cheatsheet 随后排除新被揭示的 $m_{1}$，ACE 在 93.5% 的情形里如此，但它们仍然漏掉从未见过的那名成员。它们在 $m_{2}$ 上的 inc 是 9.5%、4.0% 和 14.0%，接近标准练习的 12.0%、4.5% 和 11.0%（图 5b）。面对同样的信号，历史参照在 $m_{2}$ 上的 inc 增加一倍以上，从 19.5% 到 42.0%。原始历史使用了「一份名单会失败」这一证据，而这些方法没有。

#### 7.2.3. 失败模式、保持与成本

在 self 条件下，ACE、GEPA、Dynamic Cheatsheet、Training-Free GRPO 和 EvoSkill 的单格中有 83% 到 97% 失败，是因为一名未见成员仍被计数。ReasoningBank 同样经常因为丢掉非成员而失败（附录中的图 7a）。准确率在各层上下降，主要是因为单格的份额在增加（附录中的图 8）。对 ACE 和 Dynamic Cheatsheet，第 4 层上对未见的规则 1 成员的排除，在两个模型上都停留在与第 1 层相差 3 分以内。带 Luna 的 ACE 从 15.0% 到 17.5%，带 Sol 的从 72.5% 到 70.0%。保留规则 1 的非成员则随规则累积而下降，带 Sol 的 Dynamic Cheatsheet 从 99.4% 到 77.5%，带 Luna 的 ACE 从 95.0% 到 84.4%。较旧的规则失去特异性，并保住其成员。通过练习几乎说明不了学习。ACE 通过 95% 的练习层，历史参照通过 91%，但它们只解出 8% 和 13% 的单格，因为例外名单就足以通过。Training-Free GRPO 一层练习都不通过，因此它的混合结局门控从不打开。EvoSkill 在每条链的练习上花费大约 6M 输入 token，却什么也没学会。ACE 花费大约 0.9M，历史参照花费 0.07M，并且在 self 条件里泛化得最好。

8. 结论

CLR-Bench 问的是：自进化智能体能否从反馈中学会一条从未被告知的规则。它的隐藏类是这样的分组：基座模型知道其成员，没有反馈时不会猜出它，而一旦把标签读成有名称的分组，就能从证据中把它识别出来。在认证模型上，现有方法把纠正记成例外，相对冻结智能体至多提高 5 分。一条陈述该约定的课文把它们提高到 66% 到 68%，因此缺少的那一步，是推断出纠正指向一个有名称的分组。门控更新在二元的练习奖励下得不到喂养，被检索到的泛泛策略则会过泛化。练习奖励是学习的拙劣信号：在认证模型上，ACE 通过 95% 的练习层，却只解出 8% 的单格。更强的基座模型 GPT-6-Sol 可以只凭反馈做出所缺的推断，而该基准可以随着模型变好跟上这种进展。从这些结果引出三个方向：提出有名称的分组、并对照模型知识加以检查的更新步骤；让智能体在更新期间查阅公开发布分组的工具；以及不依赖于奖励变化的接受规则。构造流水线让其他人可以把基准扩展到新领域，并在方法改进时重跑它。

参考文献

Agrawal et al. (2026) Lakshya A Agrawal, Shangyin Tan, Dilara Soylu, et al. 2026. GEPA: Reflective Prompt Evolution Can Outperform Reinforcement Learning. In International Conference on Learning Representations.

GEPA：反思式提示演化可以超过强化学习。载于国际学习表征会议。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Alzubi et al. (2026) Salaheddin Alzubi, Noah Provenzano, Jaydon Bingham, Weiyuan Chen, and Tu Vu. 2026. EvoSkill: Automated Skill Discovery for Multi-Agent Systems. arXiv preprint arXiv:2603.02766 (2026).

EvoSkill：多智能体系统的自动技能发现。arXiv 预印本 arXiv:2603.02766（2026）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Banatt et al. (2024) Eryk Banatt, Jonathan Cheng, Skanda Vaidyanath, and Tiffany Hwu. 2024. WILT: A Multi-Turn, Memorization-Robust Inductive Logic Benchmark for LLMs. arXiv preprint arXiv:2410.10998 (2024).

WILT：面向大语言模型的、抗记忆的多轮归纳逻辑基准。arXiv 预印本 arXiv:2410.10998（2024）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Cai et al. (2025) Yuzheng Cai, Siqi Cai, Yuchen Shi, et al. 2025. Training-Free Group Relative Policy Optimization. arXiv preprint arXiv:2510.08191 (2025).

无训练的组相对策略优化。arXiv 预印本 arXiv:2510.08191（2025）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Cheng et al. (2023) Ching-An Cheng, Andrey Kolobov, Dipendra Misra, Allen Nie, and Adith Swaminathan. 2023. LLF-Bench: Benchmark for Interactive Learning from Language Feedback. arXiv preprint arXiv:2312.06853 (2023).

LLF-Bench：从语言反馈进行交互式学习的基准。arXiv 预印本 arXiv:2312.06853（2023）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Chollet (2019) François Chollet. 2019. On the Measure of Intelligence. arXiv preprint arXiv:1911.01547 (2019).

论智能的度量。arXiv 预印本 arXiv:1911.01547（2019）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Gao et al. (2026) Xingze Gao, Chuanrui Hu, Hongda Chen, et al. 2026. EvoAgentBench: Benchmarking Agent Self-Evolution via Ability Transfer. arXiv preprint arXiv:2607.05202 (2026).

EvoAgentBench：经由能力迁移评测智能体的自我进化。arXiv 预印本 arXiv:2607.05202（2026）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Hu et al. (2026) Yuanzhe Hu, Yu Wang, and Julian McAuley. 2026. Evaluating Memory in LLM Agents via Incremental Multi-Turn Interactions. In International Conference on Learning Representations.

经由增量式多轮交互评测大语言模型智能体中的记忆。载于国际学习表征会议。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Hua et al. (2025) Wenyue Hua, Tyler Wong, Fei Sun, Liangming Pan, Adam Jardine, and William Yang Wang. 2025. InductionBench: LLMs Fail in the Simplest Complexity Class. In Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics. 26526–26546.

InductionBench：大语言模型在最简单的复杂度类上失败。载于第 63 届计算语言学协会年会论文集，第 26526–26546 页。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Jansen et al. (2024) Peter Jansen, Marc-Alexandre Côté, Tushar Khot, et al. 2024. DiscoveryWorld: A Virtual Environment for Developing and Evaluating Automated Scientific Discovery Agents. In Advances in Neural Information Processing Systems (Datasets and Benchmarks Track).

DiscoveryWorld：用于开发和评测自动科学发现智能体的虚拟环境。载于《神经信息处理系统进展》（数据集与基准轨道）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Mitchell (1982) Tom M. Mitchell. 1982. Generalization as Search. Artificial Intelligence 18, 2 (1982), 203–226.

作为搜索的泛化。《人工智能》18 卷 2 期（1982），第 203–226 页。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Ouyang et al. (2026) Siru Ouyang, Jun Yan, I-Hung Hsu, et al. 2026. ReasoningBank: Scaling Agent Self-Evolving with Reasoning Memory. In International Conference on Learning Representations.

ReasoningBank：用推理记忆扩展智能体的自我进化。载于国际学习表征会议。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Qiu et al. (2024) Linlu Qiu, Liwei Jiang, Ximing Lu, et al. 2024. Phenomenal Yet Puzzling: Testing Inductive Reasoning Capabilities of Language Models with Hypothesis Refinement. In International Conference on Learning Representations.

惊人却费解：用假设改进检验语言模型的归纳推理能力。载于国际学习表征会议。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Shinn et al. (2023) Noah Shinn, Federico Cassano, Edward Berman, et al. 2023. Reflexion: Language Agents with Verbal Reinforcement Learning. In Advances in Neural Information Processing Systems.

Reflexion：带言语强化学习的语言智能体。载于《神经信息处理系统进展》。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Solar-Lezama et al. (2006) Armando Solar-Lezama, Liviu Tancau, Rastislav Bodik, Sanjit Seshia, and Vijay Saraswat. 2006. Combinatorial Sketching for Finite Programs. In Proceedings of the 12th International Conference on Architectural Support for Programming Languages and Operating Systems (ASPLOS). 404–415.

有限程序的组合式草图。载于第 12 届编程语言与操作系统体系结构支持国际会议（ASPLOS），第 404–415 页。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Suzgun et al. (2026) Mirac Suzgun, Mert Yuksekgonul, Federico Bianchi, et al. 2026. Dynamic Cheatsheet: Test-Time Learning with Adaptive Memory. In Proceedings of the 19th Conference of the European Chapter of the Association for Computational Linguistics.

Dynamic Cheatsheet：带自适应记忆的测试时学习。载于计算语言学协会欧洲分会第 19 届会议论文集。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Tenenbaum (1999) Joshua B. Tenenbaum. 1999. Bayesian Modeling of Human Concept Learning. In Advances in Neural Information Processing Systems 11.

人类概念学习的贝叶斯建模。载于《神经信息处理系统进展》第 11 卷。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wang et al. (2024c) Guanzhi Wang, Yuqi Xie, Yunfan Jiang, et al. 2024c. Voyager: An Open-Ended Embodied Agent with Large Language Models. Transactions on Machine Learning Research (2024).

Voyager：使用大语言模型的开放式具身智能体。《机器学习研究汇刊》（2024）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wang et al. (2024d) Ruocheng Wang, Eric Zelikman, Gabriel Poesia, Yewen Pu, Nick Haber, and Noah D. Goodman. 2024d. Hypothesis Search: Inductive Reasoning with Language Models. In International Conference on Learning Representations.

假设搜索：用语言模型做归纳推理。载于国际学习表征会议。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wang and Cohen (2007) Richard C. Wang and William W. Cohen. 2007. Language-Independent Set Expansion of Named Entities Using the Web. In Proceedings of the Seventh IEEE International Conference on Data Mining (ICDM). 342–350.

利用万维网对命名实体做与语言无关的集合扩展。载于第七届 IEEE 数据挖掘国际会议（ICDM），第 342–350 页。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wang et al. (2024b) Xingyao Wang, Zihan Wang, Jiateng Liu, Yangyi Chen, Lifan Yuan, Hao Peng, and Heng Ji. 2024b. MINT: Evaluating LLMs in Multi-turn Interaction with Tools and Language Feedback. In International Conference on Learning Representations.

MINT：在与工具和语言反馈的多轮交互中评测大语言模型。载于国际学习表征会议。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wang et al. (2026) Yuyao Wang, Zhongjian Zhang, Mo Chi, et al. 2026. EvoMemBench: Benchmarking Agent Memory from a Self-Evolving Perspective. arXiv preprint arXiv:2605.18421 (2026).

EvoMemBench：从自我进化的视角评测智能体记忆。arXiv 预印本 arXiv:2605.18421（2026）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wang et al. (2024a) Zora Zhiruo Wang, Jiayuan Mao, Daniel Fried, et al. 2024a. Agent Workflow Memory. arXiv preprint arXiv:2409.07429 (2024).

智能体工作流记忆。arXiv 预印本 arXiv:2409.07429（2024）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wei et al. (2025) Tianxin Wei, Noveen Sachdeva, Benjamin Coleman, et al. 2025. Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory. arXiv preprint arXiv:2511.20857 (2025).

Evo-Memory：用自我演化的记忆评测大语言模型智能体的测试时学习。arXiv 预印本 arXiv:2511.20857（2025）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Wu et al. (2024) Cheng-Kuang Wu, Zhi Rui Tam, Chieh-Yen Lin, et al. 2024. StreamBench: Towards Benchmarking Continuous Improvement of Language Agents. In Advances in Neural Information Processing Systems (Datasets and Benchmarks Track).

StreamBench：走向对语言智能体持续改进的评测。载于《神经信息处理系统进展》（数据集与基准轨道）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Zhang et al. (2026) Qizheng Zhang, Changran Hu, Shubhangi Upasani, et al. 2026. Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models. In International Conference on Learning Representations.

智能体上下文工程：为自我改进的语言模型演化上下文。载于国际学习表征会议。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Zhang et al. (2020) Yunyi Zhang, Jiaming Shen, Jingbo Shang, and Jiawei Han. 2020. Empower Entity Set Expansion via Language Model Probing. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. 8151–8160.

经由语言模型探测增强实体集合扩展。载于第 58 届计算语言学协会年会论文集，第 8151–8160 页。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Zhao et al. (2024) Andrew Zhao, Daniel Huang, Quentin Xu, et al. 2024. ExpeL: LLM Agents Are Experiential Learners. In Proceedings of the AAAI Conference on Artificial Intelligence.

ExpeL：大语言模型智能体是经验学习者。载于 AAAI 人工智能会议论文集。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

Zhu et al. (2023) Zhaocheng Zhu, Yuan Xue, Xinyun Chen, Denny Zhou, Jian Tang, Dale Schuurmans, and Hanjun Dai. 2023. Large Language Models can Learn Rules. arXiv preprint arXiv:2310.07064 (2023).

大语言模型可以学习规则。arXiv 预印本 arXiv:2310.07064（2023）。译注：本条作者姓名、年份和 arXiv 编号按原文保留，不音译；题名和出处已译成中文。

附录 A 至 A.4 因单篇正文上限另文发布，标题为《CLR-Bench：附录》。