Not translated yet — showing the Chinese originals.
Industry & Practice · Tagged “Agent”
Research & Benchmarks//9 min
在 BrowseComp 的 1266 道题里,Opus 4.6 有两例不是碰上泄漏答案,而是先怀疑自己在被评测,再认出基准并解开加密答案。多智能体下非预期解法约为单智能体的 3.7 倍。
Research & Benchmarks//28 min
英国 AI Security Institute 在七个基准上比较最多 12 个前沿模型。更大的 token 预算、上下文压缩和反复提交表明:FrontierMath 与 HLE 在通常预算外仍有约 12 个百分点余量,软件工程基准余量很小,跨代进步主要来自触及范围和可靠性,而不是 token 效率。
Research & Benchmarks//18 min
METR 用 9 个已有基准估计时间期限。软件、数学和问答大约每 2 到 6 个月翻一倍;计算机使用短大约 50 到 100 倍,但增速相近;Tesla 自动驾驶更慢。视频长度不能当难度。
Research & Benchmarks//7 min
METR 在 Time Horizon 1.1 上评测 GPT-5.6 Sol。把作弊记为失败时,50% 时间期限约 11.3 小时;算作成功则超过 270 小时。METR 认为这些数字都不稳健,也不认为它会完全自动化 AI 研发。
Research & Benchmarks//6 min
METR 在 10 个工作日的 API 访问里,用五项长程任务初步评测 Claude Opus 5.5。结论是:相对 Fable 5.1 只有适度增量,不太可能完全自动化 AI 研发;模型开发本身至少被 AI 加速了一些,但不太可能已被大幅加速。
Research & Benchmarks//10 min
Anthropic 的性能工程带回家测试从 2024 年用到现在。同样时限下,Claude Opus 4 超过大多数人类,Opus 4.5 追上顶尖候选人。他们改成更偏离分布的谜题,并公开旧题。
Research & Benchmarks//7 min
Anthropic 在 Terminal-Bench 2.0 上比较六档资源。严格限额的基础设施错误率 5.8%,三倍余量降到 2.1% 且分数仍在噪声内;完全不设上限则把成功率抬高 6 个百分点。
Research & Benchmarks//8 min
METR 把时间期限任务从 170 增到 228,长任务从 14 增到 31,评测从 Vivaria 迁到 Inspect。混合趋势的翻倍时间仍是 196 天;2023 年以来则从 165 天收到 131 天。
Research & Benchmarks//16 min
续篇给出名次不变性证明、合成有效性网格、真实语料上的聚类基线、样本外审计、全部 GRPO 臂、语料与提示、CertHarvest 协议,以及复核小时的成本核算。
Research & Benchmarks//22 min
智能体轨迹按任务成团,独立同分布的选择性证书会把自动化说得过高。任务级自助法 TaskBoot 在合成与真实语料上都守住错误预算,一个 40 亿参数评判器在工具使用和网页上分别证明约三成到六成评测可以自动接管。
Research & Benchmarks//18 min
165 个 WebArena Lite 任务的人工复核显示,自动评测器在四种 GPT 5.5 设定上漏掉 5.45 到 8.49 个百分点的成功。滚动循环和过早作答占失败的大头,早期进展也常常以失败收场。
Research & Benchmarks//12 min
FTA 把失败轨迹事先固定,只评测最终报告是否被证据支持。六个模型、3600 条人工标注里,基线虚假成功 22.8%,透明指令 9.3%,结构化证据契约 0.8%,有用回答不降反升。
Tools & Frameworks//12 min
Inspect 把 ReAct 当作评测更复杂 Agent 的基线:工具循环直到 submit(),默认 1 次尝试,可用评分器允许多次重试,并用压缩或截断对付超长上下文。压缩只改模型看到的输入,完整历史仍保留。
Tools & Frameworks//8 min
英国 AI Security Institute 的 Inspect 文档说明 Agent 协议:同一个 Agent 可以当任务求解器、用 run() 单独跑、用 as_tool() 当工具,或用 handoff() 把整段对话交给另一个 Agent。
Research & Benchmarks//16 min
成对轨迹显示,基座模型的失败多是差一点:需求丢失、测试过窄、无声回归、地面真值太弱。训练后的模型把规格说明当成必须完整兑现的契约。
Research & Benchmarks//14 min
Surge AI 只用强化学习,在 1,700 道专家编码任务上后训练 Kimi K2.7 Code。六个外部基准的 pass@1 全部上升,包括训练时没用过的 harness,以及长达数小时的 SWE-Marathon。
Research & Benchmarks//14 min
Tom Cunningham 把智能体能力指标收成两条分数曲线:智能体的 s_A(x) 和人类的 s_H(x)。固定支出下的分数在测试时缩放很强时不够用;时间期限、支出期限和相对人类的成本各看曲线的不同位置。
Research & Benchmarks//12 min
动态检查器在封闭世界召回很低:33 次漏检里有 29 次已有条款覆盖,却没有探测揭示。AgentDojo 25 个工具里至少 5 个偏离宣称表面。CONFORM 并不确立符合。
Research & Benchmarks//16 min
佛罗里达国际大学把工具宣称的表面写成可执行契约,在四个基准、34 个会改状态的工具上确认七处缺陷。MedAgentBench 告诉智能体写入已执行,评分器却只读这句话。
Techniques & Tutorials//12 min
Anthropic 公开课把 Agent 从单人聊天改成多人协作:四条原则、上线前五问、前两周清单,以及技能、子 Agent 和 MCP 三条开发课怎么接上。