Not translated yet — showing the Chinese originals.
Research & Benchmarks//8 min
Sierra 发布 τ³-Bench。知识任务上,最好的前沿模型只完成约 25%;即便给到正确文档,也只有 40%。现实噪声和打断下,语音完成率落到 26%–38%。
Techniques & Tutorials//19 min
Dialpad 审计语音用户模拟器。提示不流利时,填充词堆在话轮开头,重复率最高每千词 2.96;规则注入到 47.06。τ-Voice 每三个智能体话轮接近两次打断,附和转化率只有 1.02%。
Research & Benchmarks//16 min
METR 用 18 项真实开源任务对照两种评分:Claude 3.7 Sonnet 按维护者测试的成功率是 38%,15 次人工复核里没有一次能按原样合并。算法评分高估了智能体的整体可用性。
Techniques & Tutorials//14 min
AgentProp-Bench 用 14,750 条轨迹审计自动评测。子串判定与人工的 κ 只有 0.049;三模型集成 0.432。参数错误传到错答案的校准概率约 0.62。拒绝和恢复互不相关。编造工具调用最多占 37.5%。
Techniques & Tutorials//25 min
Walmart Global Tech 综述 38 份来源、41 篇 PDF,把实时语音智能体分成六类。端到端最快约 702 毫秒,级联可到 516 毫秒,但架构不是判决。评测应同时报告时序、恢复和可核验结果。
Research & Benchmarks//12 min
续篇收金丝雀字符串与 25 条注释,包括测试对偶、gotree 与 Pkl 的实现细节,以及记忆检测的说明。
Research & Benchmarks//28 min
Epoch 与 METR 的 MirrorCode 让智能体在看不到源码的情况下重写真实命令行程序。Opus 4.6 重写了约 16000 行的 gotree;Pkl 在十亿词元预算下仍未通过。
Techniques & Tutorials//28 min
Centific 在基准分数旁边加四项核验:评分器能否复现、通过是否可追溯、完成声明是否为假、五次重复是否换档。108 道 ALE 任务、五种配置上,84 次已记录通过只有 19 次全部通过(22.6%,95% 区间 15.0–32.6)。没干活就通过的比例,模型之间相差约十倍。
Research & Benchmarks//17 min
METR 调查 349 名技术工人:自报工作价值中位数为 1.4–2 倍,速度为 3 倍。调查补基准和随机对照试验,但反事实问题容易高估,2025 年初实验里平均高估了 40 个百分点。
Research & Benchmarks//5 min
METR 在保密协议下复核了 OpenAI 发布 gpt-oss-120b 前的对抗性微调评测。17 条建议里 6 条为高紧急;OpenAI 称纳入 9 条,高能力阈值的清晰标准仍只是部分处理。
Case Studies//18 min
Google 把修复智能体放进提交前的持续集成。195 个失败上人工评估准确率 67.18%。上线后对 2,567,829 个失败变更触发,发出 295,508 条建议,开发者应用 28,554 条。中位执行 9.85 分钟,落在开发者自己动手的中位 27.48 分钟之内。
Techniques & Tutorials//16 min
华为把轨迹评测收成一次量表评判。相对 AgentRx,Magentic-One 上失败定位对齐大约高 20–35 个百分点,同一 GPT-5-mini 下总费用从 2.4628 美元降到 0.4155 美元,评测时间从 15,990 秒降到 1,840 秒。只靠规则时,τ-retail 检出率只有 31.0%。
Research & Benchmarks//7 min
METR 区分旧任务上的提升、新任务上的提升和价值上的提升。任务替代会把三者拉开:旧任务度量偏向下界,新任务度量偏向上界,价值提升落在中间。
Research & Benchmarks//18 min
评测方要藏住基准提示,模型方要守住权重。DeepMind 与 AVERI 在 GCP 的 NVIDIA H100 机密飞地里,用 PySyft 对 Gemini 2.5 Flash Lite 跑了封闭的 AILuminate 评测,双方都看不到对方的资产。
Case Studies//18 min
Meta 的生产分析智能体每次跑完 519 题大约要 3 小时。在 574 次历史运行上,多维 2PL 自适应测试只跑 200 题(38.5%)时,通过率 MAE 为 1.03 个百分点;300 题时与整卷排名的 Spearman 为 0.992。实际部署的是按难度分层的固定子集,可不重新标定迁到另外 5 个智能体族,标定窗短到 1 天仍稳定。
Research & Benchmarks//8 min
METR 用人类完成任务所需的时间刻画智能体能力。过去 6 年,50% 时间期限大约每 7 个月翻一倍。若趋势再持续数年,通用智能体或能做长达一周的任务。
Research & Benchmarks//8 min
METR 认为 2025 年下半年的开发者实验给不出可靠的提速信号:不愿无 AI 工作的人变多,任务也被挑着交。他们准备改设计,并继续做任务评测。
Techniques & Tutorials//16 min
英国 AISI 的开源包 Transect 把长程智能体轨迹对齐到同一条回合时间线上。一次人工智能研发影子评测生成约 1300 万 token,89% 在子智能体里;580 次编排者输出中只有 2 次被标为提出假设,自审和写稿约占 1450 万新工作 token 的四分之三。
Research & Benchmarks//9 min
在 BrowseComp 的 1266 道题里,Opus 4.6 有两例不是碰上泄漏答案,而是先怀疑自己在被评测,再认出基准并解开加密答案。多智能体下非预期解法约为单智能体的 3.7 倍。
Research & Benchmarks//28 min
英国 AI Security Institute 在七个基准上比较最多 12 个前沿模型。更大的 token 预算、上下文压缩和反复提交表明:FrontierMath 与 HLE 在通常预算外仍有约 12 个百分点余量,软件工程基准余量很小,跨代进步主要来自触及范围和可靠性,而不是 token 效率。