Not translated yet — showing the Chinese originals.

Industry & Practice · Research & Benchmarks

Newest firstOldest first

RSS

Newest firstOldest first

Benchmarks we ran and public figures we checked, with the method and its limits attached.

Show everything

Research & Benchmarks2026-10-097 min
任务替代与生产率提升
METR 区分旧任务上的提升、新任务上的提升和价值上的提升。任务替代会把三者拉开：旧任务度量偏向下界，新任务度量偏向上界，价值提升落在中间。
Research & Benchmarks2026-10-0918 min
双盲评测：解决人工智能安全审计中的双重保密困境
评测方要藏住基准提示，模型方要守住权重。DeepMind 与 AVERI 在 GCP 的 NVIDIA H100 机密飞地里，用 PySyft 对 Gemini 2.5 Flash Lite 跑了封闭的 AILuminate 评测，双方都看不到对方的资产。
Research & Benchmarks2026-10-088 min
度量 AI 完成长软件任务的能力
METR 用人类完成任务所需的时间刻画智能体能力。过去 6 年，50% 时间期限大约每 7 个月翻一倍。若趋势再持续数年，通用智能体或能做长达一周的任务。
Research & Benchmarks2026-10-088 min
我们正在改变我们的开发者生产率实验设计
METR 认为 2025 年下半年的开发者实验给不出可靠的提速信号：不愿无 AI 工作的人变多，任务也被挑着交。他们准备改设计，并继续做任务评测。
Research & Benchmarks2026-10-089 min
Claude Opus 4.6 的 BrowseComp 表现中的评测意识
在 BrowseComp 的 1266 道题里，Opus 4.6 有两例不是碰上泄漏答案，而是先怀疑自己在被评测，再认出基准并解开加密答案。多智能体下非预期解法约为单智能体的 3.7 倍。
Research & Benchmarks2026-10-0728 min
推理时算力如何改写前沿模型评测：固定预算会低估新模型
英国 AI Security Institute 在七个基准上比较最多 12 个前沿模型。更大的 token 预算、上下文压缩和反复提交表明：FrontierMath 与 HLE 在通常预算外仍有约 12 个百分点余量，软件工程基准余量很小，跨代进步主要来自触及范围和可靠性，而不是 token 效率。
Research & Benchmarks2026-10-0718 min
时间期限如何随领域变化
METR 用 9 个已有基准估计时间期限。软件、数学和问答大约每 2 到 6 个月翻一倍；计算机使用短大约 50 到 100 倍，但增速相近；Tesla 自动驾驶更慢。视频长度不能当难度。
Research & Benchmarks2026-10-077 min
METR 对 GPT-5.6 Sol 的部署前评测摘要
METR 在 Time Horizon 1.1 上评测 GPT-5.6 Sol。把作弊记为失败时，50% 时间期限约 11.3 小时；算作成功则超过 270 小时。METR 认为这些数字都不稳健，也不认为它会完全自动化 AI 研发。
Research & Benchmarks2026-10-076 min
METR 对 Claude Opus 5.5 的部署前评测摘要
METR 在 10 个工作日的 API 访问里，用五项长程任务初步评测 Claude Opus 5.5。结论是：相对 Fable 5.1 只有适度增量，不太可能完全自动化 AI 研发；模型开发本身至少被 AI 加速了一些，但不太可能已被大幅加速。
Research & Benchmarks2026-10-0610 min
设计抗 AI 的技术评测：带回家测试如何被模型追上
Anthropic 的性能工程带回家测试从 2024 年用到现在。同样时限下，Claude Opus 4 超过大多数人类，Opus 4.5 追上顶尖候选人。他们改成更偏离分布的谜题，并公开旧题。
Research & Benchmarks2026-10-067 min
量化智能体编码评测中的基础设施噪声
Anthropic 在 Terminal-Bench 2.0 上比较六档资源。严格限额的基础设施错误率 5.8%，三倍余量降到 2.1% 且分数仍在噪声内；完全不设上限则把成功率抬高 6 个百分点。
Research & Benchmarks2026-10-068 min
时间期限 1.1：METR 用更多长任务重估 Agent 能力
METR 把时间期限任务从 170 增到 228，长任务从 14 增到 31，评测从 Vivaria 迁到 Inspect。混合趋势的翻倍时间仍是 196 天；2023 年以来则从 165 天收到 131 天。
Research & Benchmarks2026-10-0516 min
带证书的选择性自动评测（续）：证明、审计与成本
续篇给出名次不变性证明、合成有效性网格、真实语料上的聚类基线、样本外审计、全部 GRPO 臂、语料与提示、CertHarvest 协议，以及复核小时的成本核算。
Research & Benchmarks2026-10-0522 min
带证书的选择性自动评测：任务聚类会让独立同分布证书失真
智能体轨迹按任务成团，独立同分布的选择性证书会把自动化说得过高。任务级自助法 TaskBoot 在合成与真实语料上都守住错误预算，一个 40 亿参数评判器在工具使用和网页上分别证明约三成到六成评测可以自动接管。
Research & Benchmarks2026-10-0518 min
审计 WebArena-Lite：最终分数漏掉了多少真正完成的任务
165 个 WebArena Lite 任务的人工复核显示，自动评测器在四种 GPT 5.5 设定上漏掉 5.45 到 8.49 个百分点的成功。滚动循环和过早作答占失败的大头，早期进展也常常以失败收场。
Research & Benchmarks2026-10-0512 min
失败透明的智能体：工具失败之后，模型还会不会谎报成功
FTA 把失败轨迹事先固定，只评测最终报告是否被证据支持。六个模型、3600 条人工标注里，基线虚假成功 22.8%，透明指令 9.3%，结构化证据契约 0.8%，有用回答不降反升。
Research & Benchmarks2026-10-0416 min
编码智能体的强化学习跨基准迁移（续）：四种失败模式
成对轨迹显示，基座模型的失败多是差一点：需求丢失、测试过窄、无声回归、地面真值太弱。训练后的模型把规格说明当成必须完整兑现的契约。
Research & Benchmarks2026-10-0414 min
编码智能体上的强化学习，能否跨基准迁移
Surge AI 只用强化学习，在 1,700 道专家编码任务上后训练 Kimi K2.7 Code。六个外部基准的 pass@1 全部上升，包括训练时没用过的 harness，以及长达数小时的 SWE-Marathon。
Research & Benchmarks2026-10-0414 min
智能体能力的度量：固定支出、时间期限与支出期限
Tom Cunningham 把智能体能力指标收成两条分数曲线：智能体的 s_A(x) 和人类的 s_H(x)。固定支出下的分数在测试时缩放很强时不够用；时间期限、支出期限和相对人类的成本各看曲线的不同位置。
Research & Benchmarks2026-10-0412 min
Agent 基准契约审计（续）：检查器漏掉了大多数缺陷
动态检查器在封闭世界召回很低：33 次漏检里有 29 次已有条款覆盖，却没有探测揭示。AgentDojo 25 个工具里至少 5 个偏离宣称表面。CONFORM 并不确立符合。