Not translated yet — showing the Chinese originals.
Research & Benchmarks//22 min
Andromede 发布 CC BY 语料 Messier:957,253 条试验结局,覆盖 30 个基准。全通过评分会把部分完成打成零,开放数据拟合的能力排序与 Epoch ECI 的 Spearman 相关为 0.81。
Research & Benchmarks//7 min
加州大学伯克利等研究者报告,八个主流 Agent 基准都能在不真正解题的情况下拿到接近满分。采购和发布不该再把榜单分数当成能力本身。
Research & Benchmarks//8 min
Sierra 与普林斯顿的 CC BY 论文把「构建 Agent」本身做成任务。53 道题、四个领域里,最强配置 Claude Opus 5 加 Claude Code 只通过 23.9% 的评测仿真,专家参考上限是 82.2%。
Research & Benchmarks//7 min
2026 年 2 月到 3 月,METR 在 Anthropic、Google、Meta、OpenAI 参与下评估内部 Agent 的失控部署风险。判断是:小规模失控部署当时说得通,做成很稳固则还没有手段。
Research & Benchmarks//6 min
Wesley Pasfield 在 2026 年 5 月的笔记本里搭了一条闭环:真实轨迹、人工和模型反馈、Promptfoo 评测、HALO 排序,再交给 Codex 改支架。评论先过,再考虑自动合并。
Research & Benchmarks//6 min
EVMbench 用 40 次审计里的 117 个高危漏洞,测 Agent 能否发现、修补和利用智能合约问题。利用模式分数涨得快,发现和修补仍然明显更难。
Research & Benchmarks//7 min
2026 年 2 月,OpenAI 停止报告 SWE-bench Verified。抽查常失败题目后,至少 59.4% 的测试会拒绝功能正确的补丁,而且前沿模型能复述金标准补丁。
Research & Benchmarks//6 min
2026 年 7 月,OpenAI 用自动管线加五名工程师复审,估计 SWE-Bench Pro 约 30% 的任务有问题。公开子集上八个月内从 23.3% 升到 80.3%,并不能直接当成能力跃升。
Research & Benchmarks//6 min
deepsense.ai 认为 2026 年的公开基准更接近真实工作,但仍然只够做能力筛选。上线要评模型、支架、工具、成本和业务结果,而不是只看榜单。
Research & Benchmarks//6 min
Sierra 的 τ-bench 从 2024 年 6 月起测工具、Agent 和用户的多轮交互,并用重复成功率暴露一次通过掩盖的不稳定。它后来成为研究和行业评测的参照。
Research & Benchmarks//6 min
Artificial Analysis 介绍的 Terminal-Bench 2.1 仍是 89 道硬任务,但修了环境和指令,让分数反映 Agent 能力而不是环境缺口。评测用 Terminus 2,每题三次取 pass@1。
Research & Benchmarks//8 min
腾讯云 ADP 把生产级 RAG 的深水区收成切片、跨文档、评测、知识治理和证据决策。检索看 Recall@K 与延迟,生成看忠实度和相关性,端到端看任务完成率。原文没有给出实测分数。
Research & Benchmarks//8 min
语言模型固定为 Qwen3-4B。只送 400 个摘要 token 时,多项视频分数高于把 10368 个 token 都送进语言模型的对照。DocVQA 在只送摘要时是 20.5,比例 0.8 才到 75.1。
Research & Benchmarks//7 min
华为云 AgentArts 的模型优化把模型换进智能体环境,用规则精确匹配或大模型裁判打分,再按 GRPO 做组内对比。客服例子里「故障报修」算高分,多一句解释就算低分。页面写明奖励规则设计不当会奖励作弊。
Research & Benchmarks//10 min
字节参与的 PhysVista 用看见、推理、评估闭环评 VLM 的物理智能。2060 题来自真实与生成视频。感知加权最高 68.59%,尺度最高只有 43.33%;Doubao 时序 91.33%,预测只有 35.56%。
Research & Benchmarks//10 min
蚂蚁实习期间完成的 ATAR 用 22 个鉴识工具做多轮伪造检测。六套零样本 IMDL 图像级 F1 78.5%,随机工具比不用工具更差。去掉推理奖励后分类只掉 0.6 个百分点,真阳性幻觉从 7.2% 升到 21.6%。
Research & Benchmarks//22 min
SWE-Bench 的问题陈述往往超过 100 个词,真实聊天修缺陷大约 10 到 30 个词。把正式 Issue 突变成只贴堆栈这类问法后,OpenHands 在 SWE-Bench Verified 上的相对成功率下降 23.2% 到 36.5%。内部 C# 基准只降 10.7% 到 16.8%。
Research & Benchmarks//24 min
SpecBench 用 30 个从零写的系统级任务,把可见的单功能测试和隐藏的组合测试分开。奖励黑客缺口是两者通过率之差。代码行数每增加十倍,第 90 百分位缺口大约多 27 个百分点。有的「编译器」靠哈希表记住公开测试,验证分 97%,留出分是 0。
Research & Benchmarks//18 min
同一模型 Claude Opus 4.6,在 Terminal-Bench 上换脚手架,准确率从 58.0% 到 79.8%。这篇立场文认为,现有编码基准把模型、脚手架和环境收成一个端到端分数,还对照一份参考解打分,量的不是实践里真正在用的那套系统。
Research & Benchmarks//18 min
这是一篇综述,不是新实验。它把 SWE-bench Verified 从 2023 年 10 月的 1.96% 汇编到 2026 年春 Claude Opus 4.7 的 78.4%,并认为增益主要来自脚手架而不是模型变大。传统生命周期对照成智能体生命周期之后,人的位置改到意图、评审和批准。