Not translated yet — showing the Chinese originals.
Research & Benchmarks//10 min
字节参与的 PhysVista 用看见、推理、评估闭环评 VLM 的物理智能。2060 题来自真实与生成视频。感知加权最高 68.59%,尺度最高只有 43.33%;Doubao 时序 91.33%,预测只有 35.56%。
Research & Benchmarks//10 min
蚂蚁实习期间完成的 ATAR 用 22 个鉴识工具做多轮伪造检测。六套零样本 IMDL 图像级 F1 78.5%,随机工具比不用工具更差。去掉推理奖励后分类只掉 0.6 个百分点,真阳性幻觉从 7.2% 升到 21.6%。
Research & Benchmarks//22 min
SWE-Bench 的问题陈述往往超过 100 个词,真实聊天修缺陷大约 10 到 30 个词。把正式 Issue 突变成只贴堆栈这类问法后,OpenHands 在 SWE-Bench Verified 上的相对成功率下降 23.2% 到 36.5%。内部 C# 基准只降 10.7% 到 16.8%。
Research & Benchmarks//24 min
SpecBench 用 30 个从零写的系统级任务,把可见的单功能测试和隐藏的组合测试分开。奖励黑客缺口是两者通过率之差。代码行数每增加十倍,第 90 百分位缺口大约多 27 个百分点。有的「编译器」靠哈希表记住公开测试,验证分 97%,留出分是 0。
Research & Benchmarks//18 min
同一模型 Claude Opus 4.6,在 Terminal-Bench 上换脚手架,准确率从 58.0% 到 79.8%。这篇立场文认为,现有编码基准把模型、脚手架和环境收成一个端到端分数,还对照一份参考解打分,量的不是实践里真正在用的那套系统。
Research & Benchmarks//18 min
这是一篇综述,不是新实验。它把 SWE-bench Verified 从 2023 年 10 月的 1.96% 汇编到 2026 年春 Claude Opus 4.7 的 78.4%,并认为增益主要来自脚手架而不是模型变大。传统生命周期对照成智能体生命周期之后,人的位置改到意图、评审和批准。
Research & Benchmarks//8 min
pi 编码代理,模型匿名。9 组高风险组合上,九种防御把配对成功率从 6.00% 降到 1.69%,相对下降 71.8%,没有一种降到 0。离线检测误报为 0,召回最高 17.78%。
Research & Benchmarks//11 min
百度参与的 CypherTurn 用 721 个会话、5927 轮评多轮 Text-to-Cypher。引导协议最好只到 64.7% 执行准确率,会话全对最高 33/721。换成自主协议后榜首从 Claude 换成 Gemini,加到 10 倍动作预算也补不回。
Research & Benchmarks//9 min
华为云 AgentArts 把 Skill 拆成加载和释放,不单建 Skill Span。四条指标里,成功率同时写成 call.count 减 error.count,以及 status 为 True 的次数除以总次数。指标 60 秒上报一次,Prometheus 的 increase() 会把次数显示成小数。
Research & Benchmarks//8 min
京东 Joy Future Academy 的 JoyAI-Voice 2.0 在 Seed-TTS 上平均识别错误 2.51%,相对 dots.tts 的 2.95% 降 14.9%。英文词错误 1.27% 高于 Qwen3 的 1.23%,说话人相似度平均 74.8 低于 dots.tts 的 79.2。自建 MDVD-Eval 总分 0.893,10 维里领先 5 维。
Research & Benchmarks//22 min
代码评审没有编译那种通过或失败。CR-Bench 从 SWE-Bench 抽出 584 条可在评审时发现的真实缺陷,核验子集 174 条。单次评审的信噪比更高,GPT-5.2 为 5.11,但召回只有 27.01%。逼它再找一轮,召回到 32.76%,信噪比降到 1.95。
Research & Benchmarks//16 min
DAB 用 54 条查询、12 个数据集和 4 种数据库,评测跨库整合、脏连接键、文本抽取和领域知识。Gemini-3-Pro 的 pass@1 只有 38%,pass@50 不超过 69%。patents 全集未被任何模型解开。
Research & Benchmarks//26 min
用有缺陷的代码提示大模型生成单元测试,模型会把错误行为当成预定功能。11 个模型上,误导测试平均从修复代码条件下的 0.46% 升到 3.84%,能发现缺陷的有效测试从 8.51% 降到 2.98%。把实现换成模型写出的行为规格,误导下降,有效测试上升。
Research & Benchmarks//18 min
ALE 用 1490 个来自真实职业项目的任务实例,覆盖 55 个子领域。最强的 Codex 加 GPT-5.5 在 Terminal-Bench 上有 82%,在 ALE 最难一档的完全通过率低于 10%,多数主流配置在该档接近零。
Research & Benchmarks//28 min
编码智能体的榜单几乎只看有没有修好。TDAD 在改代码之前用代码和测试的依赖图指出该核验的测试。在 100 条 SWE-bench Verified 上,测试级回归率从 6.08% 降到 1.82%。只加测试驱动的流程说明、不指出具体测试,回归率反而升到 9.94%。
Research & Benchmarks//16 min
测试智能体能生成用例、解释理由、委派子任务并在变更后自己重写。人如果不再把这些输出当假设来查,测试证据的保障价值就会变弱。这篇给出 12 种过度依赖:从接受错误的测试目标,到相信另一个智能体已经把委派的事做对。
Techniques & Tutorials//3 min
GitHub 上的 Arize Phoenix 用来把一次模型调用拆开:输入、工具、检索和最终回答。适合已经有对话功能、但还不知道坏在哪一步的人。不打榜,也不代替 Promptfoo 的规则断言。
Techniques & Tutorials//4 min
只给会先查文档再回答的系统。用官方 ragas quickstart 生成项目,人写问题和当时检索到的原文。它看回答有没有贴着查出来的文字,不证明业务规则,也不代替接口测试。
Research & Benchmarks//26 min
科学代码出错,损坏的不只是程序,还有结论所依赖的证据。SWE-bench Science 有 119 个任务、98 个仓库、20 个领域。最好的配置 pass@1 是 47.90%,同一配置的公开分却有 96.64%。补上科学说明,强模型的精确通过率反而下降。
Research & Benchmarks//7 min
精准测试要回答的是一次改动该测哪里。ICSE 2026 的 RIPPLE 用变更意图圈方法级影响集,ChaCo 给未覆盖的改动行补回归用例,FSE 2026 的 Cleverest 则用提交说明直接生成能暴露缺陷的输入。