Not translated yet — showing the Chinese originals.

Industry & Practice · Research & Benchmarks

Newest firstOldest first

RSS

Newest firstOldest first

Benchmarks we ran and public figures we checked, with the method and its limits attached.

Show everything

Research & Benchmarks2026-09-2918 min
从补全到委派：智能体进入软件生命周期
这是一篇综述，不是新实验。它把 SWE-bench Verified 从 2023 年 10 月的 1.96% 汇编到 2026 年春 Claude Opus 4.7 的 78.4%，并认为增益主要来自脚手架而不是模型变大。传统生命周期对照成智能体生命周期之后，人的位置改到意图、评审和批准。
Research & Benchmarks2026-09-298 min
高风险子集上攻击成功率从 6.00% 降到 1.69%：腾讯朱雀在编码代理上回归九种防御
pi 编码代理，模型匿名。9 组高风险组合上，九种防御把配对成功率从 6.00% 降到 1.69%，相对下降 71.8%，没有一种降到 0。离线检测误报为 0，召回最高 17.78%。
Research & Benchmarks2026-09-2911 min
会话级正确率不到 5%：百度 CypherTurn 测的是多轮 Cypher，不是单条查询
百度参与的 CypherTurn 用 721 个会话、5927 轮评多轮 Text-to-Cypher。引导协议最好只到 64.7% 执行准确率，会话全对最高 33/721。换成自主协议后榜首从 Claude 换成 Gemini，加到 10 倍动作预算也补不回。
Research & Benchmarks2026-09-299 min
成功率有两套算法：华为云把 Skill 观测拆成加载和释放
华为云 AgentArts 把 Skill 拆成加载和释放，不单建 Skill Span。四条指标里，成功率同时写成 call.count 减 error.count，以及 status 为 True 的次数除以总次数。指标 60 秒上报一次，Prometheus 的 increase() 会把次数显示成小数。
Research & Benchmarks2026-09-298 min
2.51% 只赢平均识别错误：京东 JoyAI-Voice 2.0 让出英文词错误和说话人相似度
京东 Joy Future Academy 的 JoyAI-Voice 2.0 在 Seed-TTS 上平均识别错误 2.51%，相对 dots.tts 的 2.95% 降 14.9%。英文词错误 1.27% 高于 Qwen3 的 1.23%，说话人相似度平均 74.8 低于 dots.tts 的 79.2。自建 MDVD-Eval 总分 0.893，10 维里领先 5 维。
Research & Benchmarks2026-09-2822 min
代码评审多找缺陷，噪声也一起上来
代码评审没有编译那种通过或失败。CR-Bench 从 SWE-Bench 抽出 584 条可在评审时发现的真实缺陷，核验子集 174 条。单次评审的信噪比更高，GPT-5.2 为 5.11，但召回只有 27.01%。逼它再找一轮，召回到 32.76%，信噪比降到 1.95。
Research & Benchmarks2026-09-2816 min
Data Agent Benchmark：企业多库问数智能体基准
DAB 用 54 条查询、12 个数据集和 4 种数据库，评测跨库整合、脏连接键、文本抽取和领域知识。Gemini-3-Pro 的 pass@1 只有 38%，pass@50 不超过 69%。patents 全集未被任何模型解开。
Research & Benchmarks2026-09-2826 min
有缺陷的代码会让生成的测试去证明缺陷是对的
用有缺陷的代码提示大模型生成单元测试，模型会把错误行为当成预定功能。11 个模型上，误导测试平均从修复代码条件下的 0.46% 升到 3.84%，能发现缺陷的有效测试从 8.51% 降到 2.98%。把实现换成模型写出的行为规格，误导下降，有效测试上升。
Research & Benchmarks2026-09-2818 min
Agents' Last Exam：面向职业工作流的智能体基准
ALE 用 1490 个来自真实职业项目的任务实例，覆盖 55 个子领域。最强的 Codex 加 GPT-5.5 在 Terminal-Bench 上有 82%，在 ALE 最难一档的完全通过率低于 10%，多数主流配置在该档接近零。
Research & Benchmarks2026-09-2828 min
别教智能体怎么做 TDD，告诉它该跑哪些测试
编码智能体的榜单几乎只看有没有修好。TDAD 在改代码之前用代码和测试的依赖图指出该核验的测试。在 100 条 SWE-bench Verified 上，测试级回归率从 6.08% 降到 1.82%。只加测试驱动的流程说明、不指出具体测试，回归率反而升到 9.94%。
Research & Benchmarks2026-09-2816 min
别把测试智能体的解释当成证据
测试智能体能生成用例、解释理由、委派子任务并在变更后自己重写。人如果不再把这些输出当假设来查，测试证据的保障价值就会变弱。这篇给出 12 种过度依赖：从接受错误的测试目标，到相信另一个智能体已经把委派的事做对。
Research & Benchmarks2026-09-2826 min
公开测试过了，科学结论未必保住：SWE-bench Science
科学代码出错，损坏的不只是程序，还有结论所依赖的证据。SWE-bench Science 有 119 个任务、98 个仓库、20 个领域。最好的配置 pass@1 是 47.90%，同一配置的公开分却有 96.64%。补上科学说明，强模型的精确通过率反而下降。
Research & Benchmarks2026-09-287 min
2026 年的精准测试：先圈影响集，再补回归用例
精准测试要回答的是一次改动该测哪里。ICSE 2026 的 RIPPLE 用变更意图圈方法级影响集，ChaCo 给未覆盖的改动行补回归用例，FSE 2026 的 Cleverest 则用提交说明直接生成能暴露缺陷的输入。
Research & Benchmarks2026-09-2832 min
改动之后界面哪里变了：2026 年的变更感知 GUI 回归
RippleGUItester 从一次代码改动出发，用历史场景知识生成界面测试，在改动前后两个构建上执行，再对照截图判断差异是预期还是缺陷。在 Firefox、Zettlr、JabRef 和 Godot 的 111 个合并拉取请求上，表 1 给出 119 个去重缺陷、精确率 46.4%；其中 26 个仍在最新版本。单个拉取请求平均 54.8 分钟、5.99 美元。
Research & Benchmarks2026-09-2823 min
编译器在回路里：嵌入式团队怎么把生成式 AI 放进流水线
四家公司、十位资深工程师的定性研究，没有新的通过率。十一项做法里，编译器反馈、提示入库和人在回路最具体。十四项挑战里，认证缺口和十年后签不进模型最硬。摘要写 17 家公司，致谢写 18，译文不抹平。
Research & Benchmarks2026-09-2828 min
找对文件还不够：SWE-Explore 怎么评仓库探索
SWE-bench 的通过或失败盖住了探索这一步。SWE-Explore 用成功轨迹抽出的行级上下文，让检索器和编码智能体在固定行预算下交一份排序区域列表。848 条 Issue、10 种语言。通用智能体文件命中已经高，行级召回大多仍在 0.14 到 0.19。
Research & Benchmarks2026-09-2828 min
少跑题也能排榜：智能体基准的中等难度过滤
智能体全量评测很贵，因为每一题都是带工具的多步交互。这篇在八个基准上看到：脚手架和时间偏移会让绝对分数预测变差，排名仍然比较稳。只评历史上通过率 30%–70% 的题，任务量减少 44%–70%，排名保真仍高。
Research & Benchmarks2026-09-287 min
2026 年海外 GUI 自动化测试研究：用例、预言机与缺陷
2026 年的 ICSE、FSE 和预印本把 GUI 测试从「会不会点」推进到可回放用例、符号预言机和可复现缺陷。WebTestPilot、SpecOps、GraphDroid 给出了实验数字。
Research & Benchmarks2026-09-2814 min
有人评，才合得进去：智能体拉取请求怎么过代码评审
MSR 2026 用 AIDev 看 33,596 条智能体拉取请求。总体合并 71.5%，但 Codex 82.6%，Copilot 只有 43.0%。至少有一次评审与合并相关最强；变更更大和强制推送则更难合并。多改几版或补测试，在控制协作信号后没有显著作用。
Research & Benchmarks2026-09-288 min
基于 AI 的 GUI 自动化测试：2024–2026 研究地图
GUI Agent 能把任务点完，不等于测出了缺陷。这篇按 2024 到 2026 年的综述和基准，分开任务完成率和真正的 GUI 测试。