行业与实践

最新优先最早优先

研究与基准测试2026-09-2918 分钟
榜单上的分数量的不是模型，是整套脚手架
同一模型 Claude Opus 4.6，在 Terminal-Bench 上换脚手架，准确率从 58.0% 到 79.8%。这篇立场文认为，现有编码基准把模型、脚手架和环境收成一个端到端分数，还对照一份参考解打分，量的不是实践里真正在用的那套系统。
研究与基准测试2026-09-2918 分钟
从补全到委派：智能体进入软件生命周期
这是一篇综述，不是新实验。它把 SWE-bench Verified 从 2023 年 10 月的 1.96% 汇编到 2026 年春 Claude Opus 4.7 的 78.4%，并认为增益主要来自脚手架而不是模型变大。传统生命周期对照成智能体生命周期之后，人的位置改到意图、评审和批准。
研究与基准测试2026-09-298 分钟
高风险子集上攻击成功率从 6.00% 降到 1.69%：腾讯朱雀在编码代理上回归九种防御
pi 编码代理，模型匿名。9 组高风险组合上，九种防御把配对成功率从 6.00% 降到 1.69%，相对下降 71.8%，没有一种降到 0。离线检测误报为 0，召回最高 17.78%。
研究与基准测试2026-09-2911 分钟
会话级正确率不到 5%：百度 CypherTurn 测的是多轮 Cypher，不是单条查询
百度参与的 CypherTurn 用 721 个会话、5927 轮评多轮 Text-to-Cypher。引导协议最好只到 64.7% 执行准确率，会话全对最高 33/721。换成自主协议后榜首从 Claude 换成 Gemini，加到 10 倍动作预算也补不回。
研究与基准测试2026-09-299 分钟
成功率有两套算法：华为云把 Skill 观测拆成加载和释放
华为云 AgentArts 把 Skill 拆成加载和释放，不单建 Skill Span。四条指标里，成功率同时写成 call.count 减 error.count，以及 status 为 True 的次数除以总次数。指标 60 秒上报一次，Prometheus 的 increase() 会把次数显示成小数。
研究与基准测试2026-09-298 分钟
2.51% 只赢平均识别错误：京东 JoyAI-Voice 2.0 让出英文词错误和说话人相似度
京东 Joy Future Academy 的 JoyAI-Voice 2.0 在 Seed-TTS 上平均识别错误 2.51%，相对 dots.tts 的 2.95% 降 14.9%。英文词错误 1.27% 高于 Qwen3 的 1.23%，说话人相似度平均 74.8 低于 dots.tts 的 79.2。自建 MDVD-Eval 总分 0.893，10 维里领先 5 维。
研究与基准测试2026-09-2822 分钟
代码评审多找缺陷，噪声也一起上来
代码评审没有编译那种通过或失败。CR-Bench 从 SWE-Bench 抽出 584 条可在评审时发现的真实缺陷，核验子集 174 条。单次评审的信噪比更高，GPT-5.2 为 5.11，但召回只有 27.01%。逼它再找一轮，召回到 32.76%，信噪比降到 1.95。
研究与基准测试2026-09-2816 分钟
Data Agent Benchmark：企业多库问数智能体基准
DAB 用 54 条查询、12 个数据集和 4 种数据库，评测跨库整合、脏连接键、文本抽取和领域知识。Gemini-3-Pro 的 pass@1 只有 38%，pass@50 不超过 69%。patents 全集未被任何模型解开。
研究与基准测试2026-09-2826 分钟
有缺陷的代码会让生成的测试去证明缺陷是对的
用有缺陷的代码提示大模型生成单元测试，模型会把错误行为当成预定功能。11 个模型上，误导测试平均从修复代码条件下的 0.46% 升到 3.84%，能发现缺陷的有效测试从 8.51% 降到 2.98%。把实现换成模型写出的行为规格，误导下降，有效测试上升。
研究与基准测试2026-09-2818 分钟
Agents' Last Exam：面向职业工作流的智能体基准
ALE 用 1490 个来自真实职业项目的任务实例，覆盖 55 个子领域。最强的 Codex 加 GPT-5.5 在 Terminal-Bench 上有 82%，在 ALE 最难一档的完全通过率低于 10%，多数主流配置在该档接近零。
研究与基准测试2026-09-2828 分钟
别教智能体怎么做 TDD，告诉它该跑哪些测试
编码智能体的榜单几乎只看有没有修好。TDAD 在改代码之前用代码和测试的依赖图指出该核验的测试。在 100 条 SWE-bench Verified 上，测试级回归率从 6.08% 降到 1.82%。只加测试驱动的流程说明、不指出具体测试，回归率反而升到 9.94%。
研究与基准测试2026-09-2816 分钟
别把测试智能体的解释当成证据
测试智能体能生成用例、解释理由、委派子任务并在变更后自己重写。人如果不再把这些输出当假设来查，测试证据的保障价值就会变弱。这篇给出 12 种过度依赖：从接受错误的测试目标，到相信另一个智能体已经把委派的事做对。
方法与教程2026-09-283 分钟
先看一条轨迹，再给对话打分
GitHub 上的 Arize Phoenix 用来把一次模型调用拆开：输入、工具、检索和最终回答。适合已经有对话功能、但还不知道坏在哪一步的人。不打榜，也不代替 Promptfoo 的规则断言。
方法与教程2026-09-284 分钟
有检索才用 RAGAS：知识库问答的第一条检查
只给会先查文档再回答的系统。用官方 ragas quickstart 生成项目，人写问题和当时检索到的原文。它看回答有没有贴着查出来的文字，不证明业务规则，也不代替接口测试。
研究与基准测试2026-09-2826 分钟
公开测试过了，科学结论未必保住：SWE-bench Science
科学代码出错，损坏的不只是程序，还有结论所依赖的证据。SWE-bench Science 有 119 个任务、98 个仓库、20 个领域。最好的配置 pass@1 是 47.90%，同一配置的公开分却有 96.64%。补上科学说明，强模型的精确通过率反而下降。
研究与基准测试2026-09-287 分钟
2026 年的精准测试：先圈影响集，再补回归用例
精准测试要回答的是一次改动该测哪里。ICSE 2026 的 RIPPLE 用变更意图圈方法级影响集，ChaCo 给未覆盖的改动行补回归用例，FSE 2026 的 Cleverest 则用提交说明直接生成能暴露缺陷的输入。
研究与基准测试2026-09-2832 分钟
改动之后界面哪里变了：2026 年的变更感知 GUI 回归
RippleGUItester 从一次代码改动出发，用历史场景知识生成界面测试，在改动前后两个构建上执行，再对照截图判断差异是预期还是缺陷。在 Firefox、Zettlr、JabRef 和 Godot 的 111 个合并拉取请求上，表 1 给出 119 个去重缺陷、精确率 46.4%；其中 26 个仍在最新版本。单个拉取请求平均 54.8 分钟、5.99 美元。
方法与教程2026-09-283 分钟
AI 写的代码，你敢直接合并吗？代码评审从看 diff 到看证据
改动不大不等于影响不大：一处公共方法、一个新参数、一条只在超时重试时才走到的分支，都不在 diff 里。本文讲为什么只看 git diff 撑不起 AI 代码的评审，以及证据化评审先收什么证据、怎么下结论，附 2 分钟视频。
研究与基准测试2026-09-2823 分钟
编译器在回路里：嵌入式团队怎么把生成式 AI 放进流水线
四家公司、十位资深工程师的定性研究，没有新的通过率。十一项做法里，编译器反馈、提示入库和人在回路最具体。十四项挑战里，认证缺口和十年后签不进模型最硬。摘要写 17 家公司，致谢写 18，译文不抹平。
研究与基准测试2026-09-2828 分钟
找对文件还不够：SWE-Explore 怎么评仓库探索
SWE-bench 的通过或失败盖住了探索这一步。SWE-Explore 用成功轨迹抽出的行级上下文，让检索器和编码智能体在固定行预算下交一份排序区域列表。848 条 Issue、10 种语言。通用智能体文件命中已经高，行级召回大多仍在 0.14 到 0.19。