40 道 题 跑 3 遍: 知识 卡片 把 分数 从 30.2 拉到 38.4
阿里云社区 2026-08-11 用 SWE-bench Pro 的 40 个复杂案例比了五种给智能体供知识的方式,每种独立跑 3 次。无知识基线平均 30.2 分,Knowledge Engine 38.4,大约高 27.1%。token 从 3110K 降到 2920K。满分没有写出。

40 道题跑 3 遍:知识卡片把分数从 30.2 拉到 38.4
阿里云社区在 2026-08-11 写了 Qoder Knowledge Engine 的一次对照。Qoder 是阿里的 AI 编程产品。Knowledge Engine 把仓库里的工程知识收成智能体可以检索的上下文,不是给人读的文档库。
没有项目知识时,智能体每次从用户请求出发,自己搜代码、读文件、猜模块边界。大仓库里,算力和交互有一大块花在反复理解项目上。同一道题,不同轮次可能碰到完全不同的文件。
卡片,不是把 Wiki 整篇塞进去
上游有两路:仓库里的模块、依赖和工程约定;历史交互里的偏好和决定。出来三种东西。Repo Wiki 给人读。Memory 记长期偏好和项目经验。Knowledge Cards 给智能体执行时用。卡片写模块职责、架构、技术栈、编码约定、启动命令,以及模块之间的关系。
生命周期四段:扫描生成、建成知识图、治理和共享、智能体消费。小改动增量更新卡片。大重构或切分支时,用提交历史、分支状态和改动范围,在复用、增量更新和全量重生成里选。任务开始前用多路召回整理卡片;任务进行中还可以再查。卡片不替代代码搜索,后面的代码查询用来核对细节。
五种条件,各跑三遍
实验从 SWE-bench Pro 里抽了 40 个复杂案例。SWE-bench Pro 是软件工程修复题。五种条件各自独立跑 3 次。任务表现和执行成本报的是平均,变异系数 CV 用来看轮次之间的波动。
- 无知识基线。主要靠代码搜索和读文件。
- CodeGraph。任务中用代码图 MCP 定位符号和相关代码,仍然没有项目知识。
- 工具检索。任务中途调用知识检索工具。
- Agent prefetch。初始化时由一个预取智能体按用户请求、仓库代码和全量项目知识选出卡片,注入初始上下文。
- Knowledge Engine。语义检索预取加上工具检索,多路召回后再过滤、整理、注入。
指标是任务分、稳定性、token、执行轮次、工具调用次数和墙钟时间。文章没有写出这套分数的满分。
分数和成本
无知识基线平均 30.2 分。CodeGraph 31.7。工具检索 32.8。Agent prefetch 37.2。Knowledge Engine 38.4,相对基线大约提高 27.1%。
稳定性上,工具检索、Agent prefetch 和 Knowledge Engine 的 CV 分别是 2.8%、5.9% 和 6.4%,都低于基线的 11.1%。CodeGraph 的 CV 没有单独给出。
成本上,Knowledge Engine 把平均总 token 从基线的 3110K 降到 2920K,大约少 6.1%。平均轮次从 35.5 降到 31.7,工具调用从 41.1 降到 37.4,平均时间从 578 秒降到 559 秒。CodeGraph 大约省下 3.6% 的 token,但轮次、工具调用和时间都增加了。文章没有写出 CodeGraph 增加后的那三个数。
三种带项目知识的条件都高于两种没有项目知识的条件。文章把 Knowledge Engine 更高的原因写成:任务开始前就给上下文,执行中还继续补局部知识,并用代码核对。预取如果只做一次,可能不完整,还会在后面的轮次里占上下文。
三条轨迹
nodebb-30 要求权限检查按固定顺序跑,还要兼容旧配置。无知识那一组几乎找到了同一批文件,但把检查顺序弄反,兼容字段也映射错了,三次都失败。带知识的每次都成功。决定结果的不是文件覆盖,是检查顺序、豁免规则和兼容语义有没有写明。
flipt-605 只改新功能的函数体不够,还要改负责运行时注册的上层模块。项目知识把范围从局部实现扩到系统接入。
tutanota-176 要求会话密钥穿过多层数据加载和缓存。无知识的运行因为类型结构碰巧兼容,跳过了一处边界实现。文章写:某个文件改没改,不是可靠的成功标准。带知识的每次都成功。
40 个案例、每种条件 3 次,是这一次实验的规模,不是多套基准的平均。三条轨迹是代表性个案。页面没有禁止复制的声明。
阿里云,Alibaba Cloud Community,A Self-Iterating Knowledge Engine for AI-Native Software Engineering,2026-08-11,https://www.alibabacloud.com/blog/a-self-iterating-knowledge-engine-for-ai-native-software-engineering_603446
觉得有用,转给同事
微信扫码
用微信扫一扫,在手机上打开后即可转发。