研究与基准测试/2026-09-27/44 分钟先写代码再测试的风险:一项关于基于大语言模型的测试生成工作流的实证研究大语言模型(Large Language Models, LLMs)正越来越多地用于软件工程工作流,以自动生成源代码及其对应的测试套件。这种双重能力催生了新的开发范式,包括测试先行工作流与智能体工作流:由同一个模型负责产
研究与基准测试/2026-09-27/51 分钟自然语言断言的忠实自动形式化形式化契约对软件测试与验证至关重要,但编写它们仍然费力且容易出错。大语言模型(LLM)为自动形式化提供了一条有前景的路径:从自然语言规约综合出可执行断言,从而弥合开发者的非正式意图与形式化可执行规约之间的鸿沟。我们提出
研究与基准测试/2026-09-27/67 分钟重新思考智能体生成测试对基于大语言模型的软件工程智能体的价值大语言模型(Large Language Model,LLM)代码智能体越来越多地通过迭代编辑代码、调用工具并验证候选补丁,来解决仓库级问题。在这些工作流中,智能体常常即兴编写测试,但这一行为的价值仍不清楚。例如,GPT
研究与基准测试/2026-09-27/55 分钟CornerCase:协议实现的自动化极值测试许多网络协议实现中的软件缺陷出现在规范边界附近,例如刚好落在允许范围之内或之外的输入,或者单独看来合法、但在给定状态下非法的报文。从 SSL Heartbleed 漏洞到 TCP 圣诞树数据包,边界输入一再暴露关键弱点,
研究与基准测试/2026-09-27/60 分钟ReProAgent:从问题报告生成缺陷复现测试的工具增强多阶段智能体方法复现测试帮助开发者确认所报告的问题,并为问题修复提供可执行反馈,但开源项目中的问题报告很少包含这类测试。近期研究探索了用大语言模型从问题报告生成问题复现测试,但现有方法大体依赖基于提示的流水线:检索文本上下文并生成测试。
研究与基准测试/2026-09-27/63 分钟通过人类测试启发工作流实现单元测试生成的多智能体大语言模型协作近年来,大语言模型(Large Language Models, LLMs)的出现推动了自动化单元测试生成研究的迅速增长,取得了令人瞩目的性能,并减少了人工投入。然而,现有基于大语言模型的方法仍存在两项主要局限:(1)它
研究与基准测试/2026-09-27/20 分钟面向代码重排序的置信度门控直推式测试生成测试用例合成对于评估与排序大语言模型(LLM)生成的程序至关重要。然而,构造高质量测试用例仍然困难,因为可靠的期望输出往往难以获得。我们提出置信度门控直推式测试生成(Confidence-Gated Transducti
研究与基准测试/2026-09-27/41 分钟通过测试生成探测基于大语言模型的代码生成中的隐私泄露大规模代码数据集的广泛可得,推动了面向代码相关任务的大语言模型(large language models,LLMs)快速发展。这些数据集可能包含敏感的个人可识别信息(personally identifiable in
研究与基准测试/2026-09-27/28 分钟上下文至关重要:提升基于大语言模型的单元测试生成的实用可靠性(经验论文)(上篇)自动化单元测试生成近来受益于大语言模型(LLM)的进展,但我们的工业部署表明,有前景的研究结果与实际可用性之间仍存在持续差距。在具有复杂框架与跨文件依赖的真实项目中,LLM 生成的测试经常无法编译、需要高成本的人工修复,
研究与基准测试/2026-09-27/28 分钟LLM 生成测试套件的覆盖率与变异分数是否与其有效性相关?(可复现性研究)(上篇)大语言模型(LLM)的最新进展,推动了利用 LLM 自动生成测试的研究兴趣。既有工作通常用代码覆盖率、变异分数等代理指标来评估所生成的测试套件。然而,Inozemtseva 等人以及 Papadakis 等人的研究表明:
研究与基准测试/2026-09-27/48 分钟评估并缓解含缺陷代码对大语言模型生成单元测试的误导效应(上篇)尽管大语言模型(Large Language Models, LLMs)在自动化单元测试生成方面展现出巨大潜力,近期研究指出:当提示中给出的是含缺陷代码时,所生成测试的质量会受到负面影响。本文提出一项新指标,用于定量度量
研究与基准测试/2026-09-27/37 分钟利用大语言模型增强面向自然语言处理库的自动化单元测试生成(上篇)以 EvoSuite 为代表的自动化单元测试生成工具在通用软件上表现良好,但面对自然语言处理(NLP)库这类领域特定软件时常常力不从心:输入必须满足语义、句法与结构约束。大语言模型(LLM)能够生成与领域相关的测试代码,
研究与基准测试/2026-09-27/10 分钟先检查只有 8.1%:字节 TraceDance 用部署轨迹评下一回合252557 个会话做成 107 个基准。九模型在 4065 条上的平均通过率 26.7%,最高是 Claude Opus 4.8 的 33.5%。先检查只有 8.1%。第二到第五名的名次区间重叠。
研究与基准测试/2026-09-24/8 分钟MobilePA 总分 77.05,技能项仍低于 93.25:阿里把手机规划的模型和 Harness 拆开测27B 加 Harness 后 MobilePA 总分 77.05,技能项 86.25,低于表内 93.25。35B-A3B 的总分只有 69.91。每千条 2.41 美元不含输入和 Harness。
研究与基准测试/2026-09-24/8 分钟8B 平均 50.7:腾讯把搜索拆成规划和综合腾讯 IterSynth-8B 在五个深搜索集上平均 50.7,比 MiroThinker-8B 的 46.5 高 4.2。GAIA 55.3 低于对方 66.4。xBench-2510 表内比 Miro 的 34.0 高 12.0,正文另写 +5.4%。不更新参数时,Claude 上平均 66.1,高于 ReAct 的 60.6。
研究与基准测试/2026-09-23/7 分钟慢思考 BFCL v3 到 78.3,τ-Bench 仍低于 o1:腾讯混元把快慢两种思考分开测慢思考 BFCL v3 为 78.3,τ-Bench 为 54.7,低于 o1 的 60.4。快思考 BFCL v3 掉到 65.9。表 2 相对上一代低了 3 项,不是正文写的 2 项。