Not translated yet — showing the Chinese originals.
Industry & Practice · Tagged “评测”
Research & Benchmarks//49 min
大型语言模型(LLM)的演进催生了向意图驱动软件开发范式的转变,其中自主智能体被期望从头开始设计并交付完整的、可运行的软件系统。然而,由于两个根本性局限,现有基准测试未能充分评估这种从零到一的生成能力。首先,它们依赖于预
Research & Benchmarks//44 min
大语言模型(Large Language Models, LLMs)正越来越多地用于软件工程工作流,以自动生成源代码及其对应的测试套件。这种双重能力催生了新的开发范式,包括测试先行工作流与智能体工作流:由同一个模型负责产
Research & Benchmarks//51 min
形式化契约对软件测试与验证至关重要,但编写它们仍然费力且容易出错。大语言模型(LLM)为自动形式化提供了一条有前景的路径:从自然语言规约综合出可执行断言,从而弥合开发者的非正式意图与形式化可执行规约之间的鸿沟。我们提出
Research & Benchmarks//67 min
大语言模型(Large Language Model,LLM)代码智能体越来越多地通过迭代编辑代码、调用工具并验证候选补丁,来解决仓库级问题。在这些工作流中,智能体常常即兴编写测试,但这一行为的价值仍不清楚。例如,GPT
Research & Benchmarks//55 min
许多网络协议实现中的软件缺陷出现在规范边界附近,例如刚好落在允许范围之内或之外的输入,或者单独看来合法、但在给定状态下非法的报文。从 SSL Heartbleed 漏洞到 TCP 圣诞树数据包,边界输入一再暴露关键弱点,
Research & Benchmarks//60 min
复现测试帮助开发者确认所报告的问题,并为问题修复提供可执行反馈,但开源项目中的问题报告很少包含这类测试。近期研究探索了用大语言模型从问题报告生成问题复现测试,但现有方法大体依赖基于提示的流水线:检索文本上下文并生成测试。
Research & Benchmarks//63 min
近年来,大语言模型(Large Language Models, LLMs)的出现推动了自动化单元测试生成研究的迅速增长,取得了令人瞩目的性能,并减少了人工投入。然而,现有基于大语言模型的方法仍存在两项主要局限:(1)它
Research & Benchmarks//20 min
测试用例合成对于评估与排序大语言模型(LLM)生成的程序至关重要。然而,构造高质量测试用例仍然困难,因为可靠的期望输出往往难以获得。我们提出置信度门控直推式测试生成(Confidence-Gated Transducti
Research & Benchmarks//41 min
大规模代码数据集的广泛可得,推动了面向代码相关任务的大语言模型(large language models,LLMs)快速发展。这些数据集可能包含敏感的个人可识别信息(personally identifiable in
Research & Benchmarks//28 min
自动化单元测试生成近来受益于大语言模型(LLM)的进展,但我们的工业部署表明,有前景的研究结果与实际可用性之间仍存在持续差距。在具有复杂框架与跨文件依赖的真实项目中,LLM 生成的测试经常无法编译、需要高成本的人工修复,
Research & Benchmarks//46 min
上下文至关重要:提升基于大语言模型的单元测试生成的实用可靠性(下)(中文全译)
Research & Benchmarks//28 min
大语言模型(LLM)的最新进展,推动了利用 LLM 自动生成测试的研究兴趣。既有工作通常用代码覆盖率、变异分数等代理指标来评估所生成的测试套件。然而,Inozemtseva 等人以及 Papadakis 等人的研究表明:
Research & Benchmarks//46 min
LLM 生成测试套件的覆盖率与变异分数是否与其有效性相关(下)(中文全译)
Research & Benchmarks//48 min
尽管大语言模型(Large Language Models, LLMs)在自动化单元测试生成方面展现出巨大潜力,近期研究指出:当提示中给出的是含缺陷代码时,所生成测试的质量会受到负面影响。本文提出一项新指标,用于定量度量
Research & Benchmarks//45 min
评估并缓解含缺陷代码对大语言模型生成单元测试的误导效应(下)(中文全译)
Research & Benchmarks//37 min
以 EvoSuite 为代表的自动化单元测试生成工具在通用软件上表现良好,但面对自然语言处理(NLP)库这类领域特定软件时常常力不从心:输入必须满足语义、句法与结构约束。大语言模型(LLM)能够生成与领域相关的测试代码,
Research & Benchmarks//49 min
利用大语言模型增强面向自然语言处理库的自动化单元测试生成(下)(中文全译)
Research & Benchmarks//10 min
252557 个会话做成 107 个基准。九模型在 4065 条上的平均通过率 26.7%,最高是 Claude Opus 4.8 的 33.5%。先检查只有 8.1%。第二到第五名的名次区间重叠。
Research & Benchmarks//8 min
27B 加 Harness 后 MobilePA 总分 77.05,技能项 86.25,低于表内 93.25。35B-A3B 的总分只有 69.91。每千条 2.41 美元不含输入和 Harness。
Research & Benchmarks//8 min
腾讯 IterSynth-8B 在五个深搜索集上平均 50.7,比 MiroThinker-8B 的 46.5 高 4.2。GAIA 55.3 低于对方 66.4。xBench-2510 表内比 Miro 的 34.0 高 12.0,正文另写 +5.4%。不更新参数时,Claude 上平均 66.1,高于 ReAct 的 60.6。