研究与基准测试/2026-10-09/8 分钟Hard20 从 26.25% 到 85.00%:阿里用五个基准测回放时干预阿里 Token Hub 的 RTI 在回放时把失败轨迹改成成功轨迹。Qwen3-8B 上,相对 GRPO,Telecom 的 Pass@1 高 24.56 个百分点,导航高 22.00。Qwen3.5-9B 的 Hard20 从 26.25% 到 85.00%。去掉完整性检查后,导航掉到 26.00%,低于 GRPO 的 35.33%。
研究与基准测试/2026-09-25/8 分钟未知不能当成满足:阿里用离线匹配和线上 A/B 测工业采购模型阿里 IndustryLLM 报告把问句结构化和商品资格拆开。No-Think 下精确匹配高 2.97 个百分点,95% 区间 [2.11, 3.86]。18 天线上 A/B 的 GMV +4.25%,但模型和引擎绑在一起,拆不出检查点因果。
研究与基准测试/2026-09-24/8 分钟MobilePA 总分 77.05,技能项仍低于 93.25:阿里把手机规划的模型和 Harness 拆开测27B 加 Harness 后 MobilePA 总分 77.05,技能项 86.25,低于表内 93.25。35B-A3B 的总分只有 69.91。每千条 2.41 美元不含输入和 Harness。
研究与基准测试/2026-09-21/8 分钟混合执行成功率 91.04%:阿里用 134 道座舱任务评语音智能体134 例座舱任务里,混合执行成功率 91.04%,直接调工具 72.39%,全部委托 80.60%。都做成功的回合上,总体时延 4.729 秒,相对这两档低 26.73% 和 30.91%。短任务和多步并不是都最快。
研究与基准测试/2026-09-16/10 分钟测试集宏平均 F1 为 0.615:阿里参与的基准用淘宝行为核验消费价值5440 段淘宝购买过程,测试集 544 段由专家从零标注。B2V-Verifier 宏平均 F1 0.615,基线最高是 GPT-5 的 0.417。引言写的大约 34% 没有落到表上的某一格。
研究与基准测试/2026-09-07/9 分钟同一套 API 下四项公开集最低:阿里评 Qwen-Audio-3.0-ASRB 栏里 FLEURS 中英和 LibriSpeech 两项最低,AISHELL 与 WeNetSpeech 不是。16 种方言宏平均 CER 9.40%。400 毫秒流式的中文 CER 9.24%,非流式 8.03%。
研究与基准测试/2026-08-16/9 分钟固定微调把 IFEval 打掉 7.7 分:淘宝直播用四套尺子看模型能不能跟着 Harness 改978 条真实直播间上,HAT 平均分 94.8,基座 80.3。固定 Harness 微调把 IFE-P 从 81.5 打到 73.8。线上七天 GMV 人均 +5.54%,没有置信区间。
研究与基准测试/2026-08-11/8 分钟同一模型 SEM-F1 从 11.57% 到 25.10%:阿里把代码评审的自由探索收成三道门阿里 OpenCodeReview 在 AACR-Bench 的 200 个 PR、1505 条专家评论上,六个底座的 SEM-F1 是 17.90% 到 25.10%。同一 Claude-4.6-Opus 在 Claude Code 上只有 11.57%。召回多数行更低。相对 Claude Code 的 Token 大约少 5 到 15 倍,相对 Codex 只有约 1.24 倍。
研究与基准测试/2026-07-31/11 分钟最好的配置只有人类净资产的 27.3%:阿里 MerchantBench 用 365 天订单评长程一致48 次运行,每次 365 个模拟日。Hermes 上 Qwen3.7-Max 的终局净资产 59.46 千元,人类是 217.61。这格的变异系数 55.1%。SWR 最高的模型行并不是净资产最高的行。
研究与基准测试/2026-07-29/8 分钟告警能报,静默入侵和收尾计划不行:阿里 SecRespond 评失陷后的响应10 个隔离云主机快照,280 个检查点。最强的 Claude Opus 4.7 检测和计划平均只有 72.4%,而且没有任何模型在任何一个靶场上同时做完检测和处置。
研究与基准测试/2026-07-21/7 分钟HR@1000 从 0.7735 到 0.8651,线上 GMV 涨 1.64%:淘宝搜索怎么测生成式检索相对 FORGE,HR@1000 从 0.7735 到 0.8651,差 9.16 个百分点。强化学习那一行 HR@5000 更高,但没有上线。线上 1% 流量、38 天,GMV +1.64%,没有绝对值。
研究与基准测试/2026-07-13/9 分钟1% 流量 GMV 高 1.06%:淘宝把成交排序写进生成式 DocID3 亿商品上,CRID 站内转化 HR@20 比最强对照高 3.72 个百分点,HR@1000 高 9.10 个百分点。1% 流量、30 天:IPV +0.18%,订单 +0.54%,GMV +1.06%。站内深位 HR@1000 相对最强向量检索低 3.02%。
研究与基准测试/2026-07-08/8 分钟真机平均从 38.8% 到 50.0%:阿里用 67 个任务测 GeoProp阿里达摩院的 GeoProp 只改本体感觉怎么接进策略。仿真 63 个任务上,ResNet-18 总平均从普通接法到 75.3%,高 8.5 个百分点。真机四项各 20 次,Diffusion Policy 平均从 38.8% 到 50.0%。物体挡住投影点时,Box Close 的 ResNet 从 48 降到 40。