吞吐 1.7 倍：京东 FlowTrain 怎么对训练

吞吐 1.7 倍：京东 FlowTrain 怎么对训练

京东云开发者社区在 2026 年 8 月 31 日发了多模态训练框架 FlowTrain。页面作者是社区账号 jd_67ceb00eb60f4。团队是京东零售 AI Infra，和华为昇腾一起做。论文是 EMNLP 2026 Industry Track 的 FlowTrain: Flow-Based Decoupled Training for Industrial-Grade Vision-Language Models。发布来源是这篇社区稿，不是 arXiv。

视觉语言训练要先让 encoder 抽图像或视频特征，再把 embedding 交给 LLM backbone。固定 batch 把两边绑在一起，快的一侧空等。样本分辨率、图片张数和文本长度一变，microbatch 耗时就晃。MFU 是模型浮点运算利用率，用来看算力有没有空转。

三条链路，对照分四组

FlowTrain 把同步流水线改成生产者和消费者。三块：

1. Unified Memory Pool：64 位全局虚拟地址管跨节点 HBM 和 DRAM。encoder 写完的 embedding 放进这个地址空间，backbone 按元数据接着读，不用等整个 batch。昇腾上走灵衢互联。
2. Heterogeneous Parallel Allocator：先做小规模吞吐 profiling，再用 MILP 在预算里给 encoder 和 backbone 配不同并行。encoder 偏 DP/TP，backbone 经常要 DP、TP、PP 一起上。目标是全局吞吐最大，再把生产和消费的速率差缩小。
3. Dynamic Packing Scheduler：编码之后按 LLM 侧的真实计算代价组 microbatch。先用线段树 best-fit 减 padding，再按代价分桶，用 zig-zag 把负载摊到 PP 和 DP。

工程落在 MindSpeed MM 上。MC2 把能并行的通信塞进计算窗口。原文写在相关工程优化条件下，整体性能还可以再高约 10%。这 10% 不是下面主对照的一部分。

1.7 倍只对上了 Megatron-LM 的 InfoVQA

对照是 Megatron-LM 和 DistTrain。三种模型规模的逐格吞吐在图里，正文只给了汇总。

InfoVQA 上，相对 Megatron-LM 的吞吐提升从 VLM-6B 的 1.3 倍涨到 VLM-72B 的 1.7 倍。工业数据集上最高 1.4 倍，没有按 6B、32B、72B 拆开。原文写 FlowTrain 的吞吐在两套数据和两种基线上都是最高，但 1.3 和 1.7 这两句只比较了 Megatron-LM，没有给 DistTrain 的倍数。

同一环境的 MFU，VLM-72B：InfoVQA 上 FlowTrain 52.9%，Megatron-LM 31.2%；工业数据集上 50.0% 和 36.9%。DistTrain 的 MFU 只说低于 FlowTrain，没有数字。6B 和 32B 的 MFU 在图里。

横向扩展用 InfoVQA 训练 VLM-32B，对照上限是纯 LLM 训练。原文写所有集群规模上 FlowTrain 的 MFU 都到 53% 以上，吞吐提升 1.1–1.4 倍。集群卡数没有列出。和纯 LLM 的平均 MFU 差距：Megatron-LM 18.7 个百分点，DistTrain 12.1，FlowTrain 5.0。这是平均差距，不是每一个规模的差。

京东零售 OxygenVLM 上，32B Dense 训练吞吐提升 1.7 倍，35B-A3B MoE 提升 1.4 倍。这两句没有写对照系统是不是 Megatron-LM，不能和上面的 1.7 倍当成同一次实验。通用能力和同尺寸开源模型持平，持平的模型名单和分数没有写。OxyEcomBench 写的是零售电商评测达到行业 SOTA，没有分数和题目数。业务场景写了 7 个以上，点名 AI 图搜、商品素材质检、穿搭推荐、货不对品、AI 致幻、商品违规巡检、风险商家巡检。AI 图搜相对线上模型，UCVR 提升 +2.24%，原文写置信正向。窗口、样本量和 UCVR 的定义没有写。其他核心指标只说置信正向，没有数字。

四组数不能合成一个总分：InfoVQA 相对 Megatron-LM 的 1.7 倍、VLM-72B 的 52.9% MFU、相对纯 LLM 的 5.0 个百分点差距、线上 UCVR 的 +2.24%。10% 是通信掩盖的附加说法。SOTA 没有分数，就不能当成评测结果引用。

能直接拿去用的是对照切法：训练吞吐和 MFU 分开报；Megatron-LM 和 DistTrain 不要合成「基线平均」；InfoVQA 和工业数据集分开；线上业务指标单独写窗口。这篇缺的就是最后一项的窗口。

京东云开发者社区，jd_67ceb00eb60f4，京东零售AI Infra团队提出 FlowTrain：基于昇腾超节点验证分离式多模态训练框架，2026-08-31，https://developer.jdcloud.com/article/4562