美学 分 最高 0.50: 蚂蚁 用 5 万 多 条 人工 标 注 评 12 个 视频 模型
蚂蚁的 VGA-BenchV2 沿用 52 个细项和 1016 条提示词,新增 36000 条人工标注,合计 50600。12 个视频模型里美学分最高是 Sora2 的 0.50,Show-1 的生成水平是 0.04 且正文没解释。用评测器当奖励微调 Wan2.1,美学分只从 0.49 到 0.52。

本文目录
美学分最高 0.50:蚂蚁用 5 万多条人工标注评 12 个视频模型
VGA-BenchV2(在 VGA-Bench 上扩出的视频美学与生成质量评测,并把评测器接成强化学习奖励)由蚂蚁集团北京团队为主完成,北京电影学院、北京通用人工智能研究院参与。通讯作者 Jun Zhou 的邮箱在 antfin.com。许可证为 CC BY 4.0,arXiv 提交日是 2026-08-26。资源页是 https://huggingface.co/datasets/BestiVictoryLab/VGA-Bench 。
作者认为 FVD、CLIP Score 及其变体主要看分布相似度、时间一致、提示对齐和低层瑕疵,看不清构图、光线、色彩、电影感和风格是否可控,也不能直接拿去改生成器。V-Bench 的美学部分仍粗,且依赖 MUSIQ、DINO 这类现成打分器。VGA-Bench 已有细分类,但人工标注、评测器和对生成器的反馈都不够。V2 不改分类,只加标注、混合评测器和一条优化回路。
52 个细项,1016 条提示词
分类沿用 VGA-Bench:两大类、52 个细项。
美学质量是 0 到 10 的连续分,十项来自 VADB:总分、构图、景别、光线、影调、色彩、景深、表情、服装、妆造。美学标签是离散类,十一项:构图类型、镜头类型、光源数量、光源位置、光质、光色、色温、饱和度、亮度、对比度、景深。生成质量 31 项,分三组。视频—文本一致 10 项,后缀 -T,覆盖人物、动作、物体、场景、位置、运镜、属性、内容、风格、速度。真实与合理 16 项,后缀 -R,覆盖刚体碰撞、流体、气体、渐变、轨迹、动作、场景、物体、人物生成、天气、时代、光影、运动场景、文字属性、整体真实,以及不合理描述的想象呈现。基础质量 5 项:无噪声、异常光照、清晰度、静态稳定、静态不变形。
提示词也沿用旧版,原则是写明要评的属性,标注员和自动评测器只评提示词点名的项。共 1016 条:美学质量 200、美学标签 220、生成质量 596。每个细项至少 50 条,并支持单维和多维组合。另留 508 条和 127 条两个轻量子集,给算力不够时用。12 个主流视频模型在这套提示词上生成的视频超过 6 万条。
新增 36000 条任务标注,不合格整批重标
相对 VGA-Bench 的任务级监督,V2 新增 36000 条:美学质量 16200、美学标签 13200、生成质量 6600。加上旧标注后,三类合计分别是 17500、14500、18600,合计 50600,相对旧版总量 14600 约为 3.47 倍。三类相对各自旧规模约为 13.46 倍、11.15 倍和 1.55 倍。论文表 2 把新增量写成相对旧版的放大倍数,和「新增加上旧标注」的合计是两列,不能混成同一口径。
流程是专家先给样例和细则,训练后的标注员再标,专家按批抽查。一批没过就整批退回重标。美学质量每条由多人独立打 0 到 10 分再平均。美学标签用多数表决。生成质量把每个细项写成带有序选项的问题。所有任务都只评提示词点名的维度。
提示词和生成视频经过筛选,去掉色情、暴力和其他冒犯内容。人工标注经过相关机构审查委员会批准。
三个自动评测器,对过的视频不进训练
VAQA-Net 做连续美学分。视频编码器先用 VADB 预训练权重,再在 12 个生成模型的 8366 条带人工标注视频上微调,留出 1186 条看泛化。VTag-Net 和 VGQA-Net 以 Qwen3-VL-32B 为骨干做指令微调。VTag-Net 用真实 VADB 视频,外加 11100 条带美学标签的生成视频,输出离散标签。VGQA-Net 用 7054 条带问答标注的生成视频。训练集覆盖全部 12 个来源模型。
VAQA-Net 还能当奖励。给定提示词,当前策略生成视频,冻结的 VAQA-Net 给出标量奖励,再减去相对参考策略的 KL 惩罚。优势在一个批次里做均值方差归一。策略更新用截断后的 GRPO:概率比超出 1 加减 ε 就截断,目标是让未截断项和截断项里较小的那个尽量大。论文没有在正文给出 λ 和 ε 的具体数值。
评测器本身也不稳,模型榜要分开看
留出集上,VAQA-Net 和人工总分的斯皮尔曼等级相关是 87.6%。其余九项在 86.3% 到 89.2% 之间,表情最高 89.2%,妆造最低 86.3%。
VTag-Net 的准确率按类别数分口径:不超过 4 类用 Top-1,超过 4 类用 Top-2,文中用星号标出。光色 4 类 93.6%,光源数量 2 类 83.7%,景深标签 2 类 76.1%,对比度 3 类 75.0%,饱和度 3 类 71.9%,亮度 3 类 70.3%,光源位置 5 类、按 Top-2 计 68.3%,光质 2 类 66.3%,色温 3 类 64.8%,镜头类型 5 类、按 Top-2 计 75.9%,构图类型 7 类、按 Top-2 计只有 49.8%。
VGQA-Net 在 31 个细项上的准确率大约平均 71.3%。场景真实 89.2%,异常光照 85.7%,时代表现 83.1%,物体真实 81.2%,光影真实 80.5%,渐变真实 80.4%,动作真实 80.2%。偏低的有静态稳定 50.5%,人物生成 56.8%,无噪声 58.3%,内容—文本一致 58.4%,不合理描述的想象呈现 59.2%。
12 个被测模型按论文给出的发布时间排列:Stable Video Diffusion、AnimateDiff-v2、LaVie、Show-1、ModelScope、CogVideoX、Latte-1、Mochi、LTXVideo、HunyuanVideo、Wan2.2、Sora2。评测用的生成视频严格不进入评测器训练。美学质量按预测分平均,越高越好;美学标签看生成结果是否对上提示里的标签,取平均准确率;生成质量取各细项均分。表 5 是三类归一化后再平均的汇总,不是 0 到 10 的原始人工分。
美学分从高到低:Sora2 0.50,Wan2.2 0.46,HunyuanVideo 0.45,CogVideoX 0.41,AnimateDiff 0.36,Latte-1 0.35,LaVie 0.34,ModelScope 0.31,Show-1 0.29,LTXVideo 0.22,Mochi 0.21,SVD 0.20。
标签对齐:Mochi 0.68,HunyuanVideo 0.66,Sora2 0.64,Wan2.2 0.63,LTXVideo 0.61,SVD、Show-1、Latte-1 均为 0.60,LaVie 0.58,AnimateDiff 0.57,CogVideoX 0.56,ModelScope 0.51。
生成水平:Sora2 0.80,HunyuanVideo 0.73,Wan2.2 与 Mochi 均为 0.71,CogVideoX 0.70,SVD 0.69,LaVie 与 Latte-1 均为 0.68,AnimateDiff 0.67,ModelScope 0.64,LTXVideo 0.61,Show-1 为 0.04。正文主表给出这个 0.04,没有另写原因,不能把它读成美学分。
优化实验微调的是 Wan2.1,不是榜上的 Wan2.2。奖励用 VAQA-Net 总分,算法是 Flow-GRPO,配合 LoRA 和 ODE 到 SDE 的转换。留出集上平均美学分从 0.49 升到 0.52。论文只说微调后构图更讨喜、整体美学更好,没有给出生成质量或标签对齐是否一起上升。
还没覆盖的部分
结论把更高分辨率、更多美学维度、跨模态生成和可控创作留到以后。评测器侧,构图类型即使按 Top-2 也只有 49.8%,静态稳定准确率 50.5%,所以自动分不能当成每一项都已经对齐人工。12 个模型的汇总分经过归一化,不能和标注时的 0 到 10 分直接比。KL 系数和截断 ε 的具体取值不在正文。
蚂蚁,Longteng Jiang、Dandan Zheng、Qianqian Qiao 等,VGA-BenchV2: An Expanded Unified Benchmark and Multi-Model Framework for Evaluating Video Aesthetics and Generation Quality,2026-08-26,https://arxiv.org/abs/2608.25452
觉得有用,转给同事
微信扫码
用微信扫一扫,在手机上打开后即可转发。