CodexQA

Industry & PracticeResearch & Benchmarks

核心机制 0.852 对 0.655:腾讯 GCA 用渲染界面评生成游戏

CodexQA 团队6 min read

20 对成品各打 3 次。GCA 的核心机制均值 0.852,OpenGame 是 0.655;美术自动分反而低 0.030。十人盲比里,141 个决断是 86 对 55。

In this piece

核心机制 0.852 对 0.655:腾讯 GCA 用渲染界面评生成游戏

腾讯多模态强化学习团队的预印本 Game-Creation-Agents: Autonomous Game Production。arXiv 首版是 2026 年 10 月 12 日(2610.16776v1)。核心贡献者包括 Xiangxin Zhou、Jiaqi Tang、Ke Ma、Wenhao Yang、Jiarui Yao、Boye Niu、Haiyang Guo、Yifei Zhao、Huanjin Yao、Tianyu Pang。GCA 把一句自然语言做成可运行的 Phaser 4 浏览器游戏。Phaser 是一套做二维网页游戏的引擎。这篇要分开看的是:流水线自己的门禁,和只看渲染界面的外部评测,是不是同一件事。

成品先过门禁,分数另打

游戏编译出来、页面能开,还不等于做完。它要能接输入、守自己的规则、走过关卡和终局,并把状态显示出来。普通代码生成对着已有测试集打分。游戏流水线得自己造契约、测试和运行证据,再判断自己做出来的东西。这是软件测试里的测试预言问题:代理说这一关能过,不算证据。

八个代理各管一类产物。设计代理写出多模态游戏设计文档,后面的场景和素材都从它来。场景串行做,素材并行做,再收成一次构建。验证打在构建上,不打在代理的自述上。每件产物只有一个写入者,卡住就退回这个人,而不是谁发现谁改。类型化的 MCP 控制面把产物、回执和证据绑到同一次运行、同一份构建摘要。MCP 是给模型调用工具的协议。

内部门禁是组合证据,从脚手架边界的 7 项检查,升到发布前必须全过的 39 项。每一档全过或全不过,没有部分分,也没有一个总分可以去优化。默认配置里,修复轮次下限 1、上限 2,连续挡住超过 5 次就停。证据至少 3 张互不相同的截图。预算用尽就带着未解决清单停下来,不无限修。

外部评测不看这份内部结论。裁判只拿到提示和一款成品,通过渲染出来的界面操作。它看不到设计文档、轨迹、报告和内部批评者的判决。对照是 OpenGame,另一条也做完整 Phaser 网页游戏的开源流水线。两边用同一套提示、同一套协议。

32 份简报里进了 20 对,各打三次

任务池是 32 份游戏简报、795 条编号的 MUST 要求。进实验要同时满足两件事:GCA 和 OpenGame 都有按同一提示做出的成品,并且有一套审过的、针对该任务的浏览器测试覆盖这些要求。20 个任务同时满足。语料在打分前固定,之后不改。表 4 的名字是玩法类型,不指商业游戏。

每个系统每个任务一款,一共 40 个成品。每个成品用同一协议打 3 次,120 次入选运行,每边 60 次。重复打的是同一次构建,不是重新生成。确定性检查每次结论相同,重复之间的波动来自模型评判的维度,以及游戏自己的非确定性。入选运行都覆盖了该任务的全部要求。

固定不变的有:提示字节、测试套件版本、浏览器、证据策略、裁判、重试规则。Chromium,视口 1280×720,浏览器上限 300 秒。保留完整 WebM、语义关键帧,以及 12 张均匀视频采样。裁判是 GPT-5.6,两轮,预算 600 秒,连接失败、限流和可重试的服务错误每轮最多 3 次。每分都能追到提示、量规、游戏目录和测试套件的 SHA-256。

失败的入选运行留在实验里,照实计分。测不准的尝试单独剔除,不当成游戏失败。早先 6 次纸牌接龙因为评测器解析缺陷作废,被有效运行替换,记在 120 次之外。

Playwright 只通过渲染界面送点击、右键、悬停、键盘和拖拽。可以读源码、文档对象模型、布局和公开运行时状态,用来定位目标和核对结果,但不能替用户直接调用内部动作或改状态。

五项都在 0 到 1。空值保持未测,不改成 0。

指标问的是什么怎么打
要求满足能观察到的提示 MUST 里,满足了多大比例前三项里、由提示导出的条目的平均
核心机制操控、规则、状态转移、结局、重开是否成立确定性 MUST 检查的加权通过率
内容深度要求的模式、关卡、进程和终局内容在不在确定性 MUST 检查的加权通过率
功能画面要求的状态、界面、动作反馈和结局能不能看见GPT-5.6 对照截图和帧直接打
美术与呈现是否连贯、可读、看起来做完了三项共用视觉题的平均,不进要求满足

表 6 是 60 次运行的均值和标准差。标准差同时跨任务和重复打分,不是置信区间。

指标GCAOpenGame
要求满足0.786 ± 0.1510.656 ± 0.247
核心机制0.852 ± 0.1440.655 ± 0.267
内容深度0.712 ± 0.2860.651 ± 0.267
功能画面0.711 ± 0.1920.667 ± 0.248
美术与呈现0.797 ± 0.0990.827 ± 0.068

GCA 在前四项更高。美术自动分是 OpenGame 更高,0.827 对 0.797。任务级的方向并不都一样,内容深度和功能画面尤其如此。正文没有把 20 个任务各自的分写进句子。

这次聚合是从已有运行清单重新算的,没有再向模型发请求。相对更早的合并打分,功能画面有 78 个条目、分布在 41 次运行里被改过;又审计了 254 个至少挂着一条失败断言的条目。600 个视觉条目里,569 个引用了精确帧或带帧标注的子检查,31 个只引用了场景或断言记录,尽管当时帧包是齐的。现在的规则要求功能和美术的每一条都引用精确渲染帧。这 31 条的问题在引用方式,不在语料覆盖。

十人盲比,美术方向和自动分相反

十名参与者各评全部 20 对,每边 200 条评分,另有 200 个成对偏好。系统身份藏在随机的「游戏 A / 游戏 B」后面,顺序对调平衡。偏好保持分类,不换算成分数。

指标(1 到 5)GCAOpenGame
要求满足3.55 ± 1.363.28 ± 1.47
核心机制3.40 ± 1.313.16 ± 1.36
内容深度3.43 ± 1.363.28 ± 1.40
功能画面3.33 ± 1.353.29 ± 1.33
美术与呈现3.57 ± 1.133.03 ± 1.19
五项平均3.45 ± 1.133.21 ± 1.18

200 个选择里,GCA 86 个(43.0%),OpenGame 55 个(27.5%),无偏好 59 个(29.5%)。去掉平局后是 141 个决断,86 对 55,61.0% 对 39.0%,双侧符号检验 p = 0.011。人工美术分 GCA 更高,和自动美术分的方向相反。人工分补充自动分,不代替那些按提示、按交互取证的条目。

黄金矿工把两套记录拆开。提示要求钩爪、矿物价值、倒计时、累计金钱、每关目标和商店。内部流水线以挡住结束,没有放行:启动时序守卫还在,视觉对比的服务调用失败,元数据检查没解完。外部套件只驱动渲染界面,在同一次录像里看到抓取、精确到 500 的余额、商店购买和进入第二关。爪尖碰撞、最终胜利和全新重开只是部分支持,采集在其他几次打分里也不稳定。门禁拦住的证据,外部套件看不见;外部套件确认的一段可玩前缀,单看「未放行」也会被盖住。

这些数不能被读成什么

0.852 对 0.655 是核心机制上 60 次运行的均值,不是 32 份简报的全池,也不是重新生成三次的均值。另外 12 份没有同时具备两边成品和审过的浏览器套件,没有进入这张表。

美术不能收成「GCA 全面更好」。自动分 OpenGame 高 0.030,人工分 GCA 高 0.54。功能画面的人工差只有 0.04。标准差跨任务,小差距不能排成稳定名次。

p = 0.011 只针对 141 个决断的偏好方向,不是五项评分各自的显著性。十人、二十对,不是更大的玩家样本。

内部 39 项全过才放行,和外部五项分数不是同一把尺子。黄金矿工说明未放行不等于外部一条都玩不到。6 次作废的纸牌接龙不进分母。31 条视觉引用不满足现在的精确帧规则,不能把 600 条都说成引用合格。

视口、时长上限、GPT-5.6 和 12 帧采样是这套协议的一部分。换裁判或换浏览器,0 到 1 的格会变。分数不预测商业游戏的留存,也不覆盖 Godot 或其他引擎。许可证是 arXiv 非排他分发许可。

出处:腾讯多模态强化学习团队,Xiangxin Zhou、Jiaqi Tang、Ke Ma、Wenhao Yang、Jiarui Yao、Boye Niu、Haiyang Guo、Yifei Zhao、Huanjin Yao、Tianyu Pang 等,Game-Creation-Agents: Autonomous Game Production,2026-10-12,https://arxiv.org/abs/2610.16776

Found it useful? Pass it on

WeChat

Scan with WeChat to open it on your phone and forward it.

Subscribe via RSS

Submit a correction