CodexQA

Industry & PracticeResearch & Benchmarks

区域还原最高 65.5:美团用反向损坏测多轮界面修复

CodexQA 团队7 min read

美团 Longcat 与哈工大、鹏城实验室的 MT-Web2Code 有 102 页、16 个行业。宏观 53 题每题 5 轮,微观 49 题每轮改 3 处。宏观最好 65.5,微观最好 83.5。宏观分由 Kimi-K2.6 当裁判。

In this piece

区域还原最高 65.5:美团用反向损坏测多轮界面修复

美团 Longcat 团队与哈尔滨工业大学、鹏城实验室合作的 MT-Web2Code(多轮网页界面修复基准)不把「看一张截图、一次写出整页」当成前端编码能力。智能体要在已经存在的页面上连续改 5 轮:要么补回一块被删掉的区域,要么只改红框里的小缺陷,框外必须保持原样。

一、为什么整页会做,改着改着就坏

已有网页界面评测大多是单轮:一道题一个输入、一个最终页面。Design2Code、WebGen-Bench、Vision2Web、DiffSpot 都能衡量「这页看起来像不像」,测不到连续编辑里会不会碰坏已经写对的部分,也测不到前一轮的错会不会带到后一轮。

真实前端很少每轮从头重做。常见动作是:缺了一块就按参考图补上,样式或结构错了就只改那几处,其余保持不动。MT-Web2Code 把这件事拆成两条轨道。宏观是区域重建:从视觉参考里还原一整块被删掉的语义区域,并嵌回周围结构。微观是局部修改:修好细小的结构和样式缺陷,不能动未点名的内容。

二、题怎么造、怎么判

全库 102 个页面、16 个行业,每个行业大约 6 到 8 页,包括 AI 平台、CRM、ERP、HCM、TMS、采购、知识、服务、垂直市场、新闻、出版、政务、公用事业、社区、多媒体和零售。页面在本地渲染后,用结构和视觉相似度去掉重复和坏布局。每个入选页的 HTML、CSS 和资源就是黄金页。

元素在损坏前先打上元素指纹(与位置无关的节点标记):用标签、文本和属性做哈希,写成自定义属性。DOM 下标在删除后会变,坐标也会因 CSS 重排漂移,指纹用来在重排之后仍找到同一节点。评测前这些标识会从智能体看得到的页面里全部去掉,避免把答案漏出去。

造题不用人工把每一轮都标一遍。反向损坏轨迹引擎(先损坏、再把损坏顺序倒过来当修复题)从黄金页出发。宏观每一步只删一个语义区域;微观每一步注入一组局部缺陷。修复从最坏的状态往回走,每一步的标准答案就是损坏前的那一页,所以不是开放题。智能体下一步看到的是自己上一步交出来的页面,错会留下来。

宏观删除有四条限制,论文没有给出具体像素阈值:标签必须是导航、区块这类宏观功能标签;渲染出来的宽高要够大、又不能大到不像局部;还必须留下兄弟节点当锚点。删掉之后版面会自动合拢,损坏程序用前后兄弟节点标出该插入的位置。每一轮智能体看到四样东西:带红框的当前整页截图、被删区域的黄金裁剪图、一句「不要改页面上的其他内容,只按参考图补红框位置」的指令,以及这块区域用到的本地图片和图标路径。

微观从 9 个原子操作里抽样,归成 5 个观感维:布局(对齐、缩进)、元素(删除、复制)、文本(改字、字号、字重)、颜色(前景色、边框色)、间距(外边距、内边距、尺寸、装饰)。前一类只改一个 CSS 属性,后一类改 DOM。同一轮里,如果两个目标是祖先和后代,它们的损坏维度不能相同,避免改祖先把后代的视觉属性一起废掉。操作必须造成看得见的像素差,看不出来就重抽,论文同样没有给出这个像素差的具体阈值。坐标在全部损坏完成后再用指纹重测,不在改动当时就锁死。微观不提供黄金裁剪图,只有红框、修复指令和资源路径,智能体得自己判断正确样式。

判分不用整页相似度,因为整页分会把局部错误冲淡,也分不清「修好了」和「把没坏的地方改了」。两条轨道都拆成框内和框外,最后合成:

  • 总分 = 0.8 × 框内分 + 0.2 × 框外分。

宏观允许多种 HTML 写出同一种外观,所以用视觉语言模型当裁判,不用文本比对。框内比的是锚点之间裁出来的区域和黄金裁剪图。五个维度外加一个总体印象,都在 1.0、0.75、0.5、0.25、0 这五档上打分,六项平均就是框内分。框外把重建区域遮住,再逐块看有没有连带重排或改样式;裁判失败时用结构相似性做参照和兜底;区域塌掉或是空的,框内分记 0。

微观认为外观只有一个正确答案,改用像素对齐。修复足迹是黄金页和损坏页的像素差掩码,不依赖 DOM 编号。框内分是足迹内的结构相似性(SSIM,按亮度、对比度和结构比较两张图)。框外分是足迹外的结构相似性,再加一项对变色敏感的像素差惩罚,因为只看结构会漏掉改色。

实验用同一个多轮协议,不做针对这套题的额外优化。宏观 53 页,每页 5 轮,每轮补一个区域。微观 49 题,每题 5 轮,每轮同时改 3 处。损坏程序和宏观裁判都是 Kimi-K2.6。每题跑 3 次再平均。微观筛难度时也用了 Kimi-K2.6,并人工看过生成的指令,因为视觉模型会漏看整页里的细缺陷。论文写明:这个筛选只影响造题,判分仍是和黄金裁剪在确定足迹里比,不靠模型再判一次对错。

三、数字:会躲着改,不会改准

下表是论文 Table 3 的框内分、框外分和总分。表内按 0 到 100 呈现。宏观由 Kimi-K2.6 按量表打分,微观是像素对齐。最好的加粗只在原文表格里,这里不标。Kimi-K2.6 在微观带星号,因为它参与了难度筛选,分数低于它在一般设置下的表现,不能当成公平名次。

模型宏观框内宏观框外宏观总分微观框内微观框外微观总分
Gemini-3.5-Flash65.465.765.576.496.780.5
Kimi-K2.663.564.563.770.295.575.3*
Claude-4.7-Opus62.365.763.071.899.277.3
Qwen3.5-plus / Qwen3.5-Plus62.563.862.879.498.983.3
Gemini-3.1-Flash-Lite60.253.558.873.998.978.9
Doubao-Seed-2.0-Pro58.856.058.279.599.283.5
GPT-5.458.253.857.377.999.182.1
GLM-5V-Turbo55.551.254.676.198.780.6
Gemini-3.1-Pro-Preview50.250.950.377.999.182.1
Doubao-Seed-2.0-Lite48.335.845.848.298.058.1
Qwen3-VL-Plus38.731.637.370.198.475.8
GLM-4.6V36.434.135.933.594.245.6
Qwen3-VL-Flash8.914.510.022.488.135.6

宏观最好的是 Gemini-3.5-Flash,总分 65.5。它的五维和总体印象分别是布局 65.5、元素 73.5、文本 63.4、颜色 69.2、间距 59.6、总体 61.5。Kimi-K2.6 为 63.7,Claude-4.7-Opus 为 63.0。更轻的 Gemini 系列超过了 Claude-4.7-Opus 和 Gemini-3.1-Pro-Preview(50.3)。作者的解释是:大模型在被明确要求保住未点名区域时,仍会做不必要的全局改版。Qwen3-VL-Flash 宏观只有 10.0。

微观反过来。多数强模型的框外分在 95 以上,Doubao-Seed-2.0-Pro 和 Claude-4.7-Opus 的框外都是 99.2,但框内从 79.5 落到 22.4。最高总分是 Doubao-Seed-2.0-Pro 的 83.5,Qwen3.5-Plus 为 83.3,GPT-5.4 与 Gemini-3.1-Pro-Preview 并列 82.1。Gemini-3.5-Flash 宏观第一,微观只有 80.5。两条轨道要的不是同一种能力:宏观看结构推理和版面,微观看局部对齐和改代码。表中宏观行写作 Qwen3.5-plus,微观行写作 Qwen3.5-Plus,这里保持原文写法。

给区域参考图加文字说明,效果不一致。Gemini-3.5-Flash 从 65.5 升到 71.8,加 6.3。Kimi-K2.6 从 63.7 降到 59.2,减 4.5。Claude-4.7-Opus 从 63.0 降到 58.6,减 4.4。说明文字会抽掉空间关系和样式细节,模型和视觉证据对着干。

裁判也不等于编码强。同一批 Kimi-K2.6 的重建结果,Kimi-K2.6 自己当裁判时满分率约 20%,与参照的相关为 1.0。Gemini-3.5-Flash 的均值高 12.1,满分率 50%,相关 0.91。Gemini-3.1-Pro-Preview 的均值高 6.7,满分率约 20%,相关 0.86。编码最好的模型打分偏松。

错误会滚雪球。只对 Kimi-K2.6 比较了两种开局:链式是默认,下一步吃上一步自己的输出;独立式每轮都从正确的上一状态开始。各轮难度被做成可比。链式五轮分数是 86.9、75.0、75.8、69.6、68.9。独立式是 90.5、85.9、89.5、89.0、92.7。差距从第 1 轮的 3.6 拉到第 5 轮的 23.8,中间是 10.9、13.7、19.4。单轮会改,不代表五轮之后还是那一页。

四、限制

单位不是美团单独完成。作者单位写明哈尔滨工业大学、美团 Longcat 团队和鹏城实验室,通讯作者在哈尔滨工业大学与美团。

宏观分不是规则分。框内五维和总体印象由 Kimi-K2.6 打出,换 Gemini-3.5-Flash 均值会上浮 12.1,满分率从约 20% 到 50%。框外在裁判失败时才退回结构相似性。微观判分是像素和结构相似性,这条依赖更弱,但造题用 Kimi-K2.6 筛过难度,所以它自己的微观总分 75.3 不能和其余 12 个模型直接比。

删除区域的宽高门槛、微观「看得见」的像素差门槛,正文都没有给出数字。16 个行业的页数加总是 102,但没有报告筛选前有多少页被丢掉。三次运行只给平均,表里没有方差。代码和数据在文中写的是即将发布,本文不把仓库当成已经可以复现。

页面是筛过的静态 HTML 和 CSS,损坏是程序注入的,不是用户一轮轮改需求。宏观用观感分,是因为同一种外观可以有多种 HTML;微观假设外观只有一个正确答案。两条假设都写进了协议,换一种页面或换一种合法实现,名次可以变。

出处:美团,Qiming Li、Shujie Hu、Haohan Liu、Xiaocheng Feng、Songxiang Liu、Guanglu Wan,《MT-Web2Code: Benchmarking Coding Agents on Multi-Turn Regional Reconstruction and Localized Modification》,2026-08-04,https://arxiv.org/abs/2608.03474

Found it useful? Pass it on

WeChat

Scan with WeChat to open it on your phone and forward it.

Subscribe via RSS

Submit a correction