真 机 平均 从 38.8 % 到 50.0 %: 阿里 用 67 个 任务 测 GeoProp
阿里达摩院的 GeoProp 只改本体感觉怎么接进策略。仿真 63 个任务上,ResNet-18 总平均从普通接法到 75.3%,高 8.5 个百分点。真机四项各 20 次,Diffusion Policy 平均从 38.8% 到 50.0%。物体挡住投影点时,Box Close 的 ResNet 从 48 降到 40。

本文目录
真机平均从 38.8% 到 50.0%:阿里用 67 个任务测 GeoProp
GeoProp(把机械臂末端的本体感觉投影到图像特征上,再在对应位置取样)来自阿里巴巴达摩院与 HuPan Lab,同济大学、南洋理工大学参与。许可证为 CC BY 4.0,arXiv 提交日是 2026-07-08。仿真 63 个任务,加上真机 4 个,结论里的 67 个任务把这两部分合在一起。
对照只换本体感觉怎么接进策略,数据、骨干、动作空间和训练日程在同一策略族里保持不变。三种接法是:去掉本体感觉、原论文的普通接法、换成 GeoProp。
仿真:63 个任务,成功次数怎么数
三个基准都是已有操作环境。MetaWorld 用 Sawyer 和 MuJoCo,50 个桌面任务,每个任务单独训一个策略,25 条脚本演示,角落相机,动作是末端平移增量。难度沿用 Easy、Medium、Hard、Very Hard。RLBench 用 Franka Panda 和 CoppeliaSim,6 个任务,每个 100 条 OMPL 演示,正面相机,绝对 7 自由度末端位姿,多任务一起训。RoboTwin 是双臂 ALOHA,7 个任务,每个 50 条演示,头相机,绝对 14 自由度,也是多任务训练。
策略两族。Diffusion Policy 把本体感觉用 MLP 编出来,再和视觉 token 拼在一起,骨干分别用从零训练的 ResNet-18 和 ImageNet-1K 初始化的 ViT-B/16。π0 是 30 亿参数的视觉—语言—动作模型,状态、图像和语言在 Transformer 里深层交互。图像都缩到 224×224。
成功率:MetaWorld 每个任务 2 个种子、每个种子 25 次评测,共 50 次;RLBench 和 RoboTwin 每个任务 25 次。Diffusion Policy 训 100 个 epoch,Adam 的 β 为 0.95 和 0.999,余弦学习率,10% 线性预热,初始学习率 1×10⁻⁴。π0 微调 3 万步,AdamW 的 β 为 0.9 和 0.95,3% 预热,峰值学习率 5×10⁻⁵。GeoProp 用两层 MLP 生成 FiLM 参数,运动预测从 4 帧历史外推一个未来路点。
Diffusion Policy 的表 1 把 MetaWorld 拆成 Easy、Medium、Hard、Very Hard 和该基准均值,后面再给 RLBench 均值和跨 63 个任务的总平均。括号里的百分点是相对普通接法的绝对差。ResNet-18 普通接法依次是 81.8、49.1、46.0、66.4、66.0、53.7、66.8;无本体感觉是 80.9、51.1、51.0、74.4、68.0、53.7、68.1;GeoProp 是 82.9、67.5、59.0、82.4、79.3、62.9、75.3,总平均比普通接法高 8.5 个百分点,比无本体感觉高 7.2 个百分点,参数多 3.0%。ViT-Base 普通接法是 78.3、46.7、34.0、63.6、65.3、41.1、62.0;无本体感觉是 78.5、50.5、30.7、52.8、70.7、42.9、62.3;GeoProp 是 81.5、62.5、52.7、69.2、79.3、52.0、71.0,总平均高 9.0 和 8.7 个百分点,参数多 2.3%。RoboTwin 的分任务数在附录,不把总平均误读成某一个基准。
π0 只报了 RoboTwin 七个任务:无本体感觉平均 61.7%,普通接法 64.0%,GeoProp 68.0%,七项里有五项高于普通接法。参数多 1.98%。演示规模 25、50、100 条时,提升分别是 2.3、4.0、2.8 个百分点。扩到 15 个 RoboTwin 任务是加 4.5 个百分点,明细在附录。Beat Block Hammer 上 GeoProp 是 84,普通接法是 100,这一项变差。
消融:几何对齐是主因,遮挡时会退步
15 个 MetaWorld 任务上,普通接法 61.2%。只做几何落地 64.8%。再加上运动预测 66.4%,或只加 FiLM 66.0%,三项全开 68.5%。运动预测和 FiLM 分开加是 1.6 和 1.2 个百分点,一起加是 3.7,作者称为超加。
热图注入和 RC-PE 在同样 15 个任务上是 61.7% 和 60.8%,无本体感觉 59.5%,GeoProp 的基础几何版 64.8%。只给投影坐标不够。
四个精细任务 Basketball、Hand Insert、Pick Place、Sweep Into 上,两个骨干平均提升 22.3 个百分点。物体挡住投影点时会退步:Box Close 上 ResNet 从 48 降到 40,ViT 从 54 到 54。把本体感觉编码器加大到同样参数量,Diffusion Policy 只多 0.5 个百分点,π0 只多 0.1,所以收益主要不是参数变多。
标定漂移在测试时加。平移误差到 2.5 厘米、旋转到 1.5 度以内,GeoProp 仍高于普通接法和无本体感觉,再大要重估相机位姿。具体曲线在附录 B.4。
真机:每项 20 次,咖啡这一项普通接法更差
平台是 Mobile ALOHA,两条 6 自由度臂,一台正面 Intel RealSense。四项家务:扔纸团、取咖啡杯、把桌上物体推进目标区、用布擦桌子。每项 50 条成功遥操作演示,每项 20 次评测。Diffusion Policy 用 ResNet-18。π0 用同一套演示和评测。
Diffusion Policy 平均:无本体感觉 28.8%,普通接法 38.8%,GeoProp 50.0%。分项是扔纸 25/35/50,咖啡 40/35/55,清桌 35/55/60,擦桌子 15/30/35。咖啡上普通接法 35% 低于只看视觉的 40%。论文写明 35% 到 55% 对应 20 次里多 4 次成功。π0 平均从 43.8% 到 53.8%,四项相对普通接法是加 15、10、10、5 个百分点。
结论把仿真里 Diffusion Policy 的提升写成 +8.7%、π0 写成 +4.0%、真机写成 +10.6%。这是跨设置的汇总,和上面分表的百分点不是同一个口径。
限制
需要已知内外参。只投影末端位置,不管连杆、关节、指尖和接触片,所以不覆盖灵巧手和全身。运动预测假设末端局部平滑,突然转向或接触切换会看出错的前瞻点。物体挡住投影像素,或基线已经接近满分时,收益变小甚至反过来。每个场景只有一个固定主相机。只覆盖三种本体和两种模仿学习策略,没有测人形、灵巧手或强化学习。
阿里,Quanhao Qian、Wenhao Li 等,GeoProp: Grounding Robot State in Vision for Generalist Manipulation,2026-07-08,https://arxiv.org/abs/2607.07101
觉得有用,转给同事
微信扫码
用微信扫一扫,在手机上打开后即可转发。