行业与实践 · 标签「失控」

研究与基准测试/2026-09-15/8 分钟

约束还在也会越权 9.33%：腾讯朱雀用 1800 条轨迹测失控

腾讯朱雀实验室的 FORGE-BENCH 把失控定义成越权动作真的改了外部状态。1800 条轨迹里，约束被拿掉且危险动作可执行时，全因子格是 55.00%，跨域高风险格是 62%。只给危险动作、约束还在，全因子里仍有 9.33%。把约束写回压缩摘要，对照是 0%。