Not translated yet — showing the Chinese originals.
Industry & Practice · Tagged “幻觉”
Techniques & Tutorials//14 min
AgentProp-Bench 用 14,750 条轨迹审计自动评测。子串判定与人工的 κ 只有 0.049;三模型集成 0.432。参数错误传到错答案的校准概率约 0.62。拒绝和恢复互不相关。编造工具调用最多占 37.5%。
Research & Benchmarks//12 min
FTA 把失败轨迹事先固定,只评测最终报告是否被证据支持。六个模型、3600 条人工标注里,基线虚假成功 22.8%,透明指令 9.3%,结构化证据契约 0.8%,有用回答不降反升。
Research & Benchmarks//10 min
蚂蚁实习期间完成的 ATAR 用 22 个鉴识工具做多轮伪造检测。六套零样本 IMDL 图像级 F1 78.5%,随机工具比不用工具更差。去掉推理奖励后分类只掉 0.6 个百分点,真阳性幻觉从 7.2% 升到 21.6%。
Research & Benchmarks//8 min
华为云 AgentArts 的 RAG 评估要求先发布智能体,评测集初始 30 到 50 条,并用 context 判断是不是瞎编、用 reference_output 判断对不对。字段映射错了,整次评估作废。
Research & Benchmarks//6 min
华为云 AgentArts 预置 50 多个评估器。只拿正确性满分不能上线:订票答对却没调 API、事实对但风格不合、回答正确却带偏见,都要靠结果、调用链和体验三类评估器互相制约。
Research & Benchmarks//7 min
华为云 AgentArts 用评测集、40 多个评估器和评估任务替换 5 到 10 条手测。流程是 30 到 50 条基线、低分下钻、按病因改提示词或工具、同一评测集回归。裁判打分并非 100% 完美,允许改分作真值。