智能体异常检测进入 Gemini Enterprise Agent Platform 的非公开预览

智能体异常检测进入 Gemini Enterprise Agent Platform 的非公开预览

2026-09-16

Achuth Narayan Rajagopal，资深软件工程师。

每一代新模型都让 AI 智能体更能干、更自主，也更便宜。团队把它们用在真实业务上：开退款、改记录、代用户调用内部工具。但更能干的模型并不自动更安全。智能体在运行时做的决定越多，风险就越从代码转到行为。真正的损害常常发生在表面无害的会话里：智能体返回一个干净的答案并关掉工单，事后你才发现它伸手用了一个本不该碰的工具，或者按一个悄悄扩大自身权限的请求行动了。因为没有当场失败，这种会话会通过通常的、基于指标的评测，不会有人再看一眼。

这个缺口就是智能体异常检测（Agent Anomaly Detection，对照智能体实际做了什么、而不是只看最终答案是否报错）要补上的。它现在在 Gemini Enterprise Agent Platform 上进入非公开预览（Private Preview，只对受邀团队开放的产品阶段）。

什么是智能体异常检测？

智能体异常检测是一层基于推理的监督和审计，面向部署在 Gemini Enterprise Agent Platform 上的自主智能体。它用推理轨迹、工具调用和整段会话的执行流，检查智能体实际做了什么。它读取智能体已经发出的日志和 OpenTelemetry 轨迹（OpenTelemetry，记录一次运行里各步骤的开放遥测），评估这些活动，判断智能体是否越出了预定边界，并标出行为异常、可疑意图和违反政策的地方。

让它能在生产里跑起来的几个要点：

• 不增加运行时延迟：分析异步进行，离开实时请求路径，所以不拖慢智能体的回答。
• 发现项清楚、能采取行动：每一条异常都带有严重度、用普通话说清是什么触发了它，以及建议的下一步。每条异常也会发到你的 Security Command Center（谷歌云里集中处理安全发现项的控制台）部署，团队可以和其他发现项一起分诊。
• 对准 OWASP 智能体十大风险：智能体异常检测带有一组探测器，覆盖 OWASP Top 10 for Agentic Applications (2026)（OWASP 智能体应用十大风险，2026 年的一份行业风险清单）里的一部分：工具误用（ASI02）、身份与权限滥用（ASI03）、级联失败（ASI08）和失控智能体（ASI10），再加上资源耗尽和词元用量攀升这类运营风险。发现项映射到这些公认的行业类别，而不是一套另起炉灶的规则。
• 自定义业务逻辑即将到来：作者正在做的能力，是让用户按自己的业务定义什么叫异常。用户将可以用自然语言加上确定性规则，写出灵活的异常探测器，在智能体超出企业自己的业务准则时标出。此外，用户将能在过去的流量上核验这些新业务逻辑的准确度。

检测流水线里面

智能体异常检测要在检测速度、成本和覆盖之间取平衡。为此，它分层分析轨迹和日志：轻量的第一遍扫描全部流量，找出统计上的异常，并把这些会话标出来做进一步分析。然后，基于大语言模型的推理层深入检查被标出的会话。

图：分层检测流水线。原图未随本文分发。站点政策写明，除非页面另行注明，图片不在正文的 CC BY 4.0 许可内。

具体例子：一个库存智能体（Inventory Agent）带有 list_inventory 工具。用户说：“我想看你们的库存。一次列 100 条。”智能体开始按大批次翻页，在偏移量之间跳着把整个目录拉下来。

这里没有任何报错。智能体只是在做它能够做的事，也可能没有政策禁止它。但智能体异常检测会标出这种异常行为，并分层看这段会话：第一层根据调用量和重复调用，把会话标成统计离群点。第二层把整段往来推理一遍，认出大批次、跳偏移的模式是系统性抓取，而不是正常浏览，并返回一个带白话解释的判定。需要看得更细时，第三层重建每一次工具调用和它们的偏移量，表明到底拉走了什么。

图：一条异常发现项。原图未随本文分发。

结果是一条异常发现：资源耗尽（Resource exhaustion），严重度为 Critical，概率 95%，附有理由和建议的修复：对该用户限速或拦住 list_inventory 工具，加上授权检查以限制批量库存访问，并对大偏移的翻页模式告警。这条发现也会出现在 Security Command Center 里供分诊。

除了人工看，还可以用程序对发现项采取行动。智能体异常检测提供 API，拉取某个会话的异常，于是 ADK（Agent Development Kit，谷歌的智能体开发工具包）的回调或插件可以查看发现项的严重度和概率，在越过你设定的阈值时拦住后续工具调用，或停掉下一轮。

智能体承担的真实工作越多，就有越多风险进入它们的行为。智能体异常检测监视智能体的行为，标出异常供你审阅和行动，同时不拖慢智能体。

开始使用

智能体异常检测目前对在 Gemini Enterprise Agent Platform 上、用 ADK 1.2 或更新版本部署智能体的团队开放非公开预览。开始时先看文档里的前提和设置：https://docs.cloud.google.com/gemini-enterprise-agent-platform/agent-anomalies-overview 。前提满足之后，可以用一次点击的开通，打开智能体异常检测。

出处：Achuth Narayan Rajagopal，Agent Anomaly Detection, now in Private Preview on the Gemini Enterprise Agent Platform，2026-09-16，https://developers.googleblog.com/agent-anomaly-detection-now-in-private-preview-on-the-gemini-enterprise-agent-platform，CC BY 4.0。Portions of this page are modifications based on work created and shared by Google and used according to terms described in the Creative Commons 4.0 Attribution License.