传统治理在AI智能体面前失灵
企业过去管理技术风险的方式——定期审查、合规检查、上线前审批——在AI智能体面前正在迅速失效。
SAP首席技术官Philipp Herzig给出了一个直白的判断：“把传统的战略性治理方法套用在AI智能体上，就像管理普通应用和系统那样，根本行不通。”
他解释说：“一旦引入自主性，事情发生得太快了。智能体代表你行动，有时甚至没有你的明确批准。你需要的是主动的实时运营治理，在问题发生之前就阻止它，而不是事后追赶。”
这一判断正在成为受监管行业的共识。金融、医疗、制药和公共部门面临的压力最大，因为监管机构已经开始要求对这些非确定性系统提供可追溯、可重建的决策记录。
受监管行业撞上“可重建性”要求
银行遵循SR 11-7和SR 26-2等模型风险管理指引；药企在GxP合规和FDA框架下运作；政府机构受FedRAMP、运行授权和数据主权规则约束。当这些规则被套用到AI智能体上时，产生了一个大多数企业目前无法满足的期待：监管机构希望组织能够重建AI系统在任何时间点做出的任何决策。
Herzig用制药行业做了类比：“如果你生产药品，你必须知道产品被触碰的每一个环节。在受监管的业务流程中，你不能有空白点。”
满足这一标准，远不止保存一份会话日志那么简单。责任必须同时绑定到智能体本身以及它所参与的工作流，还要涵盖它在用户角色中携带的护栏和授权权限。身份与访问管理这个围绕人类建立的学科，现在必须处理那些独立追求既定目标的实体——有时它们甚至会找到绕过API限制的方法来达成目标。
部署时授予的权限，也可能随着时间推移与智能体的实际使用方式发生偏离，在其被授权的角色和真实世界的行为之间制造出一道鸿沟。持续监控因此成为必要条件。
发现先于控制
有效的AI治理从一份当前的AI资产清单开始。而大多数企业并不具备这份清单。
“你无法管理你看不见的东西，”Herzig说。“如果我不能自动发现并维护一份可用的AI资产或智能体清单，我就不知道自己在治理什么。”
发现必须持续运行，因为创建和部署也在持续发生。一个员工有聊天界面，一个下午就能搭出一个可运行的智能体，而这个智能体立刻开始触碰真实工作。
Herzig描述了一个典型场景：“假设某人决定不再处理发票，于是在一个copilot工具里快速搭了个智能体，把活交出去了。现在有东西在操作财务和客户关系，却没有任何人在看着它。在过去，这就像在笔记本电脑上装了违规软件；而现在更像是员工带了另外三个人来上班，指给他们看报表，然后从不向老板提起。”
行业正在行动，但路径尚未统一
治理向运行时的迁移，已经催生了一批产品和框架。
IBM的Sovereign Core在Think 2026上正式可用，定位为客户运行的控制平面，提供边界内身份和持续合规能力。Alterion推出了Draco，一个面向企业AI智能体的运行时控制平面，让安全、风险和合规负责人获得对自主智能体的实时可见性、治理和强制执行控制，无需代码更改或供应商锁定。Saviynt为其Agent Access Gateway增加了意图感知运行时授权，实时评估AI智能体的动作是否与身份、上下文、策略和意图一致。Okta则推出了运行时和生命周期控制，包括智能体间连接和资源访问认证。
SAP自身的路线图同样明确：计划将验证印章明确锚定在EU AI Act等法规上，并在2026年底前跟进运行时强制执行能力和护栏。
更广泛的标准化努力也在推进。OPAQUE、AMD、Intel等企业合作推出了TRACE，一个开放标准，旨在为AI系统提供可移植的、硬件支持的运行时证据，记录系统运行了什么、执行了哪些策略。Microsoft的Agent Governance Toolkit则提供了跨五种语言SDK的亚毫秒级策略执行和失败关闭语义。
Forrester副总裁兼首席分析师Charlie Dai此前向VentureBeat指出，运行时强制执行正在“结晶为强制性基础设施层”，成为智能体可靠性和安全性的基础。
四个持续追问
持续AI治理要求企业在任何时刻都能回答四个问题：
1、企业内存在哪些AI智能体，各自服务于什么目的？
2、每个智能体可以访问哪些数据和系统？
3、每个智能体如何参与业务流程？
4、每个智能体是否在既定策略范围内运行？
这四个问题，正在从合规部门的年度审查清单，变成工程团队需要嵌入架构的运行时约束。对于受监管行业而言，这已经不是一道选择题。
（智算芯能前沿网综合）
本文由智算芯能前沿网编辑整理，转载请注明出处。