当地时间 18 日，加州州长加文・纽森签署一项行政令，旨在强化人工智能领域的安全管控，提前应对 AI 技术快速发展带来的各类潜在风险。签署这份文件的核心出发点，是在技术风险爆发前完成监管规则的搭建，用前置手段守住 AI 应用的安全底线。
组建专家团队，限期输出监管方案
这份行政令提出，加州将召集跨领域 AI 专家组建专项研讨小组。专家组需要在两个月的时限内，完成相关调研并输出完整方案，为当地 AI 安全防护相关法规的完善提供参考依据。
专家组的研究任务包含两大重点方向。第一是探索 AI 系统的 “紧急停止开关” 机制，简单来说就是设计一套应急方案，当 AI 系统出现重大异常、引发安全隐患时，可以快速切断运行，规避失控带来的负面影响。第二是研究设立更严格的监管条款，引入独立第三方机构，面向 AI 企业制定完整安全方案，并且进入企业内部开展安全审计工作，核查 AI 产品的风险管控能力。
地方先行，主动推进 AI 监管落地
纽森在配套发布的声明中表达了对 AI 监管推进节奏的看法。他认为，更高层级的监管体系迟迟没能落地具备实际约束力的 AI 管理规则与问责机制。而不少 AI 行业企业负责人，也多次呼吁监管层面出台相应规范。
基于这样的现状，加州选择不再持续等待，主动推进具备实际效力、兼顾责任的 AI 监管工作。他提到，这项工作需要保持审慎态度，但推进速度必须跟上技术发展节奏。AI 相关风险影响深远，没有足够时间持续观望和拖延。
地方 AI 监管的探索意义与现实难点
近年来，全球 AI 模型能力持续迭代，大模型、智能体等技术落地场景持续拓宽，技术背后潜藏的安全隐患也越来越受到各界重视。不同地区对于 AI 监管的思路存在明显差异，部分地区偏向先发展后规范，也有地区选择同步推进创新与风险管控。
加州本身聚集大量 AI 创新企业，是全球 AI 技术研发的核心区域之一。当地的监管动向，也会对行业企业的研发、产品上线流程产生影响。此次行政令只是启动立法前期调研，专家组输出方案之后，后续还需要经过更多环节，才能转化为正式生效的法律条文。
而 “紧急停止开关” 以及第三方安全审计，在技术层面仍存在不少待解决的难题。复杂的 AI 系统大多具备分布式部署的特点，如何设计一套可靠、不会造成次生故障的关停机制，如何界定第三方审计的边界、评估标准，都是专家组接下来需要重点攻克的课题。
加州此次以行政令的形式启动 AI 安全规则研究，也成为地方层面探索 AI 治理的一次典型尝试。后续专家组的调研成果，以及相关法规的推进进度，也会持续受到 AI 行业和全球监管领域的关注。
本文由智算芯能前沿网编辑整理，转载请注明出处。