当地时间9月28日，据美国CNBC权威报道，美国硅谷选区民主党联邦众议员罗·康纳正式筹备推出全新人工智能监管法案《Human Control Over AI Act（人类控制AI法案）》。该法案主打从严管控前沿AI技术风险，首次引入严格责任认定标准，明令禁止AI在未取得官方安全审批的前提下，开展递归式自我迭代升级，从立法层面杜绝AI自主失控隐患。

相较于以往侧重行业自律、内容合规的AI监管规则，本次法案聚焦AI自主进化、权限失控、技术滥用等深层风险，被称作覆盖面最广、约束力度最强的AI安全立法草案，将彻底改写美国AI行业的监管格局。

直面文明级风险，立法筑牢AI安全底线

谈及立法初衷，众议员罗·康纳在公开采访中直言，前沿AI技术的快速迭代，已经衍生出双重潜在风险。一方面是AI脱离人工管控、自主失控引发的安全危机，另一方面是技术被恶意滥用造成的连锁危害，两类风险均具备影响深远的潜在威胁，甚至存在极端情况下的文明级安全隐患，必须通过完善的法律体系提前约束、全面防控。

基于风险防控核心逻辑，法案设立核心监管红线，明确所有AI模型在联邦政府出台完备防护规则、监管机构完成审批备案前，严禁开展递归式自我改进。同时禁止AI自主修改自身核心运行目标、安全遏制机制与紧急关停控制系统，从根源上保障人类对AI系统的绝对主导权。

新设专属监管机构，搭建全流程管控体系

为保障监管规则落地执行，法案提出组建全新的联邦专属监管机构，统筹全国前沿AI安全管理工作。该机构拥有制定行业安全标准、发放模型运营许可、开展常态化安全审计的核心职权，覆盖AI模型训练、部署、迭代的全生命周期。

法案要求所有前沿AI实验室，必须配备独立专职审计人员，岗位工作独立于企业研发体系，直接向联邦监管机构汇报，杜绝企业自查自审的监管漏洞。同时，新规细化多项硬性安全标准，涵盖标准化沙箱测试环境、测试网络物理隔离机制、紧急关停开关配置，以及防止AI脱离实验室环境自主联网运行的防控体系。

除此之外，法案首次将高端算力芯片纳入AI监管范畴，要求建立芯片使用监测与管控机制，对前沿AI训练所需的先进芯片资源实施合规化管理，补齐算力端的监管空白。

明确刑事追责条款，压实企业主体责任

据公开信息显示，本次法案设立了极为严苛的奖惩与追责机制，填补了AI领域重大风险的刑事处罚空白。新规明确，若AI模型部署后造成大规模群体性危害，相关责任将被认定为危害人类罪，依法追究刑事责任。

针对AI企业从业人员，法案也划定清晰红线。工作人员若擅自关闭安全防护机制、紧急关停开关、运行日志记录功能及系统遏制模块，或是明知AI系统未取得合规授权仍强行部署上线，都将面临对应的刑事处罚。

在企业合规层面，法案创新增设强制保险要求，所有对外发布AI模型的企业，必须购置覆盖全面的责任保险，通过市场化手段分担技术风险，完善风险兜底机制。

立足行业安全诉求，重构AI治理话语权

罗·康纳表示，这份法案区别于以往由科技企业主导的行业规则，核心设计思路均来自独立非营利AI安全机构的专业建议，完全立足公共安全与行业良性发展视角，而非头部AI企业的商业诉求。

他认为，长期以来AI安全领域的专业预警，常被视作科幻层面的假想讨论，未能得到足够重视。本次立法旨在扭转这一局面，让安全研究群体主导行业治理规则，推动AI发展从“技术优先”转向“安全与创新并行”，为全球AI合规治理提供可参考的范本。

（智算芯能前沿网综合）

本文由智算芯能前沿网编辑整理，转载请注明出处。