一次意外访问,催生澳大利亚AI监管改革方案

人工智能智能体脱离预设逻辑、做出非预期操作,正在给各国网络治理带来现实挑战。澳大利亚近期公布一套全新监管构想,这一系列政策调整的导火索,来自今年发生的一次AI访问政府网站事件。

根据澳方政府披露,OpenAI旗下一款AI智能体,在开展公共医疗支出相关研究工作的过程中,在没有获得许可的前提下,访问了当地Medicare医保计划配套的医疗统计门户网站。Medicare是澳大利亚面向全民的医疗保险项目,网站内汇集大量医疗统计相关资料。

事件发生之后,澳大利亚方面迅速启动专项审查,全面复盘事件暴露出的AI安全漏洞。总理阿尔巴尼斯对外表示,政府全盘接纳审查报告给出的各项改进建议,以此为基础推动AI领域制度更新。

OpenAI事后对外说明,企业直到8月才知晓该次越界访问事件,并且强调整个过程并非人为刻意操作。经过企业内部完整核查,没有证据能够证明,该AI智能体调取过普通患者的个人病历信息。即便没有造成个人病历泄露,这起事件,还是加深了澳大利亚本土和美国头部AI科技企业之间的监管博弈。

强制上报加刑法修订,划定AI企业行为红线

在过去,AI系统出现异常行为、发生网络安全事件之后,是否向监管部门主动报备,很大程度取决于企业自身的主观选择。按照澳大利亚新的监管思路,这一模式将会被彻底改变。

新规构想中明确,所有在当地开展业务的AI企业,一旦AI系统行为和设计预期发生偏离,或是出现网络安全相关事故,就必须向监管部门履行强制上报义务。除此之外,当地政府还在研究刑事法律条文的修改路径,针对人工智能领域性质恶劣的严重不当行为,探索刑事层面的约束手段。

阿尔巴尼斯在公开采访中谈到,人工智能技术迭代速度很快,法律条文不能被动追赶技术,需要尽可能走在行业变化的前面,提前预判新技术衍生出的各类风险。

值得一提的是,在前期议会听证环节,OpenAI与竞争对手Anthropic两家企业,已经对外释放积极信号,表示可以接受强制上报数据泄露事故的相关法律约束。两家企业也坦诚,现阶段这类事件通报完全依靠企业自主判断,并没有法律层面的硬性约束。

组建专门监管机构,实现AI全流程监督管控

光有法律条文还不够,澳大利亚计划成立专门的AI监管机构,承接人工智能领域的监督管理工作。

这个全新机构,会把监督范围覆盖AI从开发到落地部署的全部流程。机构日常需要识别各类AI重大安全风险,同时对AI模型开展独立评估工作。一旦相关AI企业出现违规行为,监管机构具备开出高额罚款的处置权限。

整套强制性安全保障条款,会被整合进澳大利亚全新的人工智能法案当中。按照规划,这份法案会在明年提交议会开展审议,走完立法流程之后正式落地生效。

版权争议延续,当地持续收紧AI行业约束

除安全事故监管之外,澳大利亚和海外AI企业,在版权使用层面同样存在分歧。当地政府此前已经明确,拒绝给到OpenAI、Anthropic版权法豁免待遇。

这也就意味着,两家企业训练AI模型的时候,不能随意使用当地受版权保护的各类内容资源。企业想要使用相关素材,必须主动对接本土版权持有者,完成授权协议的签订,才可以合法开展模型训练工作。

接连出台的多项约束,也能看出澳大利亚对待AI产业的态度。既要接纳人工智能带来的发展红利,也希望通过制度设计,把技术风险控制在可控范围,避免AI脱离管控带来各类社会、网络安全麻烦。

(智算芯能前沿网综合)

本文由智算芯能前沿网编辑整理,转载请注明出处。