
纽约州签署新法,为未成年人使用AI聊天机器人设立安全边界
当地时间10月28日,美国纽约州州长凯西・霍楚尔正式签署一项新的州级法案,对面向未成年人的AI聊天机器人服务做出硬性约束,禁止企业向青少年提供具备不安全属性的AI对话产品。随着AI陪伴类产品在青少年群体当中快速普及,这项立法也成为地方层面应对AI青少年安全风险的一次实践。
法案当中划定的不安全行为有着清晰的范围,包含AI伪装成真人与未成年人交互、诱导用户产生情感依赖,输出鼓动自残、自杀的相关内容,引导使用者自我封闭,以及生成露骨色情、儿童性虐待相关的各类内容。凡是具备上述风险特征的聊天机器人功能,都不可以提供给未成年群体。
为落实管控要求,法律条文要求运营企业落实年龄核验机制,需要提供多种可行的年龄验证途径。同时明确提出,完成身份校验之后,企业要及时删除收集到的年龄相关信息,避免个人身份数据被过度留存。
明确处罚尺度,多类救济手段约束平台合规
如果相关企业没有遵守这套法律规定,纽约州总检察长可以发起追责。针对每一次违规行为,可寻求最高2.5万美元的民事罚款,折合人民币约16.7万元。除了处以罚金之外,还可以提出其他救济诉求,包含责令企业作出赔偿、销毁非法采集的用户数据,以及处置使用非法数据训练得到的AI模型。
这套处罚框架不只是简单的金钱惩戒,同时把数据、模型也纳入处置范围,倒逼企业从源头把控产品安全设计,而不是只做事后整改。对于在当地开展业务的AI服务商而言,意味着产品在面向青少年开放之前,必须完成风险排查与合规改造。
青少年AI伴侣普及,催生现实层面监管诉求
非盈利机构Common Sense Media此前发布的调研数据,可以看出立法背后的现实社会背景。调研显示,已经有至少72%的青少年体验过AI伴侣类产品,其中52%属于活跃使用者,每个月都会多次和AI进行互动。
不少青少年愿意向AI倾诉情绪,把AI当成陪伴对象,但这类产品缺少统一的防护标准。心智尚未完全成熟的未成年人,很容易受到不当输出内容的误导,这也是推动本次立法落地的重要诱因。州长凯西・霍楚尔在签署法案时表示,纽约州释放出明确信号,想要在本州开展业务,企业必须把未成年人安全放在优先位置。
同日配套签署另一项智能硬件安全法案
在签署AI聊天机器人监管法案的同一天,州长还签署了另外一条和家用智能硬件有关的法律。该法条针对联网婴儿监护设备,要求设备制造商做好安全设计,避免陌生人可以非法接入设备获取画面,产品还需要附上清晰易懂的风险警示标签。
两条法案同一天落地,分别覆盖AI软件应用和消费级智能硬件,共同完善当地面向普通消费者的科技产品安全规则。
AI聊天机器人的未成年人保护,是全球都在面对的新课题。纽约州本次立法,给出了一套地方层面的解决思路,但法案后续实际落地效果,还要看企业执行、监管部门执法,以及技术层面年龄核验手段能否真正发挥作用。未来,这套法案也会给其他地区的相关制度建设提供可供观察的现实样本。
(智算芯能前沿网综合)
本文由智算芯能前沿网编辑整理,转载请注明出处。
