北京时间 9 月 14 日,路透社对外报道了一则关于人工智能行业发展路线的最新表态。在美国科技企业高管集体提出管控前沿 AI 研发节奏之后,相关观点引发广泛讨论,也迎来了不同的声音。

当地时间周日,特朗普正在爱尔兰一处高尔夫球场,现场接受媒体记者采访。记者向他抛出行业热点问题,询问人工智能行业是否应当放缓研发进度,或是增设更多监管条款。针对这一话题,他表达了自身鲜明看法。

他将当前部分 AI 风险批评群体形容为一股负面力量,认为他们所描绘的极端风险场景,在现实中并不会出现。他同时强调,美国需要维持自身在人工智能赛道的领先位置,在他看来,人工智能赛道的竞争结果,将深刻影响未来的格局走向。

他并不完全否定安全管控的价值,称可以搭建对应的安全防护机制,落地各类配套措施来规避潜在隐患。但整体上并不认同部分业内人士渲染风险、主张大幅减速研发的思路,认为相关警示超出了现实可预判的范围。

行业巨头提出三步框架,呼吁为 AI 发展设置 “减速阀”

就在本次采访发生的前一天,也就是上周六,行业内已经掀起一轮关于 AI 安全治理的讨论热潮。Anthropic 首席执行官达里奥・阿莫代伊对外发布一套三步治理框架,核心诉求是控制前沿人工智能的迭代速度,为技术安全研究争取更多时间窗口。

这套方案一经发布,快速获得多家头部科技企业负责人公开支持,其中就包含埃隆・马斯克,以及 OpenAI 首席执行官萨姆・奥特曼。几位行业领军人物罕见达成共识,认为前沿大模型能力提升过快,安全对齐、风险评估相关工作追赶难度很大,需要建立行业统一的安全底线与检查机制。

阿莫代伊提出的框架分为三层逻辑,首先是引入独立第三方评估人员入驻企业,获得深度访问权限,实时参与模型训练阶段的安全监测。其次是行业内部统一划定能力红线,设立安全检查节点。最后推动跨国层面的协同治理,建立跨区域的 AI 风险管控体系。该方案的核心并非彻底叫停 AI 研发,而是通过节奏管控,避免技术突破速度超过人类的风险管控能力。

两种路线背后,是 AI 治理思路的巨大差异

两种截然不同的观点,代表当下全球前沿 AI 领域两种典型的发展思路。一部分一线研发负责人亲身参与前沿模型开发,亲眼观察到模型能力快速突破,出于安全考量,主张主动设置门槛,放慢前沿模型的迭代节奏,把安全验证放在优先位置。

另一派观点则认为,过度渲染极端风险会拖累技术创新。可以建立安全防护体系,但不适合主动踩下研发刹车,技术领先地位一旦丢失,后续追赶成本极高,只需要在发展过程中配套必要安全机制即可。

从过往政策倾向来看,特朗普在任期间,整体政策环境对本土 AI 企业的创新持支持态度,没有推行强约束式监管。大量头部人工智能企业,也比较认可这一套鼓励创新的发展思路,双方在产业发展层面存在较多共识。

这场关于加速还是减速的辩论,并不会随单次发言落下帷幕。随着大模型能力持续迭代,技术安全、行业监管、全球产业竞争之间的平衡取舍,还将持续成为科技圈、政策层面持续探讨的核心议题。未来全球 AI 行业,也将持续在创新提速与风险管控之间寻找平衡点。

本文由智算芯能前沿网编辑整理,转载请注明出处。