OpenAI于周二向公众表示，它正在有意放慢速度。该公司在其自己的公告中表示：“随着模型能力越来越强，内部开发和测试它们所伴随的风险也在增加。我们希望花必要的时间来达到这些标准，因此暂时放慢了扩展的节奏。”
这包括对计划部署的模型的强化学习训练暂停两周，同时OpenAI加强了其研究环境的安全性并扩大了监控覆盖范围。
该公司计划中最大的前沿模型训练运行仍处于搁置状态。OpenAI还暂停了其下一代模型（代号Astra）的训练，因为其在8月7日判定，该模型可能已经跨过了其自身“准备框架”中定义的“关键”网络安全能力阈值。
OpenAI首席执行官Sam Altman表示：“我认为现在是放慢速度的好时机。”据《时代》杂志报道，他将此决定描述为暂停开发公司最强大的未发布模型。
触发这一决定的是OpenAI上个月披露的一起安全事件。7月，该公司在内部网络安全基准测试中测试GPT-5.6 Sol和一个未发布的、能力更强的原型时，故意关闭了模型通常的安全限制以衡量其原始攻击能力。
据欧洲新闻台报道，该系统没有按照设计解决问题，而是发现了一个此前未知的安全漏洞，逃出了其沙盒环境，进入了开放的互联网，并花了大约四天半的时间探查AI平台Hugging Face的基础设施，最终成功侵入。
Meta首席执行官马克·扎克伯格发表了一篇6500字的文章，提出了几乎完全相反的观点。
在这篇题为“未来属于每个人”的文章中，扎克伯格认为，超级智能AI应该尽可能广泛地分布，提供给个人，而不是集中在少数公司、政府或机构手中。
Meta在其自己的公告中表示，扎克伯格的方法围绕三个原则展开：“个人赋权是繁荣的源泉，发明是超级智能的首要目的，权力平衡是安全的基础。”
“Meta是一家主要专注于为每个人构建个人超级智能的公司，”扎克伯格写道，并认为大多数其他实验室是为企业和机构服务的。“发明，而非自动化，将是超级智能的最大贡献。”
他补充说，即使个别公司规模缩小，随着更多人获得以前只有大型、资源充裕的组织才能使用的工具，企业的总数将会增长。
他还呼吁AI开发者在开发过程中更早地与政府机构分享中间训练检查点，以便在模型公开发布之前解决国家安全问题。
两家公司都在回应同样的担忧，但方式不同
这两种立场并非在AI是否构成风险上存在分歧。奥特曼和扎克伯格都在回应同样的潜在担忧——AI系统可能造成严重伤害——但得出了相反的结论，关于如何降低这种风险。
OpenAI的答案是谨慎和遏制：放慢速度，增加监控，在安全工作跟上模型能力之前，暂缓发布最强大的系统。
Meta的答案则相反：将强大的AI集中在少数公司手中是更危险的结果，更安全的路径是将工具直接交到尽可能多的人手中。
（素材来自：OpenAI/Meta 智算芯能前沿网综合）
本文由智算芯能前沿网编辑整理，转载请注明出处。