当地时间周二，OpenAI 首席执行官 Sam Altman 现身旧金山 Salesforce Dreamforce 大会，与 Salesforce 负责人 Marc Benioff 展开炉边对话。面对当下行业热议的 AI 安全争议，Altman 表达了自身观点，他相信整个 AI 产业有能力在不造成重大伤害的前提下稳步推进技术迭代，同时直言，对于当前媒体讨论 AI 安全议题的叙事方式，自己感到失望。
这场对话的背景，是近期 AI 行业关于技术发展节奏的激烈争论。Anthropic 首席执行官 Dario Amodei 在上周六发布观点，警示前沿 AI 潜藏风险，提议放缓模型研发速度。值得一提的是，OpenAI、Anthropic 以及谷歌 DeepMind 三家头部实验室，本身也在协同开展 AI 安全相关的联合研究。即便如此，Altman 依旧坚持，AI 企业依靠行业自律，就可以完成模型的安全优化，不必依靠外部强制管控手段。
正视技术风险，参考航空业建立事故上报文化
Altman 并没有回避 AI 技术存在的各类潜在危险。他坦言，大众对新技术抱有担忧是合理的，在技术持续迭代的过程里，出现一定程度的意外事件难以完全避免。
为了阐释 AI 安全治理的可行路径，他拿航空行业作为参照。航空产业早年同样存在大量安全隐患，依靠持续的事故复盘、经验沉淀，叠加监管机构的配套管理，航空出行才逐步变成如今高安全等级的出行方式。Altman 提出，AI 行业也应当搭建同类体系，培育事故透明上报的行业文化。
他同时补充了一条底线原则，如果未来技术演进到无法安全继续推进的阶段，企业应当主动选择放慢研发节奏，甚至暂停相关工作。这一表态，和 Dario Amodei 呼吁放缓前沿 AI 开发的主张，形成了部分层面的呼应。
短视频案例类比，AI 治理需要多方共担责任
在探讨技术治理的边界时，Altman 把社交媒体作为前车之鉴。他表示社交产品具备实际社会价值，但带来的影响并不全是正面的，尤其对于青少年群体，负面效应已经显现。
短视频是他重点提到的案例。在他看来，短视频本身并非带有原罪，但这项技术确实存在风险。想要做好管控，责任不能只压在企业身上，需要家长、企业、政府三方共同承担治理义务。Altman 还分享了个人选择，尽管自己平时会刷短视频放松，但并不允许自家孩子接触这类内容。
这个类比，意在说明技术本身属于中性工具，可一旦落地应用，相关主体都要承担对应的引导与监管责任，AI 未来的治理难题，和短视频行业面临的困境具备相似逻辑。
AI 迎来第三波浪潮，产业变革不会一蹴而就
聊到 AI 长期发展前景，Altman 用取自神明的火种来比喻这项技术。他将 AI 发展划分为三个阶段，第一阶段是聊天对话产品，第二阶段诞生了编程类智能体，当下行业正迈入第三波浪潮，AI 可以自主承接各类工作任务，直接替人类完成业务事项。
在他的判断里，人类仅仅只是刚刚摸到优质 AI 产品的门槛，AI 增强人类能力的商业潜力还有巨大空间没有释放。但他同时保持理性，人类长期形成的工作习惯存在很强惯性，新技术大范围普及需要数年时间。
这也意味着，即便 AI 模型能力快速提升，它对劳动力市场、企业运营模式带来的实质改变，不会在短期内一次性爆发，而是循序渐进慢慢渗透。
这场大会对话，也是硅谷两大阵营观点碰撞的缩影。一边是警示风险、建议踩下研发刹车的声音，另一边是以 Altman 为代表，相信行业自律、主张在可控范围内持续探索技术边界的观点。两大方向的博弈，也会持续影响未来 AI 行业的研发节奏与监管走向。
本文由智算芯能前沿网编辑整理，转载请注明出处。