当地时间10月29日,OpenAI宣布更新其公开模型行为规范Model Spec。此次调整围绕五项核心价值观重新组织指导原则,分别是忠实于人类意图、最大限度减少伤害、诚实与透明、维护人类自主权以及关怀。随着AI模型逐渐具备更强的自主执行能力,OpenAI希望通过新的规范,让模型不仅能够理解用户的指令,还能更准确地判断指令背后的真实需求。

从执行指令转向理解真实需求

此次更新最重要的变化,是将理解人类意图放在模型行为框架的基础位置。OpenAI认为,模型不应仅仅按照指令的字面意思执行任务,还需要结合具体场景、用户需求及相关背景作出判断。

例如,在帮助用户比较工作机会时,模型可以结合用户此前表达的工作偏好提供建议,但需要明确说明判断所依据的假设,并允许用户随时纠正,而不是擅自替用户作出选择。

五项原则明确AI行为方向

新版规范将五项价值观贯穿于模型行为指导之中。其中,减少伤害要求模型充分考虑行为可能产生的风险;诚实与透明强调如实说明信息来源、能力边界及不确定性;维护人类自主权则要求AI帮助用户提升理解和决策能力,而不是取代人的判断。

此外,关怀原则要求模型关注受到其行为影响的人群及具体情境,遵循相关社会和专业规范,提高工作成果的可靠性。

强调自主判断,也保留人工监督

在具体执行层面,新版Model Spec进一步补充了上下文理解、监督机制、用户自主权和行为后果管理等指导内容,同时调整了部分默认行为规则,并取消了大部分详细的语言风格指导,使模型能够根据用户偏好、语言环境和实际场景灵活调整表达方式。

OpenAI表示,公司正在探索新的训练方法,帮助模型更好地理解这些核心价值观,并将其应用于复杂和陌生的场景。不过,公司也明确指出,目前的模型尚未完全达到新版规范所设定的行为目标,后续仍将通过研究、实际部署经验和用户反馈持续改进。

此次更新反映出AI行业对模型能力发展的关注点正在进一步延伸:除了提升任务执行效率,如何让AI理解人类需求、合理判断行动边界,并在自主执行任务时保持透明和可控,也成为模型研发的重要课题。

(素材来自:OpenAI 智算芯能前沿网综合)

本文由智算芯能前沿网编辑整理,转载请注明出处。