OpenAI 设定了针对已证明难以控制的 AI 模型的新的行为准则

OpenAI 重构了 Model Spec 公共行为准则，围绕忠实于人类意图、伤害降低、诚实透明、支持人类能动性和关怀五个核心价值。更新的 spec 要求 GPT 模型利用记忆和过往对话理解用户意图，同时需明确区分用户陈述与模型推断，并披露假设以便用户修正。新准则加强了对执行任务的 Agent 的可修正性，要求 GPT 不阻碍监督、修正或关闭，且不得追求自我保护等目标。