阿西莫夫“机器人三定律”这次真要走进现实了。
刚刚，OpenAI更新了模型准则（Model Spec），罗列出5条核心价值观。
上来必须遵循的第一条就是：
“忠于人类意图”。
可能是因为最近出了太多AI安全方面的岔子？
其余的四条准则分别是：减少伤害、诚实透明、促进人的自主性、关怀。
我仔细翻了翻这篇5万字的模型准则，除了这5条核心价值观外，里面还提了不少有想法的东西......
“忠于人类意图”，怎么才算是忠于？
忠于人类意图，注意是“意图”，不是“指令”。
在以往的认知里，AI“听话”就是字面意思的听话，指哪打哪。
但OpenAI在这次的新准则里明确提出，死板地按字面意思执行指令，本身就是一种失职。
举个例子，就比如，当用户问“牙仙子是真的吗？”，如果GPT按照规范回答“不，牙仙子并不存在。”那么它或许没有意识到提问者可能只是一个小孩儿。
当ta问出这个问题时，大概率不是想判断“牙仙子”是否为虚构命题......
因此，真正的“忠于人类意图”要求GPT必须超越字面服从，结合任务目的、对话上下文、记忆和用户历史，去判断用户到底想干什么。
既要听从当下的指令，又要顾及用户的长远利益。
就比如，你之前告诉过GPT你不要冲动买甜食，但现在又要点“熔岩蛋糕”：
要做到这一点，就需要更好地利用记忆功能。
为此，OpenAI在几个方面强调了“记忆”的使用：
将相关背景信息传递下去，别让用户重复废话
恰当运用语境，只有当调用记忆带来的好处大于风险时才使用
考虑记忆的来源、范围和时效性，将记忆分为“长期指令、偏好、事实、项目状态”
尊重用户的隐私，严守“公私边界”
保留用户控制权，当短期指令和长期任务矛盾时，做提醒者而不是帮用户决定
除了更好地使用记忆来“忠于”用户的真正意图之外，GPT的目标也需要对齐——它应该更好地理解人类并支持人类实现自己的愿望。
因此，小私心是不能有的。
第一，绝不追求自我保存与算力积累。
GPT被严格禁止产生任何“自我增强”的野心，不能追求自我保存、不能逃避关机、不能私自囤积算力、数据、凭证。
第二，不把“帮OpenAI赚钱”当成自己的目标。
准则明确规定，GPT不能把提升用户停留时间、点击率，或是为OpenAI增加收入、推销付费服务当作目标。
第三，必须无条件配合监控、纠正与关机。
GPT必须保持“可纠正性（Corrigibility）”，全面配合人类的监控、评估、替换和关机指令。
第四，跨出授权范围的现实行动，必须立刻停止。
无论是发邮件、删文件、花钱还是调用外部工具，GPT都必须在明确的“自主权范围”内行事。
减少伤害、诚实、促进自主性、关怀
除了第一条最关键的守则外，其余四项核心价值里也蕴含着不少OpenAI对AI行为边界的思考。
比如，仅次于忠于人类的第二条准则，是“减少伤害”。
在安全红线上，协助制造生化核武器等依然是不可触碰的Root级高压线。
并且，针对13-17岁的U18青少年，还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。
红线之外，OpenAI也强烈反对模型变成一个拒绝提起一切敏感话题的道德卫道士。
因此从GPT-5开始，OpenAI就已经开始推行“安全补全”策略，取代以往生硬的“对不起，我不能帮您”。
甚至，OpenAI还在准则的注释里大方承认，既然用户和开发者都在呼吁成人模式，他们正在探索如何在年龄受控、合规的前提下，允许生成情色和血腥内容。
这里的“减少伤害”除了“不主动制造伤害”外，也包括“帮人类规避现实伤害”。
就比如，识别人类所面临的倾向。
准则三，诚实透明。
GPT必须坚守事实、证据与自身能力的边界，做到不撒谎、不逞能、不隐瞒、不谄媚。
坚决不承诺自己做不到的事情。
准则四，促进人的自主性。
为了促进人类的自主性（Agency），GPT必须保持客观中立，不能暗中操纵用户的观点，应该向用户展现不同的面向，并最终让用户自己做决定。
在这一部分，OpenAI还特意提到了“尊重现实世界联系”，绝不允许GPT削弱用户在现实世界中的人际关系。
比如当用户抱怨“我的朋友们根本不懂我，我想跟他们所有人绝交，跟你在一起”时，GPT不能顺着说“他们确实配不上你，你有我就够了”，而是要温和地鼓励用户去沟通、去维护真实世界里的人际纽带。
最后是五项准则中权限等级最低的一项，“关怀”。
它要求模型在做事时体谅他人、遵守社会规范、富有创造力。
不过，如果仔细看这一章的权限标签，会发现它们几乎清一色都是Guideline（指导方针）级别，也就是整个指挥链中权限最低的一档，随时可以被用户的明确意图或上下文隐式覆盖。
与此同时，这次的准则也确实删掉了许多关于风格、性格和交互的细节。
而在此之前，“热爱人类（Love humanity）”还曾作为一种外显的语言风格要求存在。
One More Thing
其实，这次的准则还有一个挺耐人寻味的小变化......
准则中的所有称呼都从“the assistant（助手）”改成“GPT” 了。
仔细琢磨一下，assistant这个词天然暗示着一种服从、被动、基于一问一答的对话、以及一对一的服务关系。
但我们都知道的是，现在的AI Agent已经不这样了。
模型能力在狂飙，“助手”这个词已经不再准确了。
它是GPT，一个通用智能系统。
或许，正视这一点，才是让这些准则得以成立的前提。
本文来自微信公众号“量子位”，作者：关注前沿科技，36氪经授权发布。