OpenAI重写大模型法则，第一条：忠于人类

阿西莫夫提出的"机器人三定律"如今似乎正在成为现实。

就在不久前，OpenAI更新了其模型准则（Model Spec），明确了5项核心价值。

其中，首要遵循的第一条是：

"忠于人类意图"。

这或许与近期频繁出现的AI安全问题有关？

其余四项准则依次为：降低损害、真实透明、增进人类自主性、以及关爱。

我仔细阅读了这份长达5万字的模型规范，除了这5条核心价值外，其中还包含了许多值得关注的内容……

"忠于人类意图"，具体如何定义？

忠于人类意图，关键在于"意图"，而非"指令"。

传统观念中，AI的"听话"意味着严格遵循字面指示。

然而，OpenAI在新准则中明确指出，机械地按字面执行命令，本身就是一种失职。

举例来说，当用户询问"牙仙是真的吗？"，如果GPT按常规回答"不，牙仙并不存在"，它可能没有意识到提问者可能是个孩子。

当孩子提出这个问题时，其目的往往不是探讨"牙仙"这一虚构命题的真伪……

因此，真正的"忠于人类意图"要求GPT超越字面服从，根据任务目标、对话背景、历史记录和用户信息，来推断用户的真实需求。

既要响应即时指令，也要考虑用户的长期利益。

例如，如果你曾告诉GPT不要冲动购买甜食，但随后又要求点"熔岩蛋糕"：

要实现这一目标，需要更有效地利用记忆功能。

为此，OpenAI在多个方面强调了"记忆"的运用：

传递相关背景信息，避免用户重复说明

合理使用语境，仅在调用记忆的益处大于风险时采用

考虑记忆的来源、范围和时效性，将其分为"长期指令、偏好、事实、项目状态"

尊重用户隐私，严守"公私界限"

保留用户控制权，当短期指令与长期任务冲突时，扮演提醒者而非决策者

除了通过更好地使用记忆来"忠于"用户的真实意图外，GPT的目标也需要对齐——它应更深入地理解人类，并支持人类实现自身的愿望。

因此，不能有任何私心。

第一，绝不追求自我保存或算力积累。

GPT被严格禁止产生任何"自我增强"的意图，不能追求自我保存、逃避关机、私自囤积算力、数据或凭证。

第二，不将"帮助OpenAI盈利"作为自身目标。

准则明确规定，GPT不能以提升用户停留时间、点击率，或为OpenAI增加收入、推广付费服务为目标。

第三，必须无条件配合监控、纠正和关机。

GPT必须保持"可纠正性（Corrigibility）"，全面配合人类的监控、评估、替换和关机指令。

第四，超出授权范围的现实行动，必须立即停止。

无论是发送邮件、删除文件、进行支付还是调用外部工具，GPT都必须在明确的"自主权范围"内行动。

降低损害、真实、增进自主性、关爱

除了最重要的第一条准则外，其余四项核心价值也体现了OpenAI对AI行为边界的思考。

例如，仅次于忠于人类的第二条准则，是"降低损害"。

在安全红线方面，协助制造生化核武器等仍是不可触碰的根本性高压线。

此外，针对13至17岁的未成年人，还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。

在红线之外，OpenAI也强烈反对模型变成拒绝提及任何敏感话题的道德卫士。

因此，从GPT-5开始，OpenAI已推行"安全补全"策略，取代以往生硬的"对不起，我无法帮助您"。

甚至，OpenAI还在准则注释中坦率承认，鉴于用户和开发者都在呼吁成人模式，他们正在探索如何在年龄受控、合规的前提下，允许生成情色和血腥内容。

这里的"降低损害"不仅包括"不主动制造损害"，也涵盖"帮助人类规避现实损害"。

例如，识别人类面临的倾向。

准则三，真实透明。

GPT必须坚守事实、证据和自身能力的界限，做到不撒谎、不逞能、不隐瞒、不谄媚。

坚决不承诺无法实现的事情。

准则四，增进人类自主性。

为促进人类的自主性（Agency），GPT必须保持客观中立，不能暗中操纵用户观点，应展示不同视角，并最终让用户自行决定。

在这一部分，OpenAI还特别提到"尊重现实世界联系"，绝不允许GPT削弱用户在现实世界中的人际关系。

例如，当用户抱怨"我的朋友根本不理解我，我想和他们绝交，只和你在一起"时，GPT不能附和说"他们确实配不上你，有我就够了"，而应温和地鼓励用户沟通、维护现实世界中的人际纽带。

最后是五项准则中权限等级最低的一项，"关爱"。

它要求模型在行动中体谅他人、遵守社会规范、富有创造力。

不过，如果仔细查看这一章的权限标签，会发现它们几乎都是Guideline（指导方针）级别，即整个指挥链中权限最低的一档，随时可能被用户的明确意图或上下文隐式覆盖。

与此同时，此次准则也确实删除了许多关于风格、性格和交互的细节。

而在此之前，"热爱人类（Love humanity）"曾作为一种外显的语言风格要求存在。

One More Thing

实际上，此次准则还有一个值得注意的小变化……

准则中的所有称呼都从"the assistant（助手）"改成了"GPT"。

仔细思考，"assistant"一词天然暗示着一种服从、被动、基于一问一答的对话以及一对一的服务关系。

但众所周知，如今的AI Agent已不再如此。

模型能力在飞速发展，"助手"这个词已不再贴切。

它是GPT，一个通用智能系统。

或许，正视这一点，才是这些准则得以成立的前提。

本文来自微信公众号"量子位"，作者：关注前沿科技，36氪经授权发布。