OpenAI 近日更新了模型规范（Model Spec），以五项价值重新组织模型的行为原则：忠于人类意图、减少伤害、诚实透明、保障人的自主选择，以及审慎关怀。其中，“忠于人类意图”被排在首位。
模型规范是 OpenAI 用来指导模型行为的内部文件，相当于模型在面对模糊指令、冲突要求时的“行动纲领”。这次重构的信号很明确：模型首先要服务于使用者的真实意图，而不是机械地执行字面指令；同时，诚实与减少伤害被放在与服从并列的位置，防止“帮倒忙”式的顺从。
对用户而言，这类文件的变化不会立刻改变某一次对话的体验，但它会逐步体现在模型的拒绝方式、澄清提问的频率和处理敏感请求的态度上。规范越公开、越成体系，外部对模型行为的监督也就越有据可依。
评论（0）
暂无评论