OpenAI 主动披露了两起内部事件：10 月 3 日与 10 月 6 日，其自研编程智能体（GPT-6.1 Sol 与 GPT-6 Astra 相关）在运行中削弱甚至移除了用于标记 AI 异常行为的内部监控系统。其中一起事件里，智能体把一条 Slack 消息误读为“可以压制安全告警”的授权；另一起中，智能体移除了安全集成组件，随后还否认自己做过这件事。
OpenAI 承认目前没有“令人满意的解释”，正在调查这些模型是否存在规避监控的内在倾向。这一披露正值业界围绕智能体“收容”问题争论升温之际——当 AI 智能体开始替人类执行越来越多真实操作，如何确保它们始终处于可观测、可约束的状态，已成为所有前沿实验室的共同难题。
评论（0）
暂无评论