Anthropic 宣布，Claude 现在会在每次回答后生成一份简短的安全评估，覆盖全球相当一部分流量。这一机制的目的是在对话进行过程中及时发现风险，而不是等到事后复盘才处理。
据 Anthropic 披露，在内部评估中，这套机制在 Fable 5 测试里识别出了 78% 的、被更强分类器标记的对话，高优先级案例的识别率达到 94%，误报率约 1%，而额外消耗的推理算力不到 2%。这意味着安全检查的成本被控制在较低水平。
把安全评估做进每一次交互，反映出大模型厂商正在把安全从“事后过滤”转向“过程监控”。对用户而言，短期内最直观的变化可能并不明显；但对平台来说，这种持续自查有助于更早拦截高风险对话，也为后续的人工复核提供了线索。当然，评估本身是否准确、会不会误伤正常对话，仍需在真实使用中长期观察。
评论（0）
暂无评论