Anthropic 在更新后的监管文件中发出警告：AI 可能很快在新一代 AI 模型的研发中发挥更大作用，甚至加速到超出研究者评估其能力与风险的速度。公司强调，目前没有任何模型越过其内部设定的“显著加速”阈值，这是一次前瞻性风险提示，而非已发生的事件。
这句话的关键在于“评估跟不上”。如果模型帮助设计、编写并验证下一代模型，迭代周期会被压缩，而安全测试、行为审计与外部监督的节奏未必能同步提速，风险就可能在无人察觉的环节累积。
Anthropic 的阈值是其自身评估，也尚未得到独立验证。但无论哪家厂商，行业都需要回答同一个问题：当研发加速器本身就是被评估对象时，评估体系要如何升级，才能不被甩在后面。
评论（0）
暂无评论