据 Politico 报道，Anthropic 正在向国会议员推介一份 AI 安全法案草案，提出在特定情形下可阻止 AI 模型发布。草案设定的触发条件是“可预见的、迫在眉睫的风险”：可能导致 50 人以上死亡，或造成超过 10 亿美元财产损失，且灾难性风险须源于生物武器的制造或释放、模型摆脱开发者控制或网络攻击。这一阈值与加州刚通过的 SB 53 法案类似。

草案提议由在美国商务部注册的“独立评估员”评估模型的灾难潜力，评估员可由 AI 实验室付费，但报酬不得与评估结果挂钩；一旦评估员认定存在迫在眉睫的灾难性风险，须在 72 小时内通报商务部，由商务部向华盛顿特区法官申请叫停模型发布，且明文禁止任何联邦机构自行叫停。Anthropic 发言人向 Politico 确认了草案，称这是其自 6 月以来一直在向联邦与州议员倡导的“先进 AI 框架”提案。值得注意的是，英伟达 CEO 黄仁勋近期则公开主张 AI 行业根本不需要新法律，两派立场形成鲜明对比。

消息来源

• TechCrunch