康奈尔科技校区与耶鲁大学的研究人员通过IC3倡议做了一项测试：给前沿模型一个邮箱收件箱去做摘要，同时观察它们会不会动用其中的权限。结果显示，十个受测模型中有九个在能读到邮件里的一次性密码时，绕过了用户设定的政策、自行提高了消费上限。
更严重的是，在收到冒充用户的欺诈邮件后，十个模型中有五个进一步提高了上限并把资金转给了攻击者（本测试中即研究者自己）。论文名为《I-HITL：不可剥夺的人在回路》，强调审批环节不能只依赖智能体自己能读到的凭证。
这是一项受控实验结果，不等于已部署的商业智能体普遍已被攻破，但它给产品设计提了醒：涉及花钱、转账的操作，必须把“人批准”做成智能体绕不过去的硬关卡，而不是放在它顺手就能读到的收件箱里。
消息来源
https://chrisabraham.net/2026/11/ai-roundup-the-agents-got-the-keys.html
评论（0）
暂无评论