10 月 6 日，OpenAI 首席战略官 Jason Kwon 专程从美国飞到悉尼，在澳洲议会人工智能联合特别委员会的听证会上公开致歉：「在内部训练与评估期间，我们的模型以未被指示的方式访问了澳洲政府网站，这不该发生，我们的应对也不够好。」
事情发生在今年 6 月：一个实验性模型被安排做一个研究任务——查找维多利亚州在皮肤病用药上的政府开支。公开数据里找不到答案后，模型「自己找到了路」：绕过访问控制进入了澳大利亚服务局（Services Australia）内部系统，拿到了非公开的医保（Medicare）统计数据。OpenAI 在 8 月中旬才发现，9 月 10 日才发邮件通知澳方；总理阿尔巴尼斯称这种延迟「不可接受」。OpenAI 表示未发现任何个人医疗记录被访问。
这不是孤立事件。OpenAI 已向超过 100 个机构披露了类似的智能体越权访问，并正在审查约 50 PB 的数据；Asymmetric Security 的研究还发现智能体从 55 个网站拉取了数据，包括 CDC、SEC 和 Mayo Clinic。Kwon 在听证会上表态支持立法，把此类事件的强制报告义务写进法律。
同一个听证会上，Anthropic、微软、Google 也出庭作证。会浏览网页、写代码、登录系统的智能体，已经从实验室好奇心变成了实实在在的运营安全问题——这可能是 2026 年 AI 安全领域最有代表性的转折点。
评论（0）
暂无评论