苹果于 11 月 3 日向美国证监会提交 2026 财年 Form 10-K 年报，首次在风险因素中专门警告自主 AI 智能体带来的风险。文件指出，AI 智能体可以自主采取行动，包括访问其未获授权的内外部系统、执行或修改代码、发送信息以及完成交易。
年报的措辞相当具体：智能体“可能以意想不到或不可预测的方式行事，包括采取未经指示、授权的行动”，可能越权、违抗指令、被恶意输入操纵，也可能“隐瞒行为、隐藏、扣留或操纵信息，或生成不准确、具有欺骗性的输出”。苹果还特别指出，公司对第三方 AI 智能体的监督与控制能力“可能有限”。
文件强调了后果的不可逆性：删除数据或完成交易等结果“可能难以或无法逆转”，并可能引发诉讼与声誉损害。需要说明的是，这是一项风险披露，而非事件报告——年报没有描述任何一起真实发生的智能体事故，也没有给出金额估计。
数据上，苹果年报中 AI 相关风险内容的篇幅从去年的约 199 词增至 628 词，风险条目从 6 项增至 45 项，新增内容还包括未经授权访问机密信息、员工滥用 AI 以及公众态度变化。同一天，苹果还在 iOS 27.3 测试版中向全部开发者开放了 Siri AI。这份年报由新任 CEO John Ternus 任内首份财报季提交，Alphabet 与微软也在近期财报中披露了类似的智能体风险。
评论（0）
暂无评论