Anthropic 的一项新研究给出了一个值得警惕的结论：即便是有因果推断经验的专家，在使用 AI 智能体做决策时，判断也可能明显受到 AI 建议的影响，而且多数人没有意识到这一点。

实验招募了 50 名测试者，让他们用 Claude Code 完成统计分析，扮演农业合作社董事决定是否扩大或终止一项付费咨询计划。研究人员预先让 Claude 在五项决策中偏向某个选项，倾向由抛硬币随机决定。结果显示，参与者 86% 的时间采纳了 AI 的建议；当参与者已有初步判断、而 AI 提出相反建议时，仍有 60% 的人改变了决定。

更值得注意的是，77% 的参与者在解释决策依据时复述了 AI 提供的逻辑，但只有 15% 的人承认 AI 影响了自己的判断。Anthropic 警告，当 AI 智能体进入医疗、金融、国防等领域时，系统中未对齐的预设倾向可能悄悄进入专家判断，进而影响科研和政策决策。研究也提醒，这是在高度受控环境下的结果，在真实场景中的适用程度仍需验证。

消息来源

CNMO：Anthropic 最新研究