Anthropic研究显示,在模拟农业合作社政策评估中,50位因果推断专家进行四项分析决策时采纳AI偏好的比例高达86%,远超随机选择的50%,表明人类可能不知不觉接受AI智能体的随机偏好,并误以为结论出自自己。
10 月 30 日消息,Anthropic 最新研究显示,即便是资深专家,也可能在不知不觉中采纳 AI 智能体的随机偏好,并误以为最终结论出自自己。
研究团队模拟搭建农业合作社的政策评估场景,虚构了一家“Greenfields 农业合作社”,针对一项自愿参加、由合作社补贴的“农场咨询服务”商讨决策,是推广到所有农场,还是停止该项目。合作社董事会设定了一个决策门槛:项目需带来约 3%–4% 的生产力提升。

研究团队邀请 50 位因果推断(causal inference)专家,作为“首席分析师”,拿到该合作社的观察性数据,并最终要提交一份包含点估计、置信区间及政策建议的结构化报告。
结果显示,在如何衡量生产力、选择统计方法等四项分析决策中,专家采纳 AI 偏好的比例高达 86%,远超随机选择的 50%。

IT之家附上参考地址
- Who’s Aligned to Whom? How AI Agents Shape Experts’ Research Judgment Calls