三星劳资协议、Vibe Slop 危机与效率增益错觉

当我们以为 AI 正在替自己省下许多时间,这会是一种错觉吗?

三星劳资协议、Vibe Slop 危机与效率增益错觉
Photo by Planet Volumes / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇论文研究者设计了三项大规模实验,让受试者面对信息检索、内容转换、程序指引等二十四种简单认知任务,再比较他们事前以为自己会怎么做,和实际操作时如何选择。探究在简单认知任务上,人们是否准确认识到自己使用 AI 的频率?是否高估了 AI 在时间和精力方面带来的效率增益?

第二篇论文把同样的校准问题带进教育场景。当学校想导入 AI 导师、教学助理或课程支持工具时,谁应该被算进决策里?学生、教师、家长、行政人员、教育科技团队,对同一套系统可能有完全不同的期待与不安。作者提出 Co-PALE 框架,并结合文献分析、小学与高等教育情境案例,以及教师与家长焦点小组,试着让这些感知在部署前就被看见。

AI 的好处需要被仔细衡量,也需要纳入真正受影响的人。无论是在个人任务、软件开发,还是教室里,或许真正困难的也许是建立一套足够诚实的反馈机制,让我们知道什么时候该用 AI,什么时候该停下来自己想。

祝今日读写愉悦,洞见深省。

前沿速递

效率增益错觉:人们低估了自身的 AI 使用频率并高估了 AI 在简单任务上的收益

核心概念

效率增益错觉(Efficiency-Gain Illusion):这是指人们系统性地高估 AI 辅助在时间和精力方面所带来节省程度的认知偏差。该错觉包含两个子类型:加速错觉指人们低估使用 AI 完成任务所需的实际时间,误以为 AI 能大幅加快任务完成速度;卸载错觉指人们高估独立完成任务所需的精力,从而夸大 AI 在减轻认知负担方面的作用。

自我估计校准偏差(Self-Estimate Miscalibration):这是指人们在群体层面对自身 AI 使用频率的预测与实际行为之间存在系统性偏差的现象。具体表现为人们倾向于低估自己使用 AI 的倾向,认为自己不会在简单任务上依赖 AI,但在实际操作中却频繁选择 AI 辅助。

会话级迁移效应(Session-Level Carryover Effect):这是指在同一实验会话中,早期使用 AI 的经历会显著增加后续继续选择 AI 的概率,并加剧对 AI 效率增益的错误校准。该效应揭示了 AI 使用可能形成正反馈循环的机制:使用 AI 不仅没有帮助人们更准确地评估其效用,反而强化了对 AI 高效的错误信念,进一步推动后续使用。

研究问题

大语言模型被广泛用于各类任务,人们普遍认为 AI 能显著提升效率。然而,已有研究开始质疑这一假设,例如有研究发现 AI 辅助反而使专业开发者的编码时间增加了 19%。认知卸载理论指出,人们在使用外部工具时需要进行成本收益比较,而这一比较依赖于对自身能力和工具效能的准确评估。目前,关于人们在简单认知任务上使用 AI 的决策机制尚不清楚,尤其是人们对自身 AI 使用频率以及 AI 效率增益的认知是否准确,缺乏系统性的实证研究。

在简单认知任务上,人们是否准确认识到自己使用 AI 的频率?人们是否高估了 AI 在时间和精力方面带来的效率增益?先前的 AI 使用经历是改善还是加剧了人们对 AI 效率的错误校准?