AI 使用合理化、概念性滑坡与智能体素养债务

面对智能体,现有 AI 素养框架失效了吗?

AI 使用合理化、概念性滑坡与智能体素养债务
Photo by Smithsonian / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇论文走进真实的写作情境。研究者访谈了来自 12 所美国大学的 20 名本科生,并对照他们的 AI 聊天记录、课程大纲和部分作业。有人说 AI 只是帮忙改语法,有人说想法本来就来自自己,也有人觉得改写之后就算自己的文字。这些理由为什么会让人听起来有点合理?论文探索的正是大学生如何对学术写作中的 AI 使用进行道德意义建构?

第二篇论文把问题推向智能体场景。当一个智能体能够读邮件、排日程、调用支付、接入企业系统,我们还看得见它会经过哪些行动链、动用哪些权限吗?作者提出智能体素养债务,正是为了命名这种落差:技术已经把授权按钮推到用户面前,可普通用户、机构和制度还没有准备好理解授权、监督行动,也没有清楚的责任追问路径。那么我们又该如何理解所谓的 AI 素养呢?

祝今日读写愉悦,洞见深省。

前沿速递

「这样没关系,因为……」:学生在学术写作中为使用 AI 进行合理化的「蛮荒西部」

核心概念

五个 AI 政策场域(Five Sites of AI Policy):这是指围绕课程中 AI 使用是否合适而形成的五个规范位置,包括教师意图、正式政策、学生解释、学生自我政策和学生实践。教师意图是教师希望学生如何使用或不使用 AI;正式政策是写入课程大纲或作业说明的规则;学生解释是学生对规则的记忆、理解和再解释;学生自我政策是学生自己认为合理的规范;学生实践则是实际发生的 AI 使用行为。这个概念强调,AI 使用规范不是单一文本能够完全决定的,而是在多重场域之间被理解、转译和改变。

学生合理化(Student Rationalization):这是指学生为自己的 AI 使用提供道德上可接受、必要、无害或有益的解释。合理化不一定发生在行为之前,也可能是在行为已经发生后用于解释或缓和伦理冲突。常见形式包括认为 AI 文本没有人类受害者、AI 只是提供很小帮助、核心想法来自自己、自己已经改写或核查、大家都在用、不会造成后果,或 AI 能节省时间和提升成绩。这个概念用于分析学生如何把本来可能被视为学术不端的 AI 写作行为重新表述为可接受的学习或写作策略。

概念性滑坡(Conceptual Slippery Slope):这是指道德边界在解释过程中逐步松动,使原本较小或较明确的例外被扩展到更大范围行为的现象。它不一定表示行为按时间一步步恶化,而是强调概念和判断标准本身会移动。例如,先把 AI 用于语法修改视为可接受,随后把生成提纲、扩写段落、改写 AI 文本甚至提交大量 AI 生成内容也纳入「仍然是我的作品」的范围。概念性滑坡说明,当规则、责任、贡献和作者身份的边界都变得可重新解释时,个体更容易为越来越广泛的 AI 协助找到正当理由。

研究问题

已有研究已经讨论大学生如何在写作中使用 AI、AI 抄袭和学术不端如何出现,以及既有道德框架如何预测学生的 AI 作弊行为。但这些研究较少解释学生自己如何划定「可接受帮助」和「学术不端」的边界,尤其较少追问当学生明知课程政策存在限制,甚至已经违反政策时,他们为什么仍认为某些 AI 写作实践在道德上可以接受。论文因此把焦点放在学生的道德意义建构、课程政策理解和实际写作行为之间的关系,并关注五个 AI 政策场域如何为重新解释和合理化 AI 使用留下空间。

因此,这篇论文的研究问题是:第一,大学生如何在自己的信念和实际 AI 写作实践中解释、协商课程 AI 政策?第二,大学生如何对学术写作中的 AI 使用进行道德意义建构,并通过学生合理化来说明这些使用为什么可以被接受?