民间理论、社会脚本与没有权力的 AI 主权

把 AI 主权理解为「战略能动性」是否足够?

民间理论、社会脚本与没有权力的 AI 主权
Photo by Minh / Unsplash
📑
本期前沿速递分享了两篇论文。

当聊天机器人变成日常工具,我们很容易以为问题只剩下怎么写提示词。可在真实使用中,人们还会给系统补上一套自己的解释:它从哪里学来答案,它是不是在理解我,它为什么有时像人、有时又像工具。第一篇论文从新加坡 6 场焦点小组、36 名普通用户出发,追问这些民间理论怎样形成,又怎样改变人们和生成式 AI 聊天机器人的互动规范?

AI 主权听起来像国家战略,可真正困难的地方常常藏在云、算力、模型接口和技术标准里。一个国家可以说自己保留选择空间,但如果公共服务依赖外部平台,替代方案在危机中无法启动,主权就会变成很脆弱的承诺。第二篇从托尼·布莱尔全球变化研究所的 AI 主权框架切入,重新追问战略能动性、基础设施权力和数字帝国主义之间的关系,让我们反思没有权力的 AI 主权还算主权吗?

祝今日读写愉悦,洞见深省。

前沿速递

走进黑箱:普通人关于生成式 AI 聊天机器人的民间理论

核心概念

民间理论(Folk theory):指普通人在缺少正式专业知识时,用来解释世界、技术或社会现象的直觉性因果理解。民间理论通常来自个人经验、他人说法、媒体叙事和日常推理,不一定准确,也未必经过科学共同体的系统检验,但会直接影响人的判断和行动。在技术使用中,民间理论可以解释用户为什么相信某个系统会学习自己,为什么认为某个错误意味着系统具有意图,或为什么会改变自己的使用方式。

社会脚本(Social script):指人在熟悉情境中默认采用的一套行动顺序和互动规则。例如,在点餐、上课、面试或向同事求助时,人们通常知道该怎样开口、怎样回应、怎样结束互动。在人机互动中,社会脚本会随用户对系统的理解而变化。用户若把聊天机器人看成工具,可能使用命令式语言;若把它看成对话伙伴,可能期待回应具有礼貌、情绪理解和默契。

拟人化(Anthropomorphism):指人把非人对象理解为具有人的特征、意图、情感或社会角色的倾向。拟人化常出现在人与动物、机器、软件和媒体角色的互动中。自然语言、第一人称表达、礼貌回应和上下文跟随能力,都可能让用户觉得系统像人在思考或交流。拟人化并不意味着用户完全相信机器是人,而是说明人在解释复杂系统时,会借用熟悉的人际经验。

研究问题

生成式 AI 聊天机器人已经成为许多人获取信息、写作和完成任务的工具,但其内部机制并不透明,普通用户很难直接知道它如何学习、如何生成回答,以及为什么会出错。既有研究分别讨论过意识归因、隐喻推理、错误解释和用户态度,但较少把这些理解放在一个整体框架中,考察普通人如何形成、协商和修正自己的民间理论,以及这些理解如何影响后续互动。相比社交媒体推荐算法,生成式 AI 聊天机器人要求用户主动提问、连续对话并调整提示,因此,原有关于算法民间理论的结论不能完全套用。

因此,这篇论文的研究问题是:第一,普通人关于生成式 AI 聊天机器人的民间理论包括哪些内容?第二,普通人如何形成这些民间理论?第三,这些民间理论如何影响他们与生成式 AI 聊天机器人的互动行为和社会脚本?