AI 内容禁令、贡献效率与群规治理

禁用 AI 后,人类问答社区会变好吗?

AI 内容禁令、贡献效率与群规治理
Photo by Annie Spratt / Unsplash
📑
本期前沿速递分享了两篇论文。

ChatGPT 出现后,很多问答社区先遇到的不是效率问题,而是信任问题。Stack Exchange 上有些社区开始禁用 AI 生成内容,看起来是在守住人类回答的质量边界。可一旦把 AI 从回答流程中拿走,用户还会不会继续提问?回答者又能不能维持原来的回应速度?第一篇论文把 15 个实施禁令的社区和 85 个未实施禁令的社区放在一起比较,追问 AI 内容禁令在知识寻求、知识贡献和贡献效率之间造成了怎样的张力?

第二篇论文的场景更日常。WhatsApp 群组没有平台级内容审核,很多秩序维护都压在版主身上。研究者请 20 位印度 WhatsApp 群组版主使用 Meta AI 练习制定群规,又向他们展示了六个 AI 辅助治理原型。那么什么样的群规可以交给 AI 起草,什么样的判断必须留给人?在家庭群、社区群、大学群这些关系密度不同的空间里,规则不是几条文字而已,它会牵动信任、面子、安全和文化语境。

祝今日读写愉悦,洞见深省。

前沿速递

禁用生成式 AI 对在线问答社区的双刃剑效应:来自 Stack Exchange 的证据

核心概念

知识寻求(Knowledge seeking):这指的是个体在遇到知识障碍或信息需求时,主动通过媒介、系统或社交平台寻找、获取并筛选信息的行为。在在线问答社区中,知识寻求通常表现为用户撰写并发布具体问题;其活跃度同时受到平台内容质量、反馈速度、界面便利性和人际互动预期的影响。

知识贡献(Knowledge contribution):这指的是个体在组织、社群或数字平台中,把自己的专业知识、经验、技能或见解分享给他人,以共同建设公共知识库,或帮助他人解决问题。在网络知识分享场景中,它主要表现为撰写并提交回答。知识贡献既受到内部动机的影响,也受到知识生产成本的制约。

贡献效率(Contribution efficiency):这指的是知识共享系统在解决用户问题时的速度、及时性与有效性程度。在在线问答平台中,它通常通过提问在预期或标准时间窗口内获得满意且获得认可的解答的比例来衡量。高贡献效率意味着系统能快速将提问与合适的专家匹配并产出高质量答案;当创作工具受限或任务复杂性增加导致人类付出的时间成本上升时,贡献效率往往会面临下降压力。

社会技术视角(Socio-technical perspective):这指的是一种将组织、平台或信息系统视为技术系统(包括工具、算法、硬件和结构流程)与社会系统(包括人类行为、社交互动、组织文化和行为规范)紧密交织、共同演进的研究范式。该视角主张,任何技术工具的引入或政策干预,其效果都不能单从技术效率来评估,而必须考察其如何重塑人类的社会交往、社会需求满足以及行为规范的调适,价值创造来自社会要素与技术要素之间的协同匹配。

研究问题

随着大语言模型的普及,传统的在线问答社区面临着 AI 生成内容涌入带来的信任与质量挑战。然而,既有关于 AI 对知识平台影响的研究,大多只关注用户参与数量的变化,忽视了知识解答效率及其系统性权衡;研究样本也多局限于编程类社区,未能充分揭示不同学科领域之间的差异。此外,单纯从供需角度解释人机交互,也难以说明外部 AI 系统的信息可靠度与人类社交需求如何共同决定了人类平台的比较优势。

因此,这篇论文的研究问题是:在问答社区中,禁用生成式人工智能内容对用户的知识寻求行为有何影响?该禁令对用户的知识贡献行为以及社区整体的贡献效率有何影响?驱动这些观察到效应的潜在机制如何从社会技术视角进行阐释?