治理导向、因果角色与混合智能

人在回路中、人在回路外,这两者区别在哪?

治理导向、因果角色与混合智能
Photo by Dan Begel / Unsplash
💡
本期前沿速递分享了两篇论文。生成式 AI 正在改变开源协作的游戏规则。当任何人都能用 AI 快速产出看起来完整的代码并提交 PR,审查成本却丝毫没降,这种不对称让维护者的压力急剧攀升。

第一篇论文梳理了 67 个高知名度开源项目的治理文件,我觉得蛮有意思的是,开源社区走出了三条截然不同的路,这些策略背后的判断逻辑差在哪?有些项目为什么甚至选择搬离 GitHub?

第二篇论文处理的问题更根本一些。人在回路中这说法我们都常听到,但它在不同学科里其实各有各的意思。两位作者从因果结构切入,提出一个核心区分:人到底是决策链上不可少的一环,还是站在外面随时可以喊停的监督者?对关心 AI 人机交互的读者来说,这套因果分类法蛮值得细读,很清晰。

祝今日读写愉悦,洞见深省。

前沿速递

超越禁令:开源软件社区中生成式 AI 治理的初步探索

核心概念

治理导向(Governance Orientations):这指的是开源社区在面对生成式 AI 带来的治理问题时,所形成的更高层次的判断框架和核心逻辑,它决定了社区如何定义问题、划分风险和分配责任。它并非静态的标签,而是三种不同的问题处理思路:禁止主义、边界与问责、质量优先。

生成与审查的不对称性(Asymmetry between Generation and Review):这指的是生成式 AI 极大地降低了创建和提交代码、文档等贡献内容的成本和时间,但审查、验证、理解和集成这些贡献所需的人力成本和时间却没有相应减少,甚至可能增加,从而导致两者之间出现严重的失衡。

研究问题

生成式人工智能正深度重塑开源软件(OSS)的协作模式,其不仅能辅助编码,还日益参与到拉取请求、代码审查等环节。然而,这种低成本、高速度的内容生成能力给项目维护者带来了巨大的审查和维护压力,打破了贡献生成与审查之间的成本平衡,甚至引发了社区混乱。以往的研究分别探讨了 GenAI 的技术能力、对开发者生产力的影响以及传统的 OSS 贡献管理机制,但未能系统地将这几方面结合起来,缺乏对 OSS 社区如何具体应对和治理 GenAI 生成内容的系统性理解。

面对 GenAI 带来的机遇与挑战,开源软件社区在贡献工作流中具体产生了哪些担忧?为了应对这些担忧,社区又发展出了哪些不同的治理方法、核心导向和具体策略来管理 GenAI 辅助的贡献?