AI 自主性、行动边界和过程导向危害分析
开发者何时愿意把决策权交给 AI？
AI 可以帮开发者写代码、跑测试、整理文档。但真正麻烦的问题，是它应该在什么地方停下来。第一篇论文把这个问题拆成两个边界：什么时候 AI 可以从建议者变成产出者，什么时候它又可以从等待批准，变成默认决策和执行。这篇的亮点在于材料来源。作者之一来自微软研究院，因此能够接触微软内部开发者围绕真实任务给出的回应。这种组织内部数据还是比较难得的。
很多 AI 风险评估会从模型或数据集开始：偏差在哪里，性能是否可靠，输出是否安全。第二篇论文换了一个入口，聚焦三个案例，从荷兰早产儿迟发性败血症预警系统、加拿大个性化胰岛素注射系统，以及面向艺术家创作的文本生成图像平台出发，追问风险如何在一个完整系统里被一步步放大。作者借用系统安全工程里的 STPA，提出 PHASE 这套过程导向危害分析方法，帮助我们从控制、反馈与边界的视角来理解风险。附录把这套方法的操作步骤也写得很细致。
祝今日读写愉悦，洞见深省。
前沿速递
你不得越界：开发者在哪里、为何划定 AI 自主性的边界
核心概念
AI 自主性（AI autonomy）：这是指 AI 系统在一项工作中被允许决定和行动的程度。它可以从完全不参与，到只提供建议，再到生成成果并等待人类批准，也可以进一步发展为默认决策和执行，甚至完全自动化。AI 自主性关注的是权力和控制如何在人与机器之间分配，而不只是工具能力本身。例如，同样是生成代码，AI 只给出片段建议、AI 写完整补丁但需人工批准、AI 自动合并补丁，代表不同自主性水平。
行动边界（Action boundary）：这是指 AI 从「提供建议」转向「产生工作成果或执行动作」的控制转移点。在行动边界之前，AI 的输出通常是参考信息，人类仍然亲自完成工作；越过行动边界之后，AI 生成的内容可能成为代码、测试、文档、配置或其它可被复用的工件。这个边界之所以重要，是因为成果一旦进入工作流，就会带来质量、署名、责任和后续维护问题。
决策边界（Decision-making boundary）：这是指 AI 从「生成成果但必须等待人类批准」转向「默认决策和执行，人类只保留否决或监控」的控制转移点。决策边界改变的是最终判断权的位置。越过这条边界后，人类不再逐项批准 AI 的行动，而是更多扮演监督者或例外处理者。这个变化会影响专业判断、责任分配和人是否仍能理解自己需要监督的工作。
认知评价（Cognitive appraisal）：这是指个体对一项任务在心理上的判断，包括它是否重要、是否符合自己的身份和动机、自己是否要对结果负责、任务负荷有多高。认知评价常用于解释人们面对工作压力、选择行动方式和投入程度的差异。在 AI 工作场景中，同一项任务可能因不同人的认知评价而被不同对待：有人把写代码视为专业身份核心，因而不愿放权；有人把同类任务视为高负荷重复劳动，因而更愿交给 AI。
研究问题
既有研究已经讨论开发者为何采用 AI 工具、信任从何而来、哪些软件工程任务更适合自动化，也讨论了开发者希望从 AI 得到什么支持。但这些研究没有充分区分「使用 AI 支持」和「把自主权交给 AI」。接受建议、让 AI 生成成果、让 AI 默认执行决策，是不同层级的控制转移。缺少这一区分，就难以理解 AI 自主性会在何处影响开发者的责任、身份、技能和有意义的工作体验。
因此，这篇论文的研究问题是：第一，开发者在不同软件工程任务中接受到什么程度的 AI 自主性，哪些任务评价和个人特质会预测他们划线的位置？第二，哪些因素会影响开发者让 AI 跨过行动边界，也就是从建议者变成产出者；又有哪些因素会影响开发者让 AI 跨过决策边界，也就是从需要人工批准变成默认替人决策和执行？
