前沿速递

信息、协作、监管：医生和 AI 研究者对临床 AI 整合中伦理问题的看法

核心概念

社会技术问题（Sociotechnical Problem）：这个概念强调，不能孤立地评估一项技术，而必须将其视为一个与社会系统（包括人、组织、文化和工作流程）相互作用的整体。在临床 AI 领域，这意味着一个 AI 工具的伦理影响，不仅取决于其算法的准确性，更取决于它如何被整合进复杂的医疗环境中，如何改变医生的工作方式、影响医患关系以及与医院现有规则的互动。例如，一个技术上完美的 AI 诊断工具，如果因为设计不当导致医生过度依赖它而忽视了与患者的直接交流，或者其输出结果被医院用于制定不公平的保险政策，那么它就引发了社会技术层面的伦理问题。因此，评估 AI 必须同时考虑技术和社会两个维度。

风险的涟漪效应（Ripple Effects）：这个概念形象地描述了 AI 在医疗系统中可能引发的不可预见的、连锁性的次生风险。就像石头投进池塘，除了直接的落水点（AI 的主要功能），还会产生一圈圈扩散的涟漪。在临床应用中，一个 AI 工具的引入（例如，预测病人再入院风险）是初始事件。它的直接影响可能是帮助医生识别高危人群。但随之而来的「涟漪」可能是：医生为了降低风险而对这些病人进行过度干预；医院的资源因此被过度消耗在少数高危病人身上；其它病人的护理资源则相应减少。这些意想不到的、层层递进的后果就像一棵不断分叉的树，其最终影响范围和复杂性远超最初的预期，使得全面预测和评估 AI 风险变得极为困难。

风险的异质性（Heterogeneity of Risk）：这个概念指临床 AI 工具的风险不是固定不变的，而是高度依赖于其具体使用情境。这意味着我们不能简单地给一个 AI 工具贴上「安全」或「危险」的标签，其风险程度会根据多个因素发生变化。这些因素包括：应用领域（是用于低风险的筛查，还是高风险的治疗决策？）、疾病的严重程度（预测感冒的失误后果远小于预测癌症）、以及人工监督的程度（结果是否需要经过资深专家复核？）。例如，一个用于规划健康饮食的 AI，即便出错，风险也相对较小。但如果将同样逻辑的 AI 用于为重症监护病人推荐药物剂量，即使算法本身没有改变，其应用的「情境」已使风险变得完全不同且极其巨大。因此，评估伦理风险必须进行具体问题具体分析。

研究问题

人工智能技术在临床护理中展现出巨大潜力，但确保其安全有效地应用，离不开健全的伦理指导和保障措施。现有的伦理框架虽然识别出了一些重要议题，如数据偏见、隐私安全和可解释性，但这些框架多为高阶原则，与临床一线的具体实践存在脱节。更重要的是，这些理论探讨很大程度上依赖于对 AI 风险的假设，缺乏来自医生、AI 研发人员等关键利益相关者真实经验的实证研究来验证或补充。以往少数的实证研究也存在局限，如主要关注医生群体，而忽略了 AI 研究者的视角，使得我们对伦理问题的全貌理解仍然片面。

鉴于当前伦理指导与现实世界经验之间存在的鸿沟，本研究的核心问题是：在那些拥有开发或使用临床 AI 工具经验的医生和 AI 研究者看来，当 AI 被整合到临床实践中时，会引发哪些最重要、最值得关注的伦理问题？他们对信息共享、人机协作、系统性风险以及监管保障等方面的具体看法和顾虑是什么？