前沿速递

人工智能发展责任的分配：专家观点

核心概念

前瞻性责任（Forward-looking responsibility）：这个概念指的是一种道德义务，其核心是确保某个理想的未来状态得以实现，而不是追究过去已发生的错误。它关注的是「谁有责任去引导未来」，而非「谁该为过去的错误受责备」。例如，对于一个城市计划部署的人工智能交通管理系统，与其在系统造成拥堵或歧视后追究设计师的责任（这是后顾性责任），前瞻性责任要求市政府、技术供应商和社区领袖在部署前就承担起责任，共同确保系统设计得公平、安全，不会对任何群体造成不利影响。它强调的是预防和引导的义务。

多人之手问题（The problem of many hands）：这个概念描述的是这样一种情境：一个负面结果是由许多人共同行动造成的，但其中任何单个人的行为都不足以单独导致这个结果。这使得将责任明确归于某一个人或实体变得极为困难，因为责任被高度分散了。例如，一个有偏见的人工智能模型，其偏见可能源于数据采集员收集了有偏见的数据，工程师选择了特定的算法，项目经理设定了不切实际的期限导致测试不充分，以及用户与系统的不当互动。在这个链条中，每个人都只贡献了一部分，难以找出罪魁祸首，从而为问责带来了巨大挑战。

能力原则（Ability principle）：这是分配责任的一项重要原则，主张责任应当分配给最有能力履行该责任的行动者。这里的「能力」可以指技术知识、经济实力、政治影响力或组织资源等。这个原则的出发点是效率和效果，因为它确保了任务被交给了最有可能完成它的人。例如，在确保人工智能安全这一宏大任务上，根据能力原则，谷歌、微软等科技巨头和主要国家的政府监管机构，就比一个小型创业公司或普通个人用户负有更大的责任，因为它们拥有无与伦比的资源和影响力去进行大规模的安全研究、测试和监管。

研究问题

人工智能技术发展迅猛，带来了巨大潜力的同时也伴随着安全和民主方面的风险。为了引导其良性发展，责任分配至关重要。现有研究主要分为两大阵营：一是人工智能治理，关注管理过程与制度；二是人工智能伦理，关注技术本身的规范性问题。然而，这两个领域之间缺乏充分对话，特别是对于那些在实践中对人工智能发展具有影响力的专家们，他们自身如何看待和思考责任分配的问题，目前尚缺乏深入的理解。

因此，本研究的核心问题是：在人工智能发展中扮演不同角色的专家们，是如何思考为了保障安全与民主而进行的「前瞻性责任」分配的？他们认为哪些行动者应该承担何种道德义务，以引导人工智能朝着安全和民主的方向发展，其背后的理由又是什么？