前沿速递

开源软件中的负责任人工智能：协调创新与风险评估及披露

核心概念

模型卡片（Model Cards）：这指的是一种标准化的文档框架，用于记录人工智能模型的关键信息，包括模型的预期用途、局限性、性能评估结果以及潜在的伦理风险。它让用户在使用模型之前，能够清楚地了解这个模型能做什么、不能做什么，以及使用它可能带来的后果，从而做出更安全的决策。

研究问题

人工智能技术的快速发展使得开源软件成为了创新的核心驱动力，但随之而来的数据偏见、滥用风险和算法局限性也引发了广泛的伦理担忧。尽管学术界和监管机构呼吁加强模型审计和文档记录，但在去中心化、缺乏强制标准的开源社区中，这些负责任的开发实践落实情况参差不齐。以往的研究多关注模型卡片的普及度，但鲜有研究深入探讨模型评估行为本身是否能促进更负责任的文档记录，以及在以性能为导向的竞争环境下，创新与责任之间是否存在冲突。

基于此，本文提出了以下两个主要的研究问题：风险和局限性的文档记录与模型评估之间有何关系？具体而言，那些对自己模型进行了性能评估的开发者，是否也会更主动地记录模型的风险、偏差和局限性？另外在竞争激烈的排行榜上名列前茅的模型，是否展现出了更高的问责标准和透明度？