前沿速递

问责制的死亡地带：为什么机器学习研究中的社会主张应该被清晰阐述和辩护

核心概念

社会主张（Social Claims）：指的是机器学习研究论文中，描述其新方法或技术具有潜在社会效益或功能的语言。这些主张往往是为了给研究争取资源和影响力，但通常只用模型性能等数值指标来支撑，缺乏现实世界的证据。例如，一篇关于人脸识别模型的论文声称其技术可以为身份验证提供「便捷、无干扰的途径」，这就是一个社会主张。这个主张暗示了技术的社会价值，但当这项技术在现实中因错误识别导致无辜者被捕时，其宣称的「便捷」不仅没有实现，反而造成了严重的社会伤害，暴露了该主张的空洞。

问责制的死亡地带（Dead Zone of Accountability）：是本文提出的一个核心概念，用以描述机器学习研发生态系统中那些抵制严格审查和有效问责的环节，包括研究方法、制度规范、评价指标和权力结构等。这些环节就像一片盲区，使得研究者即使做出了夸大或不实的社会主张，也无需承担责任。例如，当一个机器学习模型造成了现实危害，人们往往只追究部署该技术的公司，而很少追溯到提出该模型并最早做出效益承诺的研究论文。这种对上游科研环节的问责豁免区，就是「问责制的死亡地带」，它被「科研人员不负责应用」等错误观念和「唯性能指标论」的评价体系共同维护着。

研究问题

机器学习领域的学术研究普遍存在过度宣传的现象，研究人员在论文中常常声称其模型能够带来巨大的社会效益，但这些承诺在现实应用中往往落空，甚至引发了诸多社会危害，如算法偏见、错误逮捕等事件。现有的 AI 伦理和问责研究大多集中在技术部署后的「下游」环节，例如对已上线系统进行审计或监管，却很少关注问题源头的「上游」环节——即在科研阶段被提出的、未经证实的社会主张。这种对知识生产过程的问责缺失，形成了一个研究空白。

鉴于机器学习研究中的社会主张与现实之间存在显著差距，且缺乏相应的问责机制，本文试图回答以下核心问题：为什么在机器学习研究领域，这种对社会主张的问责缺失现象会长期存在并难以改变？造成这种现象的深层认知观念和学科结构性障碍分别是什么？我们应该如何创造条件，来建立新的问责形式，从而要求研究人员必须清晰地阐述并用证据捍卫他们所提出的社会主张？