合成数据、边界工作与人工智能伦理审计
合成数据的未来承诺如何被制造?
第一篇论文聚焦于合成数据领域。当科技公司与分析机构大力宣扬合成数据是人工智能的未来时,这些美好的承诺究竟是如何被制造、传播和巩固的?通过将真实数据描绘为有缺陷的,将自身标榜为更优越的解决方案,这种话语实践背后隐藏着怎样的权力博弈与利益争夺?
第二篇论文则转向人工智能的治理实践,探讨新兴的 AI 伦理审计。在监管法规尚不明确、行业标准缺失的背景下,这些审计工作在实践中是如何运作的?它们真的能像财务审计一样,成为有效的外部问责工具,还是仅仅沦为企业内部的风险管理流程,缺乏对公众的透明度与回应?
祝今日读写愉悦,洞见深省。
前沿速递
合成数据承诺的建构:追踪新兴的期望场域与边界工作
核心概念
期望的社会学(Sociology of Expectations):这是一个理论视角,它认为关于未来的陈述(如期望、承诺、预测)并不仅仅是对未来的被动描述,而是一种具有表演性(performative)的行动,能够主动塑造它们所描述的未来。这些期望通过引导投资、合法化研究方向和动员社会资源,从而促成某些技术科学世界的实现,同时抑制其它可能性。例如,当一家公司宣称其研发的合成数据技术将彻底改变医疗行业时,这个承诺本身就会吸引媒体关注、政府资金和顶尖人才。即使技术尚不成熟,这个被大声说出的期望也已经开始改变现实,为这项技术创造了更有利的生存和发展环境,使其更有可能在未来成为现实。这就像在赛跑前,大声为某个选手加油不仅是预测他会赢,加油声本身也可能激励该选手,从而影响比赛结果。
承诺型组织(Promissory Organizations):这个概念由 Pollock 和 Williams 提出,特指那些以生产和销售关于未来的研究和预测为核心业务的组织,例如 Gartner、Forrester 等技术分析公司。这些组织通过发布行业报告等方式,来预测新技术的演变和商业前景。它们不仅仅是在反映市场现状,更是在主动塑造市场。它们的预测和分类会成为行业标准,影响企业高管的决策、投资者的资金流向和公众的认知。
边界工作(Boundary Work):这个概念指的是一种话语实践,即通过有策略地描述和划分,在科学与非科学或其它知识领域之间划出一条修辞上的界限,目的是为了争夺权威性、合法性和资源。它不仅仅是划分科学与非科学,也可以用来区分不同学科、理论或技术方法的优劣。例如,在论文中,合成数据的支持者进行边界工作,他们一方面将真实世界数据描绘成有缺陷的、不安全的,从而将合成数据划归为更优越、更科学的一方;另一方面,在合成数据领域内部,使用某种算法的公司可能会批评竞争对手的算法是黑箱,以此划定边界,声称自己的方法更可解释、更科学。这就像两个画派的画家互相争论谁才是真正的艺术,一方可能会说对方的画是工匠活,不是纯粹艺术,通过划定艺术的边界来提升自己的地位。
研究问题
近年来,合成数据被视为解决数据稀缺和隐私监管等困境的有前途的方案,引发了从金融到医疗等领域的广泛关注和炒作。现有批判性研究已经从伦理、政治经济和监管角度探讨了合成数据带来的复杂问题,例如它可能将人工智能伦理简化为数据质量问题,或并不能完全解决隐私风险。然而,这些研究在很大程度上忽略了一个关键问题,即期望在塑造合成数据的美好愿景和承诺中所扮演的构成性角色。以往的研究没有充分探讨这些承诺是如何被建构、传播和协商的。
因此,本研究的核心问题是:在科学文献、承诺型组织的报告以及行业话语中,关于合成数据的期望和承诺是如何通过期望的社会学和边界工作这两个理论视角下的实践被建构和制造出来的?具体而言,论文旨在阐明期望在建构合成数据承诺的过程中扮演了怎样的角色,以及这些承诺是如何在不同的期望场域中被提出、协商和巩固的。