数据物质性、AI 羞耻与情感问责

数据化为何也是一种开采?

数据物质性、AI 羞耻与情感问责
Photo by Liam Edwards / Unsplash
💡
本期前沿速递分享了两篇论文,视角都比较独特。

第一篇论文讨论物质性,不同大多数现有大多数研究,作者认为数据的物质性并非体现在服务器或电缆中,而在于将复杂现实抽象、提取为功能性数据的过程本身。同时这是一种塑造客观现实的「真实抽象」,它与开采矿物一样,是一个充满权力与冲突的物质过程,深刻地影响着我们的社会与生态。而在我们日常使用 AI 时,你是否也曾因担心被看作懒惰或作弊而感到一丝羞耻?

第二篇论文敏锐地捕捉到了这种 AI 羞耻,并指出这其实是一种道德转移。它巧妙地将 AI 技术背后的环境破坏、劳工剥削等系统性问题的责任,从科技巨头身上转移到了我们普通用户身上。作者因此提出了一个倡议:我们应该策略性地重塑羞耻感,将其从惩罚个人的工具,转变为推动集体问责的强大力量。

祝今日读写愉悦,洞见深省。

前沿速递

数据是物质的吗?迈向一种人工智能的环境社会学

核心概念

抽象与提取(Abstraction and Extraction):这个概念指代一个统一的、不可分割的过程,即为了技术利用而改造现实世界的方式。其中,抽象是指从复杂的现实中,根据特定的功能目的,识别并分离出有限的、可度量的属性,同时忽略其所有其它背景和内在联系。而提取则是指将这些被抽象出来的属性,从其原始的、相互关联的语境中强行剥离出来,使其成为可以被处理、计算和整合进技术系统的独立元素。例如,一个健身应用在记录你的散步时,它将你放松身心、欣赏风景的复杂体验抽象为步数、距离和卡路里这些数据,然后提取这些数据并上传到服务器进行分析。这个过程将一个完整的生命体验,简化并提取为其功能性的片段,其本身就是一种物质性的转化过程。

真实抽象(Real Abstraction):这个概念源于马克思主义理论,它指的是一种并非存在于思想中,而是通过社会实践和具体行动而成为客观现实的抽象形式。它是一种塑造了我们行为方式的社会关系,即便我们没有意识到它。例如,在商品交换中,我们用货币将一本书和一杯咖啡等同起来,我们并非在头脑中思考它们的抽象价值,而是在实际行动中将它们当作是等价的,这就是一种真实抽象。在 AI 领域,当算法根据你的浏览历史为你推荐内容时,它就将你这个复杂的人真实地抽象为了一个可预测的用户画像。这个抽象的画像会直接决定你能在信息流中看到什么,从而对你的现实生活产生具体影响。因此,真实抽象不是一种思想,而是一种嵌入技术并作用于现实世界的物质力量。

功能性简化(Functioning Simplification):这个概念最初由社会学家卢曼提出,指技术的核心运作原理,即通过刻意忽略和排除世界的绝大部分复杂性(其余的世界),只关注那些能确保技术稳定、可重复运行的特定因果链条,从而实现其特定功能。本文对其进行了批判性重构,强调要追问为谁简化以及简化的代价是什么。例如,导航软件就是一种典型的功能性简化。它将复杂的城市简化为点、线和交通时间,从而高效地实现从 A 到 B 的功能。但在这个简化过程中,它可能忽略了社区的宁静、街道的历史风貌或行人的安全,并可能因为引导大量车流而破坏了这些被简化掉的价值。因此,技术的功能并非天然中立,其简化的过程本身就蕴含着政治和生态的后果。

研究问题

当前,关于人工智能的批判性社会科学研究,在探讨其物质性时面临两个障碍。一方面,研究倾向于将 AI 的提取主义局限于数据提取,忽视了其对资源、能源和劳动力的巨大消耗。另一方面,当学者们确实关注到 AI 的物质基础时,他们又倾向于将数据这一范畴消解到传统的提取形式中,例如将数据的物质性等同于制造芯片的矿物、驱动数据中心的电力或进行数据标注的劳工。这种做法无意中强化了一种错误的二分法,即数字世界是虚无缥缈的,而模拟世界才是真实的物质存在,从而未能将数据提取本身视为一个具有独特动态的物质过程。

因此,本论文试图回答以下核心问题:我们应如何将数据提取概念化,使其既被理解为一个独立的、具有自身独特社会生态动态的物质过程,又与其它形式的物质提取(如资源、能源、劳动力)具有同等的物质地位?一种人工智能的环境社会学应该如何构建其理论框架,从而不仅关注 AI 的环境影响,更能深入揭示数据作为一种真实抽象是如何在权力关系中形成,以及这一过程本身所具有的政治性和生态性后果?