前沿速递

从以人为中心到以社会为中心的人工智能：通过颠覆性事件评估 ChatGPT 的影响

核心概念

以人为中心的 AI（Human-centered AI）：在本文的论述中，这特指在机器学习实践中占主导地位的一种狭隘观点，它将评估和设计的焦点完全集中在孤立的个体用户上。其核心是确保 AI 系统对单个用户来说是好用的、安全的、无偏见的，主要通过收集用户反馈、进行性能测试、消除内容毒性等技术手段来实现。这种方法假设通过优化个体体验就能实现社会福祉，但它系统性地忽视了用户所处的社会环境、群体关系和制度背景。举例来说，用这种视角设计一把新锤子，设计师会找一个木匠测试，确保锤子握着舒服、钉钉子快、不会砸到手。这把锤子对这个木匠个人来说是完美的。但这种视角不会去问，当所有木匠都用上这种新锤子后，会发生什么？会不会导致那些买不起或学不会用新锤子的老木匠失业？它的敲击声会不会对整个工地的噪音标准和工人间的交流造成影响？

以社会为中心的 AI（Social-centered AI）：这是本文提倡的一种新的评估和设计范式，它主张将分析的重心从个体用户转移到社会群体、组织机构以及它们背后的规范和实践。它不仅关心人机交互，更关心 AI 的引入如何改变人与人、人与制度之间的关系，并特别关注技术带来的利益和损害是否在不同社会群体间被公平地分配。举例来说，还是设计新锤子的例子，采用以社会为中心的视角，设计师不仅会找一个木匠测试，还会去整个建筑工地进行田野调查。他会观察：新锤子是如何改变工人们的协作流程的？是所有工人都能用上，还是只有少数精英工匠能用，从而拉大了贫富差距？工地的安全规定是否因此需要修改？它是否颠覆了传统木工的师徒传承体系？这种方法着眼于一个工具如何在一个真实的社会系统（工地）中重新塑造权力关系、工作流程和文化规范，从而进行更全面、更负责任的影响评估。

颠覆性事件（Disruptive Events）：在本文中，这指的是由新技术的引入所引发的，对社会产生重大影响，且其后果在不同人群中分布不均的特定事件或现象。其核心特征在于，新技术的出现使得人们过去赖以处理特定事务的常规制度化手段突然失灵或不再适用，从而迫使相关的社会群体和组织机构仓促地进行调整和适应。举例来说，想象一个过去完全依赖本地报纸获取信息的小镇。突然有一天，ChatGPT 普及了，人人都可以通过它获取信息。这就是一个颠覆性事件。本地报纸可能因此倒闭；镇长过去通过报纸发布公告的渠道失效了，同时还要应对 AI 生成的、关于他的谣言；邻里之间通过聊天交换本地新闻的传统也被削弱了。这个颠覆性事件的重点不在于多了一个新工具，而在于它如何打破了小镇原有的社会运转系统（媒体、政府沟通、社区关系），并给不同的人（报社老板、镇长、普通居民）带来了完全不同的、不平等的挑战和冲击。

研究问题

大型语言模型如 ChatGPT 的问世，已在全球范围内产生广泛的文化和社会影响。然而，机器学习研究界对其影响的评估，大多沿用传统的以人为中心（human-centered）框架，主要关注个体用户的体验，如模型的性能表现、输出的偏见、毒性以及幻觉等问题。这种评估方法倾向于将用户视为孤立的个体，并假设只要解决了对个体的危害，就能保障社会整体的福祉。这种个人主义的视角，遮蔽了技术对社会群体、组织机构及其互动规范等更宏观层面的二阶效应和系统性影响，形成了一个关键的研究空白。

因此，本文旨在回答以下核心问题：我们应如何超越当前主流的、以个体为单位的以人为中心框架，来更全面地评估像 ChatGPT 这类社会规模（societal-scale）技术的真正影响？一个以社会为中心（social-centered）的评估框架应该包含哪些要素，它如何帮助我们理解和应对 AI 对法律、教育、工作等社会领域的规范和实践所带来的颠覆性冲击？开发者和研究者可以采取哪些具体、可行的措施，将这种以社会为中心的思维融入 AI 的开发与部署流程中？