从非洲未来主义重新思考 AI

边缘群体该如何夺回对于未来的发言权?

从非洲未来主义重新思考 AI
Photo by The National Library of Norway / Unsplash

在关于 AI 的公共讨论中,最常听到的补救方案往往围绕着技术修补展开。比如,当面部识别技术频繁误判深色皮肤的面孔,当招聘算法对少数族裔求职者展现出系统性筛选劣势,主流政策界与科技企业给出的回应通常十分一致:增加训练数据的多样性,消除模型内部的偏见,或者发布一份强调负责任与透明的伦理准则。这种改良方案背后潜藏着一个不言自明的前提:AI 的技术轨迹是不可逆转的历史必然,通向更高算力、更广自动化与更大规模优化的道路不可动摇,我们所能做的,仅仅是让它在这个过程中更温顺和用户体验更好一点。

今天分享的这篇论文,是一项由学者与社区组织者共同推进的探索,她们试图提出一个完全不同的方案。在探讨 AI 影响的系列工作坊中,一位参与者这样描述自身对未来的期待:重启 AI,意味着彻底退回原点,将其清空并重新开始,直到它不再天然损害特定族裔与弱势群体。在这里,「重启」指涉的不是操作系统崩溃后的常规恢复,也不是对既有框架的技术修补,而是否定主导体系对于未来形态的垄断,追问这项技术究竟在为谁建造世界,并在底层逻辑上构想另一种技术存在的可能。这是我们目前亟需的技术想象力。

治理修辞背后

要理解为何渐进式的伦理改良无法化解深层危机,首先需要理解当前 AI 的属性。当代主导的 AI 体系建立在特定的人类经验和世界观之上,这种世界观由加速主义意识形态(accelerationist ideologies)所驱动,将无止境的效率、预测与自动化视为人类发展的最高目标。这种追求并非孤立发生,而是承袭了现代历史上抽取与分类的治理传统。具体而言,它依托于三重相互交织的运转机制:抽象、抽取与效率。

抽象(abstraction)将复杂的社会生活、具身经验与边缘群体的处境强行剥离出原本的语境,将其压缩为离散的数据点,使其成为可被机器计算的对象。在这一过程中,无法被量化的经验与知识形态便被判定为无用或不存在。抽取(extraction)将全球范围内的文化产物、网络行为以及隐形的人类劳动转化为无偿的数字资源,无论是在全球南方承担数据清洗与标注的隐形劳工,还是少数族裔创作者在网络上沉淀的艺术与语言,都在未经实质授权的情况下被吞入训练集。效率(efficiency)则将系统响应的速度与规模置于社会公平与审慎思考之上,技术迭代被不断加速,任何试图减缓这一进程的问责机制都会被视作阻碍创新的阻力。

在这套机制下,对少数群体的伤害并非算法偶尔出现的偏差,而是系统维持高效运转的内在副产物。很多看似追求「包容」的实践,实质上构成了一种区分性包容(discriminatory design),弱势群体被作为数据采集对象和监控目标深度纳入系统,但在决定收益分配等的核心权力结构中却被严格排斥。这种参与并没有带来权力转移,反而强化了不平等的权力支配。因此,仅仅向现有系统中输入更多边缘人群的数据,并不能撼动技术的霸权逻辑,反而可能使掠夺与监控变得更为高效。