情境化、权力的殖民性与承诺性技术

全球南方开发者如何看 AI 伤害?

情境化、权力的殖民性与承诺性技术
Photo by Michael Glazier / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇论文讨论 AI 伦理标准为何不能一体适用?当我们谈论 AI 风险时,是否忽略了不同文化和地区的人们,其实正面临着截然不同的困境?技术背后看不见的权力关系,又是如何延续着历史上的不平等?

另一篇论文所提出的「承诺性技术」是对当前 AI 恰到好处的概括。文章讨论我们对 AI 的狂热追捧,究竟是基于事实,还是被精心构建的未来神话所驱动?在那些「即将改变世界」的响亮口号背后,藏着哪些少有人提的经济难题和技术瓶颈?AI 的终点真的是超级智能吗,或者它最终会变得平凡而普通?

祝今日读写愉悦,洞见深省。

前沿速递

理解人工智能与权力:基于全球北方与南方从业者的情境化视角

核心概念

情境化视角(Situated perspectives):这是指知识的生产和理解并非普遍客观,而是深受特定的地理位置、文化传统、社会政治背景以及个人身份的影响。在 AI 伦理研究中,这意味着不能简单地将西方制定的通用标准强加于所有地区,因为不同地区的从业者面临的现实挑战是完全不同的。这就好比我们在设计房屋建造标准时,不能只参考干燥寒冷地区的图纸,而忽略了热带雨林地区对于防潮散热的特殊需求,只有身处特定环境中的人才能提供最切合实际的见解。

权力的殖民性(Coloniality of power):这指的是尽管传统的殖民统治在政治形式上可能已经结束,但其建立的种族等级、劳动分工、资源掠夺模式和知识霸权依然在现代社会结构和技术体系中得以延续。在 AI 领域,这表现为富裕国家利用技术优势,从欠发达地区以极低成本获取数据和劳动力来训练模型,而这些地区却处于依附地位。这就好比过去的殖民者掠夺金银矿产运回宗主国加工,现在的科技巨头掠夺用户数据这一新石油,其背后的剥削逻辑和不平等的权力关系本质上是一致的。

研究问题

目前,人工智能被广泛视为一种变革性技术,但其带来的风险在不同国家和人群中的分布极不均匀,尤其是全球南方国家和弱势群体面临着更大的威胁。然而,现有的 AI 伦理学术研究和治理框架大多反映了全球北方的价值观和优先事项,导致中低收入国家的情境化观点和本土经验被长期忽视。这种认知上的结构性排斥,使得来自这些地区的从业者往往被局限在技术执行的角色,而无法在伦理界定和议程设置上拥有话语权。

基于上述背景,本论文提出了四个核心研究问题:不同地理和文化背景的从业者如何概念化 AI 及其潜在危害?他们如何在缺乏统一标准的流变语境中理解和协商合乎伦理的 AI?他们如何体验和解读全球 AI 生态系统中的权力不对称现象?以及,从业者如何看待 AI 在解决社会挑战中的价值与当地现实条件之间存在的张力?