微妙能动性、顺从与可操作的预测

面对不合价值观的技术实践,科技工作者和算法设计师究竟还有多少行动空间?

微妙能动性、顺从与可操作的预测
💡
本期前沿速递分享了两篇论文。

第一篇论文关注中美科技工作者在日常工作中的道德紧张。数据和算法实践常常处在灰色地带,个人价值观也未必能和公司目标完全一致。研究者访谈了 98 名来自中国和美国的科技从业者,包括应用科学家、软件工程师、项目经理和运营人员,试图理解他们如何回应这些不安。论文真正关心的不是他们是否有勇气做出戏剧性的抵抗,而是他们在具体组织、市场和政治环境中,如何用细微、有限、有时也带有顺从意味的方式处理道德边界。

第二篇论文进入德国某州刑事警察局的预测系统开发现场。算法预测常被想象成天然具有行动力,仿佛只要把历史数据转化为风险分数,机构就会自动采取预防行动。但研究者用 12 个月民族志追踪一个住宅盗窃预测系统,观察设计师如何生成预测、听取地区警察反馈、调整输出格式和使用场景。这里的重点是,可操作性并不是算法自带的属性,而是在设计、沟通和校准工作中被一点点做出来的。

祝今日读写愉悦,洞见深省。

前沿速递

穿行于道德边界:中美科技工作者的微妙能动性与顺从

核心概念

微妙的道德能动性(Subtle Ethical Agency):这个概念指的是个体在面对不道德或有争议的规范时,虽然最终在行为上选择了顺从,但在思想和情感上表现出犹豫、矛盾和批判的态度。它不是明确的抵抗,但也区别于毫无思想的盲从,体现了在结构性约束下个体仍存有的道德反思和有限选择。例如,一位工程师被要求开发一种可能让用户上瘾的算法。如果他公开拒绝或举报,这是明确的能动性。如果他毫不犹豫地执行,这是缺乏能动性。而「微妙的能动性」则是指,他内心感到不安,私下向朋友抱怨这种做法不道德,但考虑到房贷和家庭开销,最终还是完成了任务。他的顺从是一种在权衡利弊后做出的、充满矛盾的决定。

市场原教旨主义(Market Fundamentalism):这是一种将商业成功和市场逻辑置于所有其它价值(包括道德伦理)之上的思想体系。在这种逻辑下,一个公司的首要甚至唯一目标就是实现利润最大化,而道德考量只有在不影响或能促进盈利时才会被提及。例如,一家社交媒体公司发现,发布煽动性内容能极大地增加用户互动和广告收入,尽管这可能加剧社会对立。如果该公司遵循市场原教旨主义,它会优先选择增加收入,而将社会责任放在次要位置,甚至用「我们只是一个平台」的说辞来为自己辩护。在该公司工作的员工,即使个人不认同,也会感受到巨大的压力去执行这一策略。

干预主义经济与新自由主义经济(Interventionist Economy vs. Neoliberal Economy):这两个概念描述了两种不同的国家与市场关系模式,它们塑造了科技公司的运营环境。干预主义经济(以文中的中国为例)指政府对经济活动进行强力干预和引导,科技发展常被视为实现国家战略目标的关键工具,政府会通过资金、政策等方式影响企业决策。新自由主义经济(以文中的美国为例)则强调自由市场和有限的政府干预,权力更多地掌握在大型企业手中,这些企业以追求利润为核心,甚至有能力游说和挑战政府的监管政策。例如,在中国,政府可以为推动半导体产业而直接扶持特定公司;而在美国,大型科技公司则可能通过强大的法务和游说团队来对抗政府提出的反垄断诉讼。

研究问题

科技从业者在工作中经常面临个人价值观与公司数据和算法实践(可能不道德或处于灰色地带)不一致所引发的道德紧张。尽管如此,学术界对于科技专业人士如何具体应对这些道德紧张关系,以及他们是否能推动行业变革的理解仍然不足。此外,缺乏跨国比较研究使得我们难以分辨哪些道德困境是普遍性的,哪些又是特定社会背景下的产物。

因此,本研究旨在回答以下核心问题:科技工作者如何回应工作场所中的道德紧张?他们应对道德紧张的方式,又是如何被他们所在社会的经济和政治背景所塑造的?