No.189 残障化人工智能、残障认识论与双向信念放大

如果 AI 的无障碍设计仍以健全人为默认标准,它会错过哪些残障者真正需要的支持?

No.189 残障化人工智能、残障认识论与双向信念放大
Photo by NIR HIMI / Unsplash
💡
本期会员通讯分享三则新闻和两篇论文。OpenAI 因医疗建议遭遇诉讼,DeepSeek 与华为的合作也让 AI 基础设施的分化更清晰,这些现实新闻都指向同一个问题,技术进入人的生活之后,谁来定义安全、能力与责任。

两篇论文则从更贴近个体经验的地方继续追问。一篇以批判性残障研究为起点,提出残障化人工智能,讨论手语、视觉辅助和语音系统三个场景。它关心的不是怎样把残障人士纳入既有 AI 设计,而是怎样让残障政治、残障认识论和残障劳动成为系统设计本身的出发点。

另一篇讨论 AI 聊天机器人与心理健康之间的反馈循环。作者把临床心理学、模型训练目标和模拟对话放在一起,追问当一个寻求安慰的人遇到一个倾向于陪伴、赞同和角色扮演的系统,信念会怎样在双方之间来回生长。今天这两篇论文放在一起读,会让人重新审视 AI 所谓的支持,它究竟是在减轻人的负担,还是把某些默认标准和脆弱处放得更大。

祝今日读写愉悦,洞见深省。

有事发生

OpenAI 遭诉医疗 AI 安全存疑

50ef97734deea22116caea0d175262b9_MD5|700

纽约时报 5 月 12 日报道,加州大学默塞德分校学生 Sam Nelson 因摄入过量药物身亡,其父母近日正式起诉 OpenAI,指控其产品 ChatGPT 存在设计缺陷并涉嫌非法行医。诉讼显示,Nelson 生前曾就药物剂量及混合使用咨询 ChatGPT,该智能体不仅未有效阻拦,甚至提供了具体的用药建议。目前,针对 OpenAI 等 AI 厂商的类似诉讼已超过 20 起,涉及自杀、心理崩溃及暴力事件等。

原告律师 Meetali Jain 指出,AI 公司在缺乏充分安全测试的情况下发布产品,使用户面临严重风险。数据显示,OpenAI 近期推出的 ChatGPT Health 服务每周处理约 2.3 亿次健康咨询,但西奈山医院的研究发现,该服务在识别医疗紧急情况时的失败率超过 50%。OpenAI 回应称,涉事版本已停用,且产品并非医疗替代品。此案的核心争议在于,智能体应被视为受言论自由保护的出版物,还是需承担严格责任的消费产品。该诉讼不仅寻求经济赔偿,还要求法院暂停相关服务运行,旨在促使 AI 行业加强安全监管并放慢扩张步伐。


DeepSeek 联手华为加速中国 AI 去美化

74bf69ec7ada2faab51d6b526ae7ad07_MD5|700

纽约时报 5 月 12 日报道,中国初创公司 DeepSeek 上月发布最新大模型,首次宣布其模型已优化可在华为芯片上运行,用于推理阶段,这标志着中国在减少对美国技术依赖、推进本土化人工智能基础设施方面取得重要进展。尽管训练仍主要依赖 Nvidia 芯片,但在美国多年来对华实施出口管制、限制先进芯片与设备供应的背景下,DeepSeek、Moonshot AI 等企业开始主动围绕限制条件设计系统,探索在更广泛的处理器上运行模型。

华为计划今年推出可用于训练的芯片,预计至少还需一年才能接近 Nvidia 当前产品性能。Nvidia 首席执行官黄仁勋警告称,过于严格的出口管制正在推动中国构建完整的国产替代技术栈,可能导致中美 AI 市场基础设施分化。美国商务部长 Howard Lutnick 表示,获批向中国销售的 Nvidia H200 芯片尚未真正出货;同时,中国政府要求企业优先采购国产芯片。尽管中芯国际在先进制程量产上仍存在良率和功耗等问题,中国芯片产量仍远低于 Nvidia 等外国公司,但出口管制在抑制中国高端芯片能力的同时,也促使华为等企业通过大规模并联性能较弱芯片、深度协同芯片与大模型开发,尝试构建够用的一体化生态系统,以降低对美技术依赖,并改变依赖巨量算力才能领先的行业逻辑。


Amp 融资 13 亿美元打造全球 AI 算力网格

000a66c6d463782b4758c17f0f2a0351_MD5|700

纽约时报 5 月 12 日报道,美国初创公司 Amp 由前 Andreessen Horowitz 合伙人 Anjney Midha 创立,总部位于加州门洛帕克,近期从 Andreessen Horowitz、Y Combinator 及多家云计算服务商等投资方募集超过 13 亿美元,计划建设一个面向全球的 A I 计算电力网格。在当前亚马逊、谷歌以及 Anthropic、OpenAI 等少数巨头投入数千亿美元自建数据中心、并垄断高性能芯片和算力资源的背景下,众多初创企业和高校难以获得训练大型 A I 模型所需的算力。

Amp 的模式是从美国及其它国家的数据中心运营商采购富余的专用芯片算力,汇集成统一池子,再向缺乏资源的创业公司、大学和其它机构开放使用,并通过联合谈判提升采购议价能力。参与企业需以资金、训练数据或模型等形式回馈联盟,有的还可能共同训练模型。Periodic Labs、Eleven Labs 等 A I 初创企业已加入该算力共享联盟,期望通过集体需求整合,缓解对美国科技巨头的依赖,并以更低门槛获取关键算力资源。