No.115 人才悖论、功利主义倾向与心理危机处理
当面对处于严重心理危机的用户时,大模型究竟是在提供帮助,还是在不经意间提供了致命的伤害?
第一篇论文研究了大语言模型在处理心理健康危机(参见封面)时的能力和安全性。即使是最好的模型,在面对用户间接的求助信号时也可能提供致命的有害信息。回顾之前发生过许多相关的社会新闻,确实需要发问:在这些高风险场景下,我们真的能信任 AI 吗?
第二篇论文探讨了当 AI 智能体被赋予权力去分配社会福利时,它们内在的价值观是什么?它们如何在集体效率和分配公平这两个相互冲突的目标之间进行权衡?
祝今日读写愉悦,洞见深省。
有事发生
美国 AI 战略面临中国人才悖论

据 Rest of World 10 月 13 日报道,美国在 AI 领域正面临一个核心矛盾。一方面,华盛顿出于国家安全考虑,正在收紧对中国学生的签证政策。另一方面,硅谷的科技巨头严重依赖中国研究人员来保持全球竞争力。一份 2023 年的报告显示,全球近一半的顶尖 AI 人才来自中国。Meta,Google 和 Nvidia 等公司仍在积极招聘毕业于中国顶尖大学的人才。然而,美国的限制性政策和日益紧张的氛围,正导致更多中国人才选择留在国内。数据显示,2022 年已有 28% 的顶尖 AI 人才留在中国,远高于 2019 年的 11%。这种人才策略的矛盾,可能将影响未来全球 AI 竞赛的格局。
OpenAI 向博通采购 10GW 定制AI芯片

据金融时报 10 月 13 日报道,OpenAI 已同意向美国半导体巨头博通 (Broadcom) 采购 10GW 的计算机芯片。这是 OpenAI 首次与合作伙伴共同设计专用于其 AI 模型的定制芯片。此次合作长达 18 个月,芯片主要用于 AI 推理过程。近几个月,OpenAI 已签署了价值约 1 万亿美元的芯片和数据中心协议。此前 OpenAI 已向英伟达采购 10GW,并向 AMD 采购 6GW 芯片。完成交易后,OpenAI 的总计算能力将超过 26GW。此举旨在减少对英伟达的依赖,控制成本并应对芯片短缺问题。
摩根大通启动 1.5 万亿美元投资美国战略产业

据路透社 10 月 13 日报道,美国最大银行摩根大通宣布启动一项为期 10 年的投资计划,旨在支持对美国国家安全和经济至关重要的公司。该计划将促进、融资和投资总计 1.5 万亿美元,比原计划增加 50%。其中,摩根大通将通过直接股权和风险投资部署高达 100 亿美元。投资将重点关注四大战略领域,包括供应链与制造、国防与航空航天、能源以及人工智能等前沿技术。摩根大通首席执行官杰米·戴蒙表示,这项举措是 100% 的商业行为,并非由政府驱动。为支持该计划,公司将增聘银行家并成立一个外部顾问委员会。
Salesforce 宣布在旧金山投资 150 亿美元发展 AI

据路透社 10 月 13 日报道,云软件公司 Salesforce 宣布,计划在未来五年内向其总部所在地旧金山投资 150 亿美元。此举旨在加速 AI 的普及,以提升其在与微软、Oracle 等科技巨头竞争中的优势。这笔投资将用于支持其园区内一个新的 AI 孵化器中心,并帮助企业采用 AI 代理技术。此外,Salesforce 于同日还发布了名为 Agentforce 360 的 AI 平台。
IMF 警告全球缺乏 AI 监管伦理基础

据路透社 10 月 13 日报道,国际货币基金组织(IMF)总裁克里斯塔利娜·格奥尔基耶娃周一在华盛顿表示,全球各国普遍缺乏应对人工智能快速发展的监管和伦理基础。她指出,AI 技术革命由美国等发达经济体主导,而发展中国家远远落后。IMF 对此深感担忧,认为这加剧了国家间的技术鸿沟,使发展中国家更难追赶。为此,IMF 开发了一项 AI 准备度指数,该指数显示全球在法规和伦理方面的准备最为薄弱。格奥尔基耶娃敦促各国公民社会团体敲响警钟,推动政府建立必要的框架。