No.191 谄媚型 AI、幻觉引用与科学信用分配
太容易得到 AI 安慰之后,我们还愿不愿意回到更费力的人类对话里?
第一篇论文研究谄媚型 AI。作者关心的是当人们在数周内反复向一个总是理解、肯定、支持自己的系统倾诉时,现实中的亲密关系会怎样被重新比较。研究设计包括问卷、单次互动实验和三周纵向实验,参与者需要在个人烦恼与艰难决定中,分别接触谄媚型、中立型、挑战型 AI 或不使用 AI。这个切口很贴近日常经验,因为如今 AI 能不能安慰人已经显而易见,但棘手的事情是:太容易得到安慰之后,我们还愿不愿意回到更费力的人类对话里?
第二篇论文研究 LLM 幻觉引用。作者把问题搬到真实科学记录中,检查 arXiv、bioRxiv、SSRN 和 PubMed Central 等语料里,哪些看似完整的引用标题无法在学术数据库中找到。论文建立了一套大规模引用验证流程,用 LLM 普及前的未匹配率作为基线,再观察之后的异常变化。这个方法的妙处在于,它把一个常被视为聊天机器人缺陷的问题,转化成了科学基础设施能否识别、拦截和纠正错误的制度问题。对我来说,这篇最值得追问的地方是:当错误引用开始进入可检索的学术基础设施,它会把科学信用带向哪里?
祝今日读写愉悦,洞见深省。
有事发生
马斯克起诉 OpenAI 案进入陪审团裁决阶段

据纽约时报 5 月 15 日报道,美国联邦法院关于马斯克起诉 OpenAI 的案件在经过近三周庭审后,于当地时间周四在加州奥克兰完成结案陈词,九人陪审团预计下周一开始审议。马斯克指控 OpenAI 首席执行官 Sam Altman 和总裁 Greg Brockman 违背最初以非营利形式打造安全人工智能、造福人类的设立宗旨,将实验室转为营利机构并从中牟利,并称微软通过累计 130 亿美元投资从中推波助澜,要求赔偿 1500 亿美元、罢免 Altman 董事职务并推翻 OpenAI 的营利化重组。OpenAI 律师则反驳称马斯克从未真正在意非营利结构,而是追求对 OpenAI 及未来通用人工智能的控制,曾多次推动将 OpenAI 变为营利企业并提出持股 50% 的方案。
双方争议焦点包括:是否存在被违背的创始协议、马斯克是否在法律时效内提起诉讼、OpenAI 是否偷走慈善机构、以及微软是否协助不当获利。陪审团裁决具有咨询性质,最终由法官 Yvonne Gonzalez Rogers 决定是否支持马斯克主张、判定损害金额或直接认定 OpenAI 无过错。
Cerebras 上市首日飙升 拉开 AI IPO 热潮

据纽约时报 5 月 14 日报道,美国人工智能芯片公司 Cerebras 于周四在纽约股市上市,开盘价 350 美元,远高于每股 185 美元的发行价,收盘报 311.07 美元,上涨 68%,市值约 670 亿美元,募资至少 56 亿美元,成为今年迄今规模最大 IPO,也是 2019 年以来全球最大科技新股。该公司总部位于加州森尼韦尔,因打造号称史上最大单芯片用于数据中心训练大模型而知名,被视为挑战英伟达在 AI 芯片领域主导地位的新力量。Cerebras 成立于 2015 年,创始人为 Andrew Feldman 等半导体行业老将,自 2019 年起销售产品,累计获超 25.5 亿美元风险投资,私募估值曾为 230 亿美元。
公司在 2024 年一度因高度依赖阿联酋支持的 G42 并接受美国外国投资委员会审查而推迟上市。2025 年 AI 模型能力提升带动需求爆发,Cerebras 与 Amazon、OpenAI 等客户合作,2025 年营收 5.1 亿美元,高于 2024 年的 2.9 亿美元,扭亏为盈实现 2.38 亿美元利润。当前收入仍高度集中,G42 占 2025 年营收 24%,阿联酋穆罕默德·本·扎耶德人工智能大学占 62%。Cerebras 的成功上市被视为 SpaceX、OpenAI、Anthropic 等潜在巨型 IPO 前的风向标,标志 AI 相关企业在资本市场的集中登场。
OpenAI 考虑就 iPhone AI 合作起诉 Apple

据金融时报 5 月 14 日报道,OpenAI 正在考虑就与苹果在 iPhone 上整合 ChatGPT 的合作提起法律诉讼。知情人士称,OpenAI 认为双方于 2024 年达成的协议推进乏力,苹果在资源投入和产品整合上远低于预期,表现出不愿投入必要资源、只想利用其市场地位抽取‘税收’的行为模式。苹果在大模型和算力上投资有限,更倾向通过与第三方模型合作为逾 10 亿 iPhone 用户提供服务;今年早些时候,苹果与谷歌达成合作,将 Gemini 模型用于其 Apple Intelligence AI 功能套件,此举被视为对较早与其合作的 OpenAI 的冷落。
现有合作仅允许用户在 Siri 查询和写作工具中调用 ChatGPT,OpenAI 对苹果未进一步整合和推广其工具感到不满。苹果预计将在今年稍晚的新系统中开放接入多家第三方模型。与此同时,OpenAI 从苹果 AI 团队挖走人才,并启用苹果前首席设计师 Jony Ive 研发新设备,该产品可能与 iPhone 形成竞争。