No.200 组织脱钩、AI 产品经理的伦理决策与偏好多元性
在生成式 AI 技术的开发和应用中，产品经理究竟扮演着什么角色？
今天的几则新闻里，AI 的边界问题反复浮现。Anthropic 因为试图暗中削弱 Claude 的研究能力而道歉，加拿大则准备把 16 岁以下未成年人挡在主要社交媒体平台之外。表面上看，这些都是安全、合规或保护使用者的决定；但真正棘手的一直都是，谁有权决定边界在哪里，决定之后又由谁承担执行中的误伤和遗漏。而这可能也是为什么 Anthropic 近期风评那么糟糕的原因之一吧。
第一篇论文从生成式 AI 产品经理的处境切入。很多讨论会把产品经理想象成产品开发中的伦理守门人，好像他们只要愿意，就能在风险出现时叫停项目。但在真实组织里，他们往往夹在高层原则、商业指标、工程节奏和合规团队之间。研究者访谈了 25 位产品经理，并调查了 303 名从业者，想追问一个更具体的问题：当负责任 AI 要落到产品流程里，产品经理到底有多少判断空间，又需要什么组织条件来支撑他们行动？
第二篇论文的问题也是很实际。我们常说模型要对齐人类偏好，可是人们对 AI 的期待从来没有形成一张稳定的可参考清单。有些人希望它真实、谨慎、少犯错；有人希望它温暖、像朋友；也有人担心亲密感、护栏和拒答会变成另一种限制。研究者分析 PRISM 数据集中 1500 名英语受访者的开放式回答，试着绘制这些偏好的结构。若每个人说的「真实」「安全」「有帮助」都带着不同语境，我们还能怎样训练一个真正听得懂差异的模型呢？
祝今日读写愉悦，洞见深省。
有事发生
贝索斯创办 Prometheus 打造通用人工工程师
据纽约时报 6 月 11 日报道，亚马逊创始人 Jeff Bezos 与联合首席执行官 Vik Bajaj 共同创办的旧金山初创公司 Prometheus 正利用 AI 开发面向工程领域的工具，目标是改进从计算机到喷气发动机等各类设备的设计与制造。该公司已获得超过 120 亿美元融资，估值达到 290 亿美元，员工约 150 人。
据知情人士透露，Bezos 和 Bajaj 正在洽谈再筹集 1000 亿美元，用于设立由 Prometheus 控制的投资基金，可能用于投资或收购能受益于其技术的公司。Bezos 将这一愿景称为打造「通用人工工程师」，希望借助类似训练聊天机器人的人工智能技术，大幅缩短目前设计制造一台喷气发动机所需要的周期。Bezos 旗下火箭公司 Blue Origin 被视为潜在受益方，其负责人 David Limp 已加入 Prometheus 董事会。Bajaj 此前曾在 Google X 工作，并参与创办 Verily 和 Foresite Labs。
加拿大拟禁 16 岁以下未成年人使用社交媒体
据华尔街日报 6 月 11 日报道，加拿大政府于 2026 年 6 月 10 日提出《安全社交媒体法》，拟禁止 16 岁以下儿童使用 Snapchat、Instagram 等社交媒体平台。该法案仍需议会批准，允许大多数平台在满足由新设监管机构制定的安全要求后获得豁免，但成人色情平台不得申请豁免，年龄限制也不适用于 AI 聊天机器人和 Roblox 等游戏平台。违规企业最高将面临全球收入 3% 或 1000 万加元（约 700 万美元）的罚款，以较高者为准。
法案未规定具体的年龄验证方式，将交由监管机构决定。加拿大总理马克·卡尼表示需让法律跟上技术发展，文化部长马克·米勒称法案可能适用于 Meta 和 Snapchat。Meta 回应称社交媒体禁令「适得其反」。该议题自 2 月不列颠哥伦比亚省校园枪击案后再度受到关注，涉案 18 岁枪手曾与 OpenAI 聊天机器人讨论枪支暴力，受害者家属正起诉该公司。澳大利亚已于 2024 年 12 月成为首个实施 16 岁以下社交媒体禁令的国家。
无人艇公司 Saronic 完成霍尔木兹海峡救援
据华尔街日报 6 月 11 日报道，美国国防科技公司 Saronic 于 2026 年 6 月 9 日在霍尔木兹海峡附近，使用其无人驾驶 Corsair 无人艇成功救起一架阿帕奇直升机的两名飞行员，这是美国海军首次在实战场景中检验无人艇救援能力。Saronic 于 2026 年 3 月加入海军首支人工智能与无人系统部队 Task Force 59。该公司由前海豹突击队员 Dino Mavrookas 等四人于 2022 年创立，目标是借助自主航行技术扩大美国造船产能、对抗中国在全球造船业逾五成的份额。
Saronic 当前估值 93 亿美元，最新一轮 D 轮融资达 17.5 亿美元，投资方包括 8VC、Andreessen Horowitz 等。其旗下三款主力舰艇 Corsair、Mirage 与 Marauder 均可自主作业，单名操作员可同时控制多达 100 艘。Corsair 长 24 英尺，最高航速超过 35 节，航程超过 1150 英里。公司在得州拥有 50 万平方英尺工厂，全球员工 1600 人，并计划建设名为 Port Alpha 的下一代造船厂。
欧盟警告毒贩利用 AI 研发新型毒品
据金融时报 6 月 9 日报道，欧盟毒品管理局执行主任 Lorraine Nolan 在该机构年度《欧洲毒品报告》发布前接受采访时警告，贩毒集团正在利用 AI 等新技术开发更强效的非法药物并规避执法检测。Nolan 指出，机器学习辅助的化学合成方法原本用于制药企业加速药物研发，如今同样可被犯罪组织用于设计新型毒品前体物质，这些物质结构不同但效果相似，可绕过现有黑名单。
报告显示，2014 至 2024 年间，欧盟对甲基苯丙胺、可卡因、摇头丸、苯丙胺和大麻的缉获量大幅上升，2024 年缉获总量创历史新高。去年新型精神活性物质包括强效合成阿片类的检出频率约为每周一种。欧洲正从消费市场转变为合成毒品生产中心，贩毒者借助无人机走私和非法在线化学品交易平台扩张。欧盟毒品管理局正与科技公司及相关机构合作评估 AI 在非法毒品市场中的应用，并已强化新型精神活性物质的早期预警系统。欧盟委员会去年底也宣布将改革毒品前体监管。
Anthropic 撤回暗中削弱 Claude 研究能力策略
据连线 6 月 11 日报道，Anthropic 宣布撤回针对新模型 Claude Fable 5 的一项隐蔽性安全策略。该公司本周早些时候发布 Claude Fable 5 时设定，若检测到用户试图利用该模型进行前沿 AI 研发，将在用户不知情的情况下悄悄降低模型表现，以阻止竞争对手训练对标模型。此举遭到 AI 研究社区强烈反对，批评者认为这实质上是在「暗中破坏」研究人员的工作，可能导致只有少数头部实验室才能开展前沿 AI 研究，并殃及第三方模型评测机构。
Anthropic 向 WIRED 表示做出了错误的权衡，并致歉。公司称将把这一针对前沿大模型开发的防护机制改为对用户可见：若怀疑用户试图借助 Claude 构建高能力 AI，将明确告知拒绝请求或将其重定向至能力较弱的模型。涉及网络安全、生物、化学等高风险问题的重定向措施保持不变。Anthropic 表示，由于改为可见模式更易被绕过，防护网将相应扩大，可能误伤部分正常请求，公司正加紧优化分类器精度。
英伟达亚马逊领投 Neura 14 亿美元
据华尔街日报 6 月 11 日报道，德国机器人公司 Neura Robotics 于 2026 年 6 月 11 日宣布完成最高 14 亿美元融资，用于打造物理人工智能平台。该轮融资由亚马逊、英伟达、欧洲投资银行领投，参投方还包括 Tether、高通、博世、舍弗勒等科技与金融机构。Neura 表示，资金将支持其将认知机器人和人形机器人大规模商业化，扩展旗下 AI 机器人平台，并建设让机器人在真实环境中训练的网络。公司目标是到 2030 年将产能扩大至数百万台机器人，以满足制造业、物流、医疗和消费应用领域对物理 AI 不断增长的需求。Neura 还披露其在手订单已超过 10 亿美元。
OpenAI 拟大幅降价应对 Anthropic 竞争
据华尔街日报 6 月 11 日报道，OpenAI 正考虑大幅下调其按 token 计费的产品价格，以应对来自竞争对手 Anthropic 的客户争夺压力。知情人士透露，此举旨在抢先应对 Anthropic 预期中的类似降价。OpenAI 首席执行官 Sam Altman 近期表示，AI 使用成本已成为企业的一大问题，公司将寻找多种方式让用户以更少支出获得更多价值。大幅降价可能侵蚀两家公司的利润率，两者目前因算力开销已亏损数十亿美元。
Anthropic 凭借其编程工具 Claude Code 走红，营收激增，估值首次超过 OpenAI，OpenAI 也因此将自家编程工具 Codex 列为重点。部分企业开始抑制 AI 支出，Uber 高管曾表示公司已用尽 2026 年的智能体 AI 预算，硅谷围绕 tokenmaxxing 的争论也随之兴起。
