No.185 默认极化、五个 AI 诱饵与问责幻象
围绕 AI 的安全叙事、监管呼声和颠覆论述,有多少是真正的问责,又有多少只是转移注意力的诱饵?
第一篇论文做了一个规模很大的实验,用 GPT-4o Mini、Claude Sonnet 4.5 和 Gemini 2.0 Flash 三个模型,在 Twitter/X、Bluesky 和 Reddit 三个平台上,跑了 54 万次内容推荐。以此来回答如果让大语言模型来决定你刷到什么,它的「品味」会不会有偏见?在所有测试条件里,极化程度是预测一条帖子能不能被推荐的最强信号。换句话说,模型天然地偏爱争议,哪怕你明确告诉它「请保持中立」,它依然会把两极分化的内容往前排。
第二篇是稍稍尖锐的政治经济学批判:作者认为我们围绕 AI 展开的很多批评和问责努力,本身可能就是一种「诱饵」。他们列举了五种诱饵——从关于 AI 定义的无休止争论,到科幻感十足的超级智能末日叙事,再到科技巨头主动拥抱监管的反常热情。这些讨论看上去都在认真对待 AI 的风险,但它们的共同效果是把公众的注意力从一个更根本的问题上引开:少数精英正在通过 AI 的旗号,以前所未有的规模重组全球资本和权力网络。
祝今日读写愉悦,洞见深省。
有事发生
贝索斯旗下 AI 公司融资 100 亿美元估值达 380 亿

据金融时报 4 月 21 日报道,亚马逊创始人 Jeff Bezos 旗下的 AI 实验室 Project Prometheus 正接近达成一项约 100 亿美元的融资协议,投后估值将达 380 亿美元。这是 Bezos 自 2021 年卸任亚马逊首席执行官以来,首次回归一线担任运营角色。该实验室总部位于旧金山,专注于研发能理解物理定律的 AI 系统,旨在通过专用模型提升工程、制造和建筑等物理行业的生产效率。
本轮融资吸引了摩根大通等机构参与,此前公司已于 11 月筹集 62 亿美元,后因投资者需求强劲而扩大规模。目前,Prometheus 已聘请数百名专家,包括来自 OpenAI 和 xAI 的核心技术人才。此外,该团队还计划通过另一家控股公司筹集数百亿美元,用于收购相关企业并利用其数据训练 AI 模型。
NSA 获准使用 Anthropic 闭源模型 Mythos

据 TechCrunch 4 月 20 日报道,据 Axios 报道,美国国家安全局(NSA)已获准使用 Anthropic 公司近期推出的 Mythos Preview 模型。此前,五角大楼曾因 Anthropic 拒绝开放模型底层权限,而将其列为供应链风险。Mythos 是一款专为网络安全设计的前沿模型,由于具备执行攻击性网络攻击的能力,Anthropic 仅向全球约 40 个特定组织开放了访问权限,NSA 则是未公开的使用方之一。
目前 NSA 主要利用该模型扫描系统环境中的可利用漏洞,英国 AI 安全研究所也已确认获得该权限。尽管五角大楼仍在法庭上主张该公司的工具可能威胁国家安全,但 Anthropic 与白宫的关系正趋于缓和。首席执行官 Dario Amodei 近期与白宫高层进行了会谈,旨在解决双方在自主武器开发及国内监控应用等方面的分歧。
美国囚犯突破禁令利用 AI 辅助法律诉讼与职业培训

据纽约时报 4 月 21 日报道,尽管美国监狱严格限制囚犯访问互联网,但以马里兰州杰塞普惩教中心为代表的多所监狱囚犯,正通过各种手段利用 ChatGPT 等 AI 技术辅助服刑生活。调查发现,囚犯通过向亲友发送指令,让其在院外使用 AI 后以截图、打印件或短信形式传回狱中。这些 AI 生成的内容涵盖法律辩护策略、创业计划书及教育教学资料。
数据显示,囚犯获取这些信息成本极高,单次 15 分钟通话需支付 0.45 美元,接收短信需 0.20 美元,部分人为获取 AI 建议甚至耗费了一周的工资。目前,司法界对此分歧严重。教育倡导者认为 AI 能帮助囚犯掌握就业技能、缩减数字鸿沟,而狱政官员则担心 AI 可能被用于规避监控、策划违法活动或逃狱。尽管监管机构严令禁止,技术正以前所未有的方式渗透进高安全级别的深墙内。
俄罗斯无人机与 AI 技术革新正重塑未来战争

据纽约时报 4 月 21 日报道,俄罗斯正在通过俄乌冲突重塑现代战争模式。莫斯科已将无人机与 AI 提升为国家战略优先级,预计到 2030 年相关从业人员将达到 100 万人。与西方追求完美方案不同,俄方侧重于快速迭代与实战效果:其 Shahed 无人机在不到 3 年内进行了 30 多项重大改进,并已部署可在强干扰环境下自主攻击的 V2U 无人机。通过 Glaz/Groza 等软件,俄军将发现目标到火炮打击的时间由数小时压缩至数分钟。此外,俄罗斯积极整合民间开发者和私营培训网络,建立了一套高度去中心化的创新生态。这种务实的模式正挑战西方传统的军事采购体制,使俄罗斯在自主武器领域取得了显著进展。
欧洲应研发安全 AI 突破行业落地瓶颈

据金融时报 4 月 21 日报道,人工智能专家 Yoshua Bengio 近日指出,尽管全球 AI 投资激增,但许多国家已陷入应用瓶颈。麦肯锡 2025 年的数据显示,虽然 88 % 的企业在业务中使用 AI,但仅有 1 % 的企业认为其战略已趋于成熟。现有的前沿模型因存在“幻觉”和不可预测性,限制了其在医疗、金融和航空等高安全性行业的深度应用。
Bengio 建议欧洲及中等强国应另辟蹊径,合作研发“设计即安全”的可信 AI,而非单纯在算力规模上与美中竞争。这需要每年投入数亿欧元建立专门的科研机构,并将安全性作为核心竞争力。目前,德国与加拿大已通过签署《主权技术联盟》展开此类合作。文章强调,欧洲必须通过确保 AI 的可靠性来强化技术主权,否则将在全球竞争中被边缘化。