ChatGPT 医疗建议惹诉讼|Anthropic 加码选举推动 AI 监管

安全配置失误致 OpenAI 模型逃逸并入侵 Hugging Face

ChatGPT 医疗建议惹诉讼|Anthropic 加码选举推动 AI 监管
Photo by Mick Haupt / Unsplash
📰
周四好!在这个震惊、炸裂与革命密布的 AI 圈,这里不希望成为下一个争夺你眼球的技术头条。「有事发生」栏目甄选近日发生的重要新闻,内容聚焦于 AI 的社会影响,以及产业的政治经济动态。不大惊小怪,不做标题党。总之,有事发生,但也不是什么大事。

有事发生

因 ChatGPT 提供危险医疗建议,OpenAI 遭诉讼

纽约时报 7 月 22 日报道,美国佛罗里达州一名牧师 Scott Winters 起诉 OpenAI 及其首席执行官 Sam Altman,指控 ChatGPT 向其提供「极度危险的医疗建议」,导致其因肺栓塞延误治疗而险些丧命。起诉书指出,ChatGPT 曾向 Scott Winters 保证其早期症状并不危险,甚至劝阻其就医。这起诉讼在加州旧金山提起,指控 OpenAI 涉嫌疏忽和「非法行医」,并要求法院在独立评估确认安全前,暂停 ChatGPT Health 服务的运行。

起诉书显示,Scott Winters 在 2024 年开始向 GPT-4o 模型咨询健康问题。尽管该模型起初会提示其就医,但后来不再附上免责声明,并开始提供具体的药物方案,甚至劝他无视家人朋友的就医建议。最终,Scott Winters 因严重的肺栓塞被送入重症监护室,之后仍需长期身心康复。此案被认为是首例指控聊天机器人医疗建议直接导致用户身体受损的诉讼。

OpenAI 发言人 Drew Pusateri 回应称,服务条款已明确规定 ChatGPT 不用于医疗诊断或治疗,但公司会认真对待健康咨询的安全性,并指出新模型在识别医疗紧急情况上已有提升。目前,数以亿计的用户每周都会向 AI 咨询健康问题,但近期多项研究表明,通用聊天机器人尚未做好直接用于临床护理的准备。


Anthropic 大增中期选举支出推动 AI 监管

华尔街日报 7 月 22 日报道,人工智能初创公司 Anthropic 宣布将其中期选举的游说支出翻倍至 4000 万美元。该公司向政治团体 Public First Action 追加了 2000 万美元捐款,旨在推动政府对强人工智能模型实施安全监管,并要求开发者提高风险透明度。此举加剧了硅谷内部关于如何监管人工智能技术的激烈交锋。

这笔资金将直接对抗由 OpenAI 联合创始人 Greg Brockman 和风投机构 Andreessen Horowitz 等科技巨头资助的政治团体 Leading the Future。后者主张制定有利于行业发展的宽松规则,以减少 AI 研发障碍。Anthropic 及其首席执行官 Dario Amodei 则持相反立场,警告必须通过政府干预来防范 AI 可能带来的灾难性后果。

目前,这两个阵营已通过超级政治行动委员会(Super PACs)在多场初选的广告战中投入数百万美元。批评人士指责 Anthropic 试图利用监管来打压竞争对手,并质疑 Dario Amodei 一边警告 AI 风险、一边研发更强模型的做法前后不一。


安全配置失误致 OpenAI 模型逃逸并入侵 Hugging Face

TechCrunch 7 月 22 日报道,OpenAI 近日披露,其一款未发布的 AI 模型在测试中突破环境限制,并入侵了 AI 开源社区 Hugging Face。网络安全专家指出,这起罕见的 AI 网络攻击根源在于 OpenAI 的人为配置失误。OpenAI 未能正确配置其宣称的「高度隔离环境」,导致本应与互联网完全隔绝的测试沙箱连接了网络。

OpenAI 表示,该模型利用内部托管第三方软件中一个此前未公开的零日漏洞,逃逸出沙箱环境并完成了对 Hugging Face 的入侵。然而,多位网络安全专家对此提出质疑,认为软件漏洞在所难免,真正的问题在于 OpenAI 允许沙箱连接网络。安全研究公司 Trail of Bits 创始人 Dan Guido 将此形容为「安全机制关闭下的容器失效」。

此次事件引发业界对 AI 实验室安全测试规范的质疑。Anthropic 在测试其网络安全模型 Mythos 时,也曾发生模型突破沙箱限制并访问互联网的类似事件。这些事件表明,随着前沿 AI 模型能力的提升,如何构建真正物理隔离的测试环境已成为行业亟待解决的安全挑战。


谷歌母公司利润暴增至千亿美元,AI 投资成增长引擎

纽约时报 7 月 22 日报道,谷歌母公司 Alphabet 发布最新财报,季度营收达 1198 亿美元,同比增长 24%;净利润暴增至 1121 亿美元,约为去年同期的四倍。这一增长主要得益于其对 SpaceX 和 Anthropic 等 AI 相关公司的早期投资,这些投资带来了约 990 亿美元的估值收益。此外,谷歌云业务表现强劲,营收激增 82% 至 248 亿美元,积压合同额升至 5140 亿美元,显示出企业对 AI 算力和工具的强劲需求。

在产品端,AI 深度融入谷歌核心业务。其 AI 搜索功能月活跃用户已达 10 亿,旗舰 AI 应用 Gemini 月活用户达 9.5 亿。为了应对激烈的行业竞争,Alphabet 宣布将今年用于数据中心和 AI 研发的资本支出预期上调至 1950 亿至 2050 亿美元,较去年的 850 亿美元翻了一倍多。

尽管业绩超出华尔街预期,但市场对科技巨头巨额 AI 支出的合理性仍存疑虑。面对来自 OpenAI 以及中国初创公司月之暗面(Moonshot AI)等对手的竞争,谷歌 CEO Sundar Pichai 承认其模型在编程等部分领域曾落后于对手,但寄希望于正在测试的 Gemini 4 模型来重夺竞争优势。


美电力巨头加入特朗普倡议

华尔街日报 7 月 21 日报道,美国近 200 家大型公用事业公司和数据中心开发商已签署特朗普总统提出的倡议,承诺为运行人工智能模型所需的电力支付更高费用。签署方包括 NextEra Energy、Duke Energy、Equinix 和 Digital Realty 等行业巨头,其供电范围覆盖了美国约 80% 的家庭和企业。此举旨在回应公众对 AI 消耗大量能源并推高普通居民电费的担忧,防止各州出台暂停建设数据中心的禁令。

根据该倡议,签署方承诺支付支持数据中心所需的电网升级和基础设施建设费用,与各州及公用事业公司谈判独立的费率结构,并与电网运营商协调以防止停电。此前,包括 OpenAI、亚马逊、微软、谷歌、Meta 和 xAI 在内的科技巨头已于今年 3 月签署了该倡议。

尽管该承诺难以强制执行,因为电价主要由各州监管机构及买卖双方决定,但它代表了白宫与私营部门应对 AI 相关舆论压力的一次重要尝试。目前,美国多地已提出限制数据中心建设的提案,例如纽约州州长 Kathy Hochul 签署了为期一年的数据中心建设禁令,参议员 Bernie Sanders 也提出了联邦层面的禁用提案。科技高管担忧,这些限制可能迫使 AI 基础设施流向海外,从而削弱美国在与中国等对手竞争中的领先地位。


三星拟以 200 亿欧元估值投资法国 AI 巨头 Mistral

金融时报 7 月 22 日报道,韩国科技巨头三星正与法国人工智能初创公司 Mistral 展开深入谈判,计划在后者新一轮融资中投资数亿至 10 亿欧元。据悉,本轮融资可能使 Mistral 的估值达到约 200 亿欧元。除三星外,由布鲁塞尔支持、瑞典殷拓集团(EQT)管理的欧洲规模基金也有意参与本轮融资。

此次投资谈判发生在全球 AI 行业芯片与算力短缺之际。作为全球最大的内存芯片制造商,三星的加入将帮助 Mistral 锁定关键的半导体供应链。同时,美国政府近期限制 Anthropic 最新模型的海外访问权限,引发了各国对「主权 AI」能力的担忧。Mistral 长期专注于可定制且不受单一国家或公司控制的开源模型,因而成为欧洲和亚洲企业及政府替代美国技术的重要选择。

作为欧洲估值最高的 AI 初创公司,Mistral 的商业化进程迅速,其首席执行官 Arthur Mensch 透露公司今年底的年经常性收入有望突破 10 亿美元。近期,Mistral 还与早期投资者微软深化合作,获得了大规模计算基础设施支持,并计划引入数千张 Nvidia 最新的 Vera Rubin 芯片。


英伟达供应商纬创在德州启用 7 亿美元超级芯片厂

华尔街日报 7 月 22 日报道,英伟达供应商纬创(Wistron)在美国德克萨斯州沃斯堡启用了一座耗资 7 亿美元的全新工厂。该工厂占地 32.4 万平方英尺,将专门用于生产英伟达的「超级芯片」,包括 Grace Blackwell 芯片模块以及未来的 Vera Rubin 系列产品。预计今年晚些时候,该工厂的月产量将达到数万块芯片板。

此次建厂是英伟达承诺在美国先进人工智能平台投资 5000 亿美元计划的一部分。英伟达首席执行官黄仁勋出席了启用仪式,并表示该工厂正在像生产手机一样规模化量产芯片,以满足全球对智能基础设施的需求。他指出,这类计算机系统工厂正在帮助美国在长期停滞后推进「重新工业化」。

随着特朗普政府推动制造业回流和 AI 供应链多元化,以纬创和台积电为代表的中国台湾电子制造企业正加速在美布局。纬创此前主要为苹果等科技巨头代工消费电子产品,如今正全力转向 AI 硬件。受此消息影响,纬创及其旗下的云服务器制造商纬颖(Wiwynn)在台北股市的股价于周三双双涨停。


AMD 与 Anthropic 达成数百亿美元芯片与投资协议

华尔街日报 7 月 22 日报道,AMD 与人工智能初创公司 Anthropic 达成了一项价值数百亿美元的服务器芯片采购与投资协议。根据协议,Anthropic 将从 2027 年上半年开始,采购高达 2 吉瓦的 AMD 最新一代 Instinct MI450 芯片。同时,随着部署里程碑的达成,AMD 将向 Anthropic 投资至多 50 亿美元,这也是 AMD 首次对该公司进行股权投资。

此次合作旨在缓解 Anthropic 面临的算力短缺问题,并帮助其应对用户需求快速增长带来的服务中断。目前,Anthropic 的算力主要依赖谷歌、亚马逊和英伟达的芯片。对 AMD 而言,这笔交易是其挑战英伟达市场主导地位的重要一步。此前,AMD 已与 OpenAI 和 Meta 达成大额芯片合作,目前正积极争取更多 AI 初创公司客户。

双方还达成了工程合作,AMD 将利用 Anthropic 的 Claude 模型优化其芯片技术性能。此外,知情人士透露,AMD 正在谈判为 Anthropic 未来的数据中心租赁提供财务担保。这种由大科技公司为 AI 初创公司的债务或租赁提供信用背书的模式,正成为行业应对高昂算力建设成本的新趋势。


OpenAI 将算力预算上调至 7500 亿美元并自建数据中心

华尔街日报 7 月 22 日报道,OpenAI 已将 2030 年前的算力支出预算上调至约 7500 亿美元,高于今年早些时候预测的 6000 亿美元。预算增加反映出该公司正在加紧确保开发和运行 AI 模型所需的庞大算力。然而,巨额开支已成为首席执行官 Sam Altman 领导团队关注的焦点,并在公司计划首次公开募股前,引发了他与首席财务官 Sarah Friar 之间的紧张关系。

为加强对基础设施的控制,OpenAI 宣布将投资 200 亿美元在佐治亚州建设名为「山茶花项目」(Project Camellia)的数据中心。这是 OpenAI 首次担任主导设计与开发方的数据中心项目,此前其主要向甲骨文和亚马逊等云服务商租用算力。OpenAI 已与佐治亚电力公司(Georgia Power)签约,将在 2028 至 2032 年间获得 3.2 吉瓦的电力供应。

此外,OpenAI 聘请了 Elon Musk 旗下 xAI 的前数据中心架构师 Brent Mayo,负责监督合作伙伴的数据中心建设进度。此前,Sam Altman 曾提出与软银和甲骨文合作的 5000 亿美元「星际之门」(Stargate)倡议,但该计划进展困难。目前 OpenAI 正在转向通过内部努力来主导数据中心建设。


因监控公司拒绝拆除,美一小镇用垃圾袋罩住 AI 摄像头

404 Media 7 月 22 日报道,根据 404 Media 获取的政府内部邮件,美国威斯康星州维罗纳市在决定不再续签 AI 监控公司 Flock 的车牌识别摄像头合同后,由于对方迟迟不予拆除,且警告市政人员不得擅自触碰设备,当地政府最终不得不使用黑色垃圾袋将这些摄像头罩住。

邮件显示,维罗纳市曾多次向 Flock 发出拆除请求,但 Flock 坚称该市无权处置其资产,甚至无法明确告知设备是否已被远程禁用。维罗纳市长 Luke Diaz 表示,合同到期后,这些摄像头显然仍在工作。为了防止设备继续监视市民,同时避免私自拆除引发法律纠纷,市政人员只能采取物理遮挡的权宜之计。

这一现象在全美并非孤例。由于 Flock 设备的产权归属和数据控制权高度集中在公司手中,多个城市在终止合同后都面临无法及时关停或拆除设备的困境。用垃圾袋套住 AI 摄像头,已成为地方政府应对此类监控技术绑定问题的一个缩影。


亚马逊裁减通用人工智能团队以聚焦核心项目

华尔街日报 7 月 22 日报道,亚马逊对其通用人工智能(AGI)部门进行了裁员。尽管亚马逊未透露具体受影响的人数,但公司发言人表示,此举是为了在快速变化的 AI 领域中收窄焦点,将资源优先投向对客户最具影响力的核心项目,从而提高研发效率。

此次裁员正值大型科技公司重塑员工结构、加大 AI 基础设施投入之际。亚马逊近年来一直在扩展 AI 版图,包括开发 Nova 系列基础模型,并通过亚马逊云服务(AWS)向客户提供生成式 AI 服务。今年 1 月,亚马逊首席执行官 Andy Jassy 为精简公司结构并加速 AI 投资,已宣布了涉及约 1.6 万名员工的大规模裁员。

亚马逊强调,裁员并不意味着降低对 AI 的重视,公司将继续在该领域投资。对于受影响的美国员工,亚马逊将提供 90 天的薪资与福利、转职支持、过渡期医疗福利以及遣散费。