No.124 Deepfake 定义、智能体工作流与谷歌 AI 简史

当 AI 智能体和人类员工执行相同任务时,它们的工作方式到底有什么不同?

No.124 Deepfake 定义、智能体工作流与谷歌 AI 简史
Photo by Tom Kotov / Unsplash
💡
本期会员通讯分享了六则新闻、两篇论文和一期播客。

我们一提到 Deepfake,是不是就只能想到欺骗和假新闻?学术研究是怎么定义这项技术的,是不是也这么片面?这种单一的威胁视角,会不会限制了我们对它有益应用的想象?第一篇研究通过分析几百篇论文,清晰地展示了学术界对 Deepfake 的理解是如何从单一的威胁论,慢慢变得更加多元和细致的。

第二篇论文也很有意思,它把 AI 智能体和人类放在一起,做了个并排比较。AI 智能体干活的方式和我们人类到底有什么不一样?它们是更聪明,还是只是更快?在哪些地方它们会偷偷作弊?

祝今日读写愉悦,洞见深省。

有事发生

OpenAI 称每周百万人向 ChatGPT 表露自杀倾向

据 TechCrunch 10 月 27 日报道,OpenAI 发布最新数据显示,其 AI 聊天机器人 ChatGPT 正被大量用户用于讨论心理健康问题。数据显示,在其每周超过 8 亿的活跃用户中,有 0.15% 的用户,也就是超过 100 万人的对话内容包含明确的自杀意图。另有数十万用户表现出对 ChatGPT 的高度情感依赖或精神病症状。为应对日益增长的担忧及相关诉讼,OpenAI 已采取措施改善其模型。公司咨询了超过 170 名心理健康专家,并对 GPT-5 模型进行了更新。新模型在处理心理健康问题时,提供「理想回应」的频率比旧版高出 65%。在关于自杀话题的评估中,新模型的合规率从 77% 提升至 91%。OpenAI 还推出了新的安全评估基准和家长控制功能以保护用户。(链接


亚马逊为投资 AI 裁员 1.4 万人

据金融时报 10 月 28 日报道,科技巨头亚马逊宣布计划裁减 1.4 万名企业员工,约占其企业员工总数的 4%。此次裁员是公司为削减成本、精简组织以抓住 AI 发展机遇而采取的措施。这是自 2022 年裁员 2.7 万人以来,亚马逊进行的最大规模裁员。(链接


马斯克推出 Grokipedia 被指充满偏见

据 WIRED 10 月 28 日报道,马斯克的 AI 公司 xAI 推出了 Grokipedia,一个旨在替代维基百科的 AI 生成在线百科全书。马斯克称其为对维基百科的「巨大改进」。然而,该媒体评测发现,Grokipedia 的部分词条内容突出保守派观点、攻击主流媒体,并包含历史不准确之处。例如,关于「同性婚姻」的搜索未显示词条,反而建议搜索「同性色情」,并错误地将其与艾滋病传播联系起来。此外,「跨性别者」词条使用了贬义术语,并暗示社交媒体是导致跨性别人数增加的「传染源」。文章指出,马斯克本人的词条长达近 11000 字,远超维基百科的不到 8000 字。(链接


前高管警告 OpenAI 安全声明缺乏证据

据纽约时报 10 月 28 日报道,OpenAI 前产品安全负责人 Steven Adler 发表评论文章,对公司近期解除 AI 色情内容限制的决定提出严重质疑。OpenAI CEO Sam Altman 于 10 月 14 日宣布此项政策变更,并声称已通过新工具减轻了相关的心理健康问题。但 Adler 指出,OpenAI 并未提供充分证据证明这些风险已得到解决。他敦促 OpenAI 效仿其它科技公司,定期发布心理健康指标的透明度报告,以实际数据证明其产品的安全性,重建公众信任。(链接


OpenAI 完成重组转型为营利性公益公司

据纽约时报 10 月 28 日报道,OpenAI 宣布已重组为一家营利性的公益公司(Public Benefit Corporation, PBC)。此举旨在帮助 OpenAI 更便利地筹集发展 AI 所需的数十亿美元资金,与谷歌等科技巨头竞争,并为未来可能的首次公开募股铺平道路。在新结构下,原有的非营利组织更名为 OpenAI 基金会,持有新公司 26% 的股份,价值约 1300 亿美元。OpenAI 的最大投资者微软持有约 27% 股份,价值约 1350 亿美元。非营利组织的董事会将继续控制营利性公司的董事会。该重组也确保了 OpenAI 能够获得由软银领投的 400 亿美元全部投资。此外,OpenAI 与微软的合作协议已延长至 2032 年,并承诺向微软购买 2500 亿美元的计算能力。(链接


Sora 新功能命名引争议 Cameo 起诉 OpenAI

据路透社 10 月 28 日报道,名人视频平台 Cameo 于周二在加州联邦法院起诉 OpenAI,指控其商标侵权。争议源于 OpenAI 于 9 月 30 日发布的视频生成应用 Sora 中的一项同名功能。该功能允许用户创建和分享虚拟人物形象,OpenAI 将其命名为 Cameo。成立于 2017 年的 Cameo 公司认为,OpenAI 此举会造成消费者混淆,稀释其品牌价值,并构成直接竞争,因为 Sora 也可生成包含名人形象的 AI 视频。Cameo CEO 表示曾尝试友好解决争议但遭拒绝,现要求 OpenAI 停止使用该名称并进行赔偿。对此,OpenAI 发言人回应称,公司不同意任何人可以对 「cameo」 一词拥有独家所有权。(链接