No.111 加州 AI 监管法案、AI 伴侣三角互证研究与自愿承诺

面对白宫,科技巨头们关于 AI 安全的自愿承诺,究竟是真心实意的行动,还是一场心照不宣的公关秀?

No.111 加州 AI 监管法案、AI 伴侣三角互证研究与自愿承诺
Photo by Ahmet Yüksek ✪ / Unsplash
💡
本期会员通讯分享了六则新闻和两篇论文。

第一篇论文的研究对象依旧是 AI 伴侣,之前会员通讯分享过好几篇这个主题的文献,但它们基本上都是采用短期定性访谈,缺乏对长期、自然情境下心理社会影响的衡量,难以建立因果关系。这篇论文算是把这个空白补上了,同时用纳普关系发展模型来解释人机关系的演变过程也比以往的研究多了一些理论对话。

另一篇论文也很有启发,切入点新奇。我们经常看到大公司发布各种 AI 安全声明,但这些听起来很美好的承诺,它们真的做到了吗?这篇研究帮我们看看这些公司到底交了怎样的答卷。

祝今日读写愉悦,洞见深省。朋友们,那咱们国庆假期后再见啦,大家放假玩得开心呀。

有事发生

加州通过新法案 SB 53 加强 AI 安全监管

据纽约时报 9 月 29 日报道,美国加州州长 Gavin Newsom 于本周一签署了一项新的 AI 安全法案。这项名为《前沿人工智能透明度法案》(又称 SB 53)的法律,是美国目前最严格的 AI 法规之一。

法案要求顶尖 AI 公司必须报告其技术的安全协议,并披露模型可能带来的最大风险。同时,该法案还加强了对 AI 行业举报人的保护。此举旨在填补监管空白,保护消费者免受技术危害。然而,Meta 和 OpenAI 等科技公司反对州级立法,认为这会阻碍创新。他们正游说联邦统一立法,并已投入 2 亿美元支持对 AI 友好的政客。


OpenAI 新版 Sora 将默认使用版权内容

据路透社 9 月 29 日报道,人工智能公司 OpenAI 计划在未来几天内发布其视频生成器 Sora 的新版本。新版本将默认使用受版权保护的材料,除非版权所有者主动选择退出。OpenAI 已于上周开始就此通知各大工作室。尽管如此,该产品未经许可不会生成可识别的公众人物的肖像。另据报道,OpenAI 还在准备一款独立的 Sora 2 应用程序。该应用界面类似 TikTok,支持用户创作最长 10 秒的视频,目前已在内部测试。

◉ 听听你的想法:AI 公司默认使用版权素材,要求创作者主动退出,你认为这种模式是否合理?


OpenAI 允许用户在 ChatGPT 内直接购物

据华尔街日报 9 月 29 日报道,OpenAI 推出新功能,允许美国用户直接在 ChatGPT 聊天界面内购物。这项名为 Instant Checkout 的服务,首批支持电商平台 Etsy 和 Shopify 的部分商家,目前仅限单品购买。

OpenAI 表示,平台上有超过十分之一的用户存在购物意向,而其周活跃用户数已达 7 亿。为吸引更多商家,OpenAI 还发布了名为 Agentic Commerce Protocol 的开源技术标准。此举旨在简化用户购买流程,并为未来 AI 代理自主购物奠定基础,标志着 OpenAI 正式进入电商领域。

◉ 听听你的想法:AI 推荐的商品,你敢直接下单吗?


俄罗斯在全球 AI 竞赛中明显缺席

据金融时报 9 月 29 日报道,尽管俄罗斯拥有工程人才和本土科技公司,但它在全球 AI 竞赛中明显缺席。其最大的科技公司 Yandex,因克里姆林宫的政治压力和乌克兰战争而被迫分裂。

2024 年初,Yandex 将其大部分俄罗斯资产,折价出售给与克里姆林宫有关联的投资者。其剩余的国际业务则重组为新公司 Nebius,并成功出走俄罗斯。最近,Nebius 还与微软签署了价值 174 亿美元的数据中心运营协议。与此同时,留在俄罗斯的 Yandex 面临人才流失等困境。


警惕同事用 AI 制造工作垃圾拖累团队

据 TechCrunch 9 月 27 日报道,咨询公司 BetterUp Labs 与斯坦福大学的研究人员提出了一个新概念:工作垃圾 (workslop)。该术语指代由 AI 生成的低质量工作内容,这些内容看似有效,实则缺乏实质,反而给他人带来更多修改负担。

一项针对 1150 名美国全职员工的调查发现,过去一个月内,有 40% 的受访者表示收到过此类垃圾工作。研究人员指出,这种现象可能是导致 95% 尝试 AI 的组织未看到投资回报的原因之一。为解决此问题,他们建议企业领导者应示范如何有效使用 AI,并为团队设定清晰的使用规范。

◉ 听听你的想法:你在工作中收到过 AI 生成的「垃圾工作」吗?


韩国投资 5300 亿韩元发展主权 AI

据 TechCrunch 9 月 27 日报道,韩国政府为减少对外国 AI 技术的依赖,启动了一项主权 AI 计划。该计划承诺投入 5300 亿韩元 (约 3.9 亿美元),支持五家本土公司开发大语言模型。入选公司包括 LG AI Research、SK Telecom、Naver Cloud、NC AI 和初创公司 Upstage。这些公司专注于构建更适合韩语和本土文化的 AI 模型。政府将每六个月审查进展,并逐步淘汰表现不佳者,最终筛选两家公司领导该项目。各公司策略不同,分别利用其在行业数据、电信网络、完整生态系统或高效模型方面的优势展开竞争。

◉ 听听你的想法:本土化的 AI 模型在语言和文化上的优势,是否足以让它们在与全球科技巨头的竞争中胜出?