No.104 机器学习反学习、氛围编程与伪生产力

当 AI 系统处理敏感的学生数据时,我们如何能让它精准地「忘记」某些信息?氛围编程会如何改变设计师的工作流程、团队协作,甚至职业边界?

No.104 机器学习反学习、氛围编程与伪生产力
Photo by Mauricio Alarcón / Unsplash
💡
本期会员通讯分享了 6 则新闻和 2 篇论文。

我们总在谈论如何让 AI 学习,但它能不能忘记呢?比如,一个教育 AI 学了些有偏见或者过时的数据,我们怎么能让它把这部分知识精准地删掉,而不是把整个模型推倒重来?第一篇论文讨论的「机器学习反学习」技术提供了一个答案。

第二篇论文也很有趣,现在都流行氛围编程,开发者和设计师可以直接用大白话告诉 AI 想要什么,AI 就能生成原型和代码。这听起来很酷,但它真的能提高生产力吗?还是说反而让我们陷入一种伪生产力的陷阱?这篇研究采访了很多从业者,他们的真实感受和遇到的问题,很值得我们反思「一切均可 Vibe」 风潮背后的隐忧。

祝今日读写愉悦,洞见深省。

有事发生

好莱坞三巨头起诉中国 AI 公司 MiniMax 侵权

据金融时报 9 月 16 日报道,迪士尼、环球和华纳兄弟探索公司已联合起诉中国 AI 视频应用开发商 MiniMax。三大好莱坞电影公司指控 MiniMax 存在「故意和无耻的」版权侵权行为。诉讼称,MiniMax 旗下的视频生成器海螺 AI,利用迪士尼的达斯·维达和环球影业的小黄人等知名角色,生成了高质量的图片和视频。

此外,MiniMax 还被指控使用这些受版权保护的角色形象,为其服务进行广告宣传,构成了虚假的商业背书。这是首例针对中国 AI 公司的此类诉讼,电影公司正寻求法律允许的最高赔偿金额。上海的 MiniMax 是中国领先的大语言模型初创公司之一,得到了红杉中国和阿里巴巴等公司的支持。此次诉讼正值 MiniMax 计划在香港上市以筹集资金进行国际扩张的敏感时期。

◉ 听听你的想法:AI 公司在模型训练和内容生成中,应如何界定对版权材料的「合理使用」?在保护创作者权益和推动技术创新之间,社会应该如何找到平衡点?


前官员警告英国正沦为 AI 技术接受者

据金融时报 9 月 16 日报道,英国前首席数字与数据官 Mike Bracken 警告,英国正面临在 AI 时代丧失数字主权的风险。几十年来,英国政府将数据和技术能力外包,导致国家系统过度依赖少数海外垄断供应商。文章指出,政府的科技采购模式偏爱与大型海外公司签订合同,这扼杀了本土初创公司的成长机会。

在医疗保健领域,英国国民保健署 (NHS) 采购美国公司 Palantir 的数据平台,抑制了本土 AI 市场的竞争。如今,政府选择与美国的 OpenAI 和加拿大的 Cohere 等公司合作,而非支持本土企业,DeepMind 被出售给 Google 已成政府的遗憾。

相比之下,德国、法国和印度等国家正积极扶持本国 AI 企业。作者呼吁,英国应立即改变策略,为本土 AI 公司提供资金、公共投资和市场准入,以避免其 AI 产业最终被外国资本控制。

◉ 听听你的想法:国家应如何在采用全球顶尖技术与扶持本土新兴产业之间取得平衡?


日本政府拟资助 NEC 购买海底电缆铺设船

据金融时报 9 月 16 日报道,日本政府计划提供补贴,支持本国通信技术巨头 NEC 购买海底电缆铺设船。此举旨在应对日益增长的国家安全关切,并提升 NEC 在全球市场的竞争力。

目前,NEC 主要依赖租用船只,而其美国、法国和中国的竞争对手均拥有自有船队。东京官员认为,缺乏自有船队使 NEC 处于不利地位,也对关键通信基础设施构成风险。该补贴计划可能为 NEC 支付高达一半的购船费用,每艘船成本约 3 亿美元,最早可能在 2027 年初实施。

在全球数据传输需求因 AI 和视频服务激增的背景下,铺设船短缺已成为行业主要瓶颈。拥有自有船队将帮助 NEC 确保能及时履行与科技巨头的合同,并保障日本在印太地区的基础设施安全。

◉ 听听你的想法:在数字时代,海底电缆是否已经成为与石油管道同等重要的地缘政治博弈工具?


AI 帮助行业节能或能抵消自身耗电

据《华尔街日报》9 月 16 日报道,人工智能技术虽然消耗大量电力,但其在节能减排方面的潜力可能远超自身消耗。在交通领域,AI 优化路线可帮助货运和航空公司减少 5% 至 15% 的燃料使用。国际能源署预测,到 2035 年,仅交通领域的 AI 应用就可削减 9 亿公吨碳排放,远超数据中心预计产生的 3 至 5 亿公吨排放量。

在建筑领域,AI 管理系统能将行业碳排放降低 8% 至 19%,该行业目前占全球总排放量的 40%。此外,AI 还在加速环保材料的研发和回收利用,并帮助监测和恢复森林等自然碳汇。尽管前景广阔,但实现这一目标仍需解决数据隐私等挑战。

◉ 听听你的想法:我们应该优先发展能解决能源环境问题的 AI 应用,还是更应关注其自身的巨大能耗和环境风险?


OpenAI 为 ChatGPT 推出青少年安全功能

据 WIRED 9 月 16 日报道,OpenAI 公司宣布为 ChatGPT 推出新的青少年安全功能。此举旨在回应社会对未成年人使用 AI 聊天机器人的担忧。新功能的核心是一个年龄预测系统,可以识别出 18 岁以下的用户。

这些青少年用户将被引导至一个适龄系统。该系统会主动屏蔽图形化的色情内容等不适宜信息。更重要的是,如果系统检测到用户有自杀或自残的倾向,将会立即通知其父母。在危险紧急且无法联系到父母的情况下,该系统甚至可能会联系相关部门。

◉ 听听你的想法:AI 预测用户心理并主动干预,这是否构成对青少年隐私的侵犯?


YouTube 为 Shorts 推出多款 AI 新工具

据 TechCrunch 近日报道,YouTube 在其 Made on YouTube 活动上,发布了多款专为 Shorts 创作者设计的生成式 AI 工具。其中包括谷歌文本转视频模型 Veo 3 的定制版 Veo 3 Fast,可快速生成带声音的 480p 视频片段。该功能已在美国、英国等五个国家率先推出。

YouTube 还引入了更多 Veo 新功能,例如将视频中的动作应用于静态图片,或为视频添加波普艺术等不同风格。此外,全新的「语音转歌曲」工具,能将视频对白转化为配乐。另一项「AI 编辑」功能,则可将原始素材自动剪辑成带有音乐、转场和旁白的初稿。这些新工具旨在降低视频创作门槛,将在未来几周至数月内,陆续向更多市场的创作者开放。