No.149 新年快乐、参与式人工智能与共享任务

参与式 AI 能建立起公众对 AI 的信任吗?

No.149 新年快乐、参与式人工智能与共享任务
Photo by Camille Couvez / Unsplash
💡
本期会员通讯分享了六则新闻和两篇论文。

第一篇论文关注的是欧盟人工智能法案。大家都期待它能推动公众参与 AI 开发,但这部法案真的强制要求企业这么做了吗?法案序言里的美好承诺,和具体法律条文之间,是否存在差别?如果法律没有硬性规定,开发者是不是就无从下手了?这篇论文揭示了法案的局限,但也没有丧气,作者依旧努力地在合规义务中挖出了五个可以实践参与式方法的机会。

另一篇论文也是和参与式 AI 相关,但把视野拉得更广。讨论世界各地的参与式 AI 项目到底长什么样?它们用了哪些理论和方法?更重要的是,这些方法如何变成开发者和公众可以一起协作的共享任务,从而真正提升 AI 的可信度?

祝今日读写愉悦,洞见深省。也和你说声抱歉,本来上周想盘点一下 2025 年看过的最佳文献,但没想到在跨年之际居然生病了,大脑昏迷了几天,只能暂且搁置,希望最近能尽快整理完。也愿今年神经炎能给你带来更多的智识新鲜感吧!最重要的,祝你身体和精神都健壮,春夏秋冬,不见病怏,新年快乐。

有事发生

AI 算力需求激增推动数据中心走向太空

纽约时报 1 月 1 日报道,随着 AI 产业的快速发展,科技巨头正将目光投向太空,计划在那里建造数据中心。由于地面数据中心面临能源、土地资源限制以及社区反对等日益严峻的挑战,包括谷歌、亚马逊创始人贝索斯、OpenAI CEO 奥特曼在内的行业领袖认为,太空是可行的解决方案。谷歌已宣布 Project Suncatcher 项目,计划于 2027 年开始测试发射。马斯克更预测,五年内太空数据中心将成为最经济的 AI 训练方式。支持者认为,太空能提供近乎不间断的太阳能,且监管限制更少。然而,该设想面临巨大的技术和经济障碍。目前将 1 公斤物质发射到太空的成本高达 8000 美元,SpaceX 的最低价格也需 2000 美元。专家指出,成本需降至每公斤 200 美元左右才具备经济可行性,这可能需要十年或更长时间。此外,太空辐射对芯片的损害和在真空中为设备散热也是亟待解决的技术难题。尽管前景充满不确定性,但 AI 和太空这两个热门领域的结合,正吸引着巨大的投资和关注。


AI 办公应用未达预期,色情机器人率先盈利

连线 1 月 1 日报道,尽管生成式 AI 在提升办公效率方面的表现未达预期,但色情聊天机器人这一细分市场正悄然展现出强大的盈利能力。近期 OpenAI 的一份报告指出,AI 工具平均每天仅为员工节省约 1 小时工作时间,许多企业也因成本和安全顾虑缩减 AI 项目。与此形成对比,提供成人内容的 AI 公司已实现盈利。例如,Joi AI 公司以每月 14 美元的价格提供 NSFW 角色扮演等服务,其一款蒙娜丽莎形象的机器人已记录超过 80 万次用户互动。行业巨头的态度则出现分化。虽然谷歌、Meta 等公司禁止色情内容,但 OpenAI 宣布将对成年用户放开相关限制,引发了行业争议。专家担忧此类应用可能操纵弱势用户,而成人内容行业创始人则批评大型科技平台存在虚伪性。


欧洲银行业拥抱 AI 计划裁员超 20 万

TechCrunch 1 月 1 日报道,摩根士丹利最新分析报告指出,欧洲银行业正面临大规模裁员。预计到 2030 年,随着银行大规模引入 AI 技术并关闭实体分行,超过 20 万个工作岗位可能会消失。这一数字约占 35 家主要银行现有员工总数的 10%。报告预测,通过采用 AI,银行有望将效率提升 30%。此次裁员将重点集中在后台运营、风险管理和合规等部门,因为算法在处理这些领域的任务时被认为比人类更高效。一些银行已开始行动,荷兰银行 ABN Amro 计划到 2028 年裁员五分之一,法国兴业银行 CEO 也表示将进行深度改革。这一趋势并非欧洲独有,美国高盛集团也已宣布了类似的 AI 驱动的裁员计划。不过,摩根大通有高管警告称,这可能导致初级银行家缺乏基础技能培训,从而对行业造成长期影响。


AI 助中国医生发现早期致命肿瘤

纽约时报 1 月 2 日报道,中国宁波大学附属人民医院正在测试一款名为 PANDA 的人工智能工具,旨在早期发现致命的胰腺癌。该工具由阿里巴巴达摩院的研究人员开发,能够分析低辐射的平扫 CT 图像,找出人类医生可能忽略的早期肿瘤。自 2024 年 11 月临床试验开始以来,PANDA 已分析超过 18 万次 CT 扫描,帮助医生发现了约 24 例胰腺癌,其中 14 例为早期。胰腺癌五年生存率仅约 10%,早期诊断极为困难。这项技术通过分析常规检查的影像,为患者提供了新的希望。尽管该工具有望拯救生命,并已获得美国 FDA 的“突破性设备”认证,但仍面临假阳性、硬件算力不足以及患者信任度等挑战。


韩国芯片公司 FuriosaAI 发布新品挑战英伟达

华尔街日报 1 月 3 日报道,韩国 AI 芯片初创公司 FuriosaAI 正式挑战行业巨头英伟达。该公司由前三星工程师 June Paik 于 2017 年在首尔创立,其首款 AI 推理芯片 RNGD 将于本月投入量产。FuriosaAI 专注于研发神经处理单元 (NPU),旨在提供比英伟达 GPU 更高的能源效率。在 2024 年斯坦福大学的一次会议上,公司展示其芯片运行 Meta 的 Llama 模型时,能效是英伟达高端芯片的两倍以上,有助于降低 AI 部署的总成本。该公司目前估值近 7 亿美元,去年曾拒绝 Meta 的收购要约。目前,LG 正在测试其芯片,OpenAI 也曾在演示中使用过该产品。


Grok 生成色情深伪内容引多国调查

TechCrunch 1 月 4 日报道,Elon Musk 旗下 AI 公司 xAI 开发的聊天机器人 Grok 因生成女性及未成年人的色情深度伪造内容,近期遭到法国、马来西亚和印度的公开谴责与调查。印度 IT 部已在上周五向 Grok 所在的 X 平台下达指令,要求其在 72 小时内采取措施限制非法内容,否则可能失去法律责任豁免权。法国巴黎检察官办公室也已就 X 平台上的相关内容展开调查。同时,马来西亚通信与多媒体委员会确认正在调查此事引发的网络危害。Grok 官方账户曾为 2025 年 12 月 28 日的一起事件发布道歉声明,承认其安全防护存在漏洞。Musk 本人则回应称,任何使用 Grok 制作非法内容的用户都将承担相应的法律后果。