有事发生

AI 生成虚假残损图正在破坏电商退款系统

据 连线 12 月 19 日报道，生成式 AI 正被越来越多地用于伪造商品残损图片，以骗取电商平台的退款。这一现象在中国社交媒体上引发广泛关注，许多商家表示收到了可疑的 AI 生成图片，例如纹路像纸片撕裂的陶瓷杯和细节错误的生鲜产品。一个广为流传的案例是，一位卖螃蟹的商家通过视频中螃蟹腿数量和性别不符的破绽，识破了买家使用 AI 伪造死蟹的骗局。该买家最终被警方处以 8 天拘留，成为首例已知的因此类 AI 诈骗而受到监管处罚的案件。这一趋势已蔓延至全球。总部位于纽约的欺诈检测公司 Forter 估计，自 2024 年初以来，用于退款索赔的 AI 伪造图像增加了超过 15%。不法分子利用 AI 工具的易用性，不仅有个体行骗，更有组织犯罪团伙发起大规模欺诈，一次索赔金额就超过百万美元。这种行为正在破坏电商平台依赖信任的退款体系，商家虽尝试用 AI 反击，但效果有限。未来，平台或将收紧退货政策，但这可能损害诚信消费者的购物体验。

纽约签署 RAISE 法案确立前沿 AI 监管标准

据 纽约时报 12 月 19 日报道，纽约州长凯西 · 霍楚尔（Kathy Hochul）于周五签署了 《负责任人工智能安全与教育法案》（RAISE Act），为先进 AI 模型制定安全开发规则。法案要求开发商披露安全协议并接受州政府监督，违规企业将面临最低 100 万 美元的民事罚金。在行业游说下，该法案部分条款已与加利福尼亚州的法律对齐以避免监管碎片化，但纽约州在事故报告速度上的要求更为严格。由于联邦监管缺失且特朗普政府试图限制地方权力，纽约此举填补了关键的政策空白。霍楚尔此前已在 AI 研究领域投入逾 3 亿 美元，OpenAI 与 Anthropic 等巨头对法案表示支持，认为这有助于在全国范围内建立安全共识。目前全美已有近 40 个州通过了约 100 项 AI 相关法律。

三家 AI 硬件知名公司于同一周内申请破产

据 TechCrunch 12 月 19 日报道，全球硬件行业在本周遭遇重大打击，扫地机器人制造商 iRobot、激光雷达开发商 Luminar 以及电动自行车品牌 Rad Power Bikes 相继申请破产。这些曾极具前景的公司如今集体面临困境，主要由于关税压力、供应链中断以及全球贸易紧张局势带来的挑战。海外低成本产品的竞争也削弱了其市场份额。iRobot 曾接近被 Amazon 收购，而 Rad Power Bikes 则因过度依赖海外供应链而陷入被动。这些破产事件反映出硬件初创企业在当前经济环境下生存的难度。