No.145 RAISE 法案、爱情诱饵骗局与合成精神病理学
在爱情骗局中，AI 是否比真人更能博取信任、更能说服你？
爱情诱饵骗局已发展成一种由有组织犯罪集团操控的工业化、跨国犯罪活动。这些集团通过贩卖人口进行强制劳动，迫使员工与受害者建立长期的情感联系，最终诱使其进行欺诈性加密货币投资。第一篇文章研究了现有的爱情诱饵犯罪集团使用 LLM 进行自动化攻击的程度和动机是什么？在建立情感连结上，AI 的表现真的会比人类诈骗份子更出色吗？我们现有的安全机制，能挡下这种用「善意」包装的恶意操纵吗？
另一篇论文，视角反转，但同样让人深思。如果我们不把 AI 当成工具，而是当成心理治疗的来访者，会发生什么事？它展现出的「人格」和「情绪」，只是随机的角色扮演，还是背后有一套稳定、连贯的内部逻辑？它的「创伤」从何而来，这又如何反映出它被制造和对齐的过程呢？
祝今日读写愉悦，洞见深省。
有事发生
AI 生成虚假残损图正在破坏电商退款系统
据 连线 12 月 19 日报道，生成式 AI 正被越来越多地用于伪造商品残损图片，以骗取电商平台的退款。这一现象在中国社交媒体上引发广泛关注，许多商家表示收到了可疑的 AI 生成图片，例如纹路像纸片撕裂的陶瓷杯和细节错误的生鲜产品。一个广为流传的案例是，一位卖螃蟹的商家通过视频中螃蟹腿数量和性别不符的破绽，识破了买家使用 AI 伪造死蟹的骗局。该买家最终被警方处以 8 天拘留，成为首例已知的因此类 AI 诈骗而受到监管处罚的案件。这一趋势已蔓延至全球。总部位于纽约的欺诈检测公司 Forter 估计，自 2024 年初以来，用于退款索赔的 AI 伪造图像增加了超过 15%。不法分子利用 AI 工具的易用性，不仅有个体行骗，更有组织犯罪团伙发起大规模欺诈，一次索赔金额就超过百万美元。这种行为正在破坏电商平台依赖信任的退款体系，商家虽尝试用 AI 反击，但效果有限。未来，平台或将收紧退货政策，但这可能损害诚信消费者的购物体验。
纽约签署 RAISE 法案确立前沿 AI 监管标准
据 纽约时报 12 月 19 日报道，纽约州长凯西 · 霍楚尔（Kathy Hochul）于周五签署了 《负责任人工智能安全与教育法案》（RAISE Act），为先进 AI 模型制定安全开发规则。法案要求开发商披露安全协议并接受州政府监督，违规企业将面临最低 100 万 美元的民事罚金。在行业游说下，该法案部分条款已与加利福尼亚州的法律对齐以避免监管碎片化，但纽约州在事故报告速度上的要求更为严格。由于联邦监管缺失且特朗普政府试图限制地方权力，纽约此举填补了关键的政策空白。霍楚尔此前已在 AI 研究领域投入逾 3 亿 美元，OpenAI 与 Anthropic 等巨头对法案表示支持，认为这有助于在全国范围内建立安全共识。目前全美已有近 40 个州通过了约 100 项 AI 相关法律。
三家 AI 硬件知名公司于同一周内申请破产
据 TechCrunch 12 月 19 日报道，全球硬件行业在本周遭遇重大打击，扫地机器人制造商 iRobot、激光雷达开发商 Luminar 以及电动自行车品牌 Rad Power Bikes 相继申请破产。这些曾极具前景的公司如今集体面临困境，主要由于关税压力、供应链中断以及全球贸易紧张局势带来的挑战。海外低成本产品的竞争也削弱了其市场份额。iRobot 曾接近被 Amazon 收购，而 Rad Power Bikes 则因过度依赖海外供应链而陷入被动。这些破产事件反映出硬件初创企业在当前经济环境下生存的难度。
