No.138 算法定价、隐私政策演变与开发者中介

大模型的隐私政策是如何悄悄变化的?

No.138 算法定价、隐私政策演变与开发者中介
Photo by Denley Photography / Unsplash
💡
本期会员通讯分享了三则新闻和两篇论文。

第一篇论文研究的是大语言模型的隐私政策。你有没有想过,这些政策跟我们熟悉的传统软件有何不同?这些政策的修改,究竟是技术更新的产物,还是监管压力下的被动回应?我们可能每天都在使用 AI 服务,却很少有人会真的去读那些冗长的隐私条款,但没关系,读一读这一篇论文也是可以的。

另一篇论文研究 Hugging Face,在这个号称「AI 的 GitHub」的开源社群里,权力真的分散吗?谁是模型下载量的最大赢家?在开源 AI 模型生态系统中,经济权力是如何随着时间推移在不同的国家、开发者和组织之间转移的?为什么开源的理想,似乎正一步步走向不透明的现实?这篇论文都给出了非常扎实的答案。

祝今日读写愉悦,洞见深省。

有事发生

Flock 被曝雇佣海外员工分析美国监控录像

连线 12 月 1 日报道,AI 监控公司 Flock 被曝通过 Upwork 平台雇佣海外员工,以训练其机器学习算法。根据 404 Media 审阅的意外泄露文件,这些员工负责审查和标注从美国采集的大量监控录像。资料显示,部分标注员位于菲律宾,他们的任务包括识别车辆品牌、颜色、车牌,以及分析音频事件,如枪声、车祸和人类尖叫声。Flock 的摄像头系统在美国数千个社区被警方广泛使用,通常无需搜查令即可查询车辆行踪。此次泄露引发了对美国居民监控数据隐私和安全的严重担忧,外界质疑谁能访问这些敏感信息。Flock 在接到问询后关闭了泄露的数据面板,并拒绝置评。


纽约率先立法监管 AI 算法定价引发争议

纽约时报 11 月 29 日报道,纽约近期颁布新法,成为美国首个针对「个性化定价」的地区。该法律要求使用人工智能及消费者个人数据来设定在线价格的零售商,必须明确展示「此价格由使用您个人数据的算法设定」的告知信息。此举旨在防止商家利用用户的消费历史、浏览行为等数据进行价格歧视,从而保护消费者权益。该法律引发了广泛争议,部分商业团体认为其规定过于宽泛并提起诉讼但未成功,而一些消费者权益组织则认为仅披露信息不足,应彻底禁止该行为。尽管如此,该法案被视为 AI 监管领域的标志性事件,目前全美至少有 10 个州正在考虑类似的立法。


白宫 AI 顾问 Sacks 的双重角色引争议

纽约时报 11 月 30 日报道,美国白宫 AI 与加密货币顾问 David Sacks 被指存在严重利益冲突。作为一名风险投资家,Sacks 在影响国家政策的同时,持有至少 449 家 AI 相关公司的股份。他推动了有利于芯片巨头 Nvidia 的出口政策,该政策预计为其带来高达 2000 亿美元的新销售额。Sacks 还支持了稳定币法案《GENIUS Act》,直接惠及他投资的加密公司 BitGo。此外,他利用其政府职位提升了个人播客 All-In 的影响力,并曾计划通过该播客主办有总统参与的商业赞助活动,引发白宫内部担忧。尽管 Sacks 获得了道德豁免,但其财务披露被指不完整,其双重身份的合规性受到质疑。