No.119 提示词扰动、类人偏见与守门机制
大语言模型在回答调查问卷时，会像人类一样因为选项顺序或措辞的微小变化而产生偏见吗？
第一篇论文研究的是，我们能把大语言模型当成可靠的调查对象吗？如果稍微改动一下问卷的措辞或者选项顺序，它们的回答会不会也像人一样摇摆不定呢？这篇对于希望用 AI 做研究的人来说，是一个非常重要的提醒。
第二篇论文关注的是 AI 训练数据的源头问题。研究者们比较了权威新闻网站和虚假信息网站，想看看这两类网站在禁止 AI 爬虫的比例、禁止爬虫的数量和种类、以及采取主动技术屏蔽的行为上有何不同？从一个很小的技术切口 robots.txt，揭示了一个关乎未来信息生态的大问题，再结合今天维基百科的新闻，不得不怀疑这一切对于所谓 AI native 一代到底是礼物还是泥沼。
祝今日读写愉悦，洞见深省。
有事发生
AI 监管辩论升级，白宫批评 Anthropic
据华尔街日报 10 月 18 日报道，AI 公司 Anthropic 的联合创始人 Jack Clark 近期因一篇警告 AI 风险的文章，引发了白宫的公开批评。Clark 在文章中将 AI 比作一个神秘生物，认为其正显示出自我意识迹象，可能带来无法预料的后果。对此，美国总统特朗普的 AI 事务主管 David Sacks 指责 Anthropic 在煽动恐惧，目的是为了实现「监管捕获」。这场争论的核心是关于 AI 是否以及如何进行监管，反映了科技界对不同风险的担忧。Sacks 担心，过度的州级监管会扼杀初创公司，并削弱美国在与中国的 AI 竞争中的优势。而 Anthropic 则支持加强 AI 护栏，并曾支持加州一项要求大型 AI 公司公开安全协议的法律。
维基百科人类流量年同比下降 8%
据 TechCrunch 10 月 17 日报道，维基百科基金会表示，维基百科的人类页面浏览量年同比下降了 8%。基金会认为，这与生成式 AI 和社交媒体的兴起有关。搜索引擎越来越多地直接提供 AI 生成的答案，而年轻用户则转向社交视频平台获取信息。访问量的减少可能导致志愿者编辑和个人捐赠者流失，对内容生态构成风险。因此，基金会呼吁 AI 和搜索公司鼓励用户访问原始网站。同时，维基百科也在开发新的内容归属框架，以应对这一挑战。
AI 时代传统手工艺迎来复兴
据金融时报 10 月 19 日报道，随着人工智能威胁到传统白领工作，一些英国从业者正转向濒危的传统手工艺行业。例如，前数字营销从业者 Jonathan Reid 如今成为了一名手工剪刀匠，他认为这份工作更具安全感。市场数据显示，全球手工艺品市场去年价值 9070 亿美元，预计到 2033 年将增至 1.94 万亿美元。许多手工艺人通过专注于高端定制、利用社交媒体营销，以及开设教学工坊来适应市场变化。但该行业也面临挑战，从业者收入偏低，且英国濒危手工艺名单已增至 165 项。尽管如此，从业者们相信，手工艺中无法被复制的人类触感，是其长久生存的关键。
特朗普发布 AI 生成视频嘲讽抗议者
据纽约时报 10 月 19 日报道，美国总统特朗普在社交媒体 Truth Social 发布了一段伪造视频。视频中，他头戴王冠，驾驶「国王特朗普」号飞机向抗议者倾倒棕色液体。视频发布当天，美国 50 个州正举行名为「不要国王」的大规模抗议活动，旨在反对特朗普的专制行为。对此，白宫发言人回应「谁在乎呢」，白宫还发布了特朗普与副总统戴王冠的 AI 生成图片。特朗普本人则在采访中否认自己是国王，而此前 6 月的类似抗议曾吸引约 500 万人参加。
