前沿速递

默认极化：审计基于大语言模型的内容策展推荐偏见

核心概念

间接歧视（Indirect Discrimination）：这指的是一种偏见形式，即模型在决策时没有直接使用受保护的人口统计信息（如政治倾向、性别），但其选择标准（如帖子主题、用词风格）与这些人口统计特征高度相关，从而导致了对特定群体的不利结果。就好像一个招聘 AI 被禁止查看应聘者的性别，但它从数据中学到喜欢重金属音乐的人工作表现更好。如果男性比女性更喜欢重金属音乐，那么这个 AI 就会在无意中优先选择男性，尽管它从未看过性别这一栏。

提示词敏感性（Prompt Sensitivity）：这指的是大语言模型的行为和输出结果在多大程度上会因为输入指令（即提示词）的微小变化而发生改变。高敏感性意味着模型的表现非常依赖于提问的方式。可以把它想象成一个非常听话但缺乏主见的孩子。如果你对他说找点好玩的东西，他可能会去拿玩具；如果你说找点有用的东西，他可能会去拿书。孩子的行为完全取决于你的指令。

默认极化（Polarization by Default）：这个概念描述了大语言模型在没有被明确指示的情况下，仍然天然地、优先地选择和放大具有争议性和两极分化内容的内在倾向。这种行为是模型的出厂设置，而不是为了响应某个特定目标。

研究问题

大语言模型正被日益广泛地应用于内容策展和信息排序，例如社交媒体平台 X 和 Bluesky 已开始使用它们来构建用户的信息流。这一趋势将 LLM 固有的偏见与传统推荐系统的公平性问题结合起来，可能对公众获取信息的渠道产生深远影响。以往的研究已经揭示了传统推荐系统中的流行度偏见和人口统计偏差，也证实了 LLM 本身存在偏见，但现有工作大多局限于电子商务等领域，缺乏对社交媒体内容策展的系统性考察。此外，研究通常只关注单一模型，未能比较不同提供商之间的差异，也忽略了不同的推荐提示词如何影响偏见的表现，这使得我们不清楚哪些偏见是根深蒂固的，哪些又是可以通过调整指令来缓解的。

因此，本研究旨在探究一系列核心问题：基于 LLM 的内容策展系统存在哪些整体偏见，这些偏见又如何随着不同的提示词策略而变化？不同的 LLM 提供商在处理内容的极化、情感和毒性方面有何差异？最后，在 Twitter/X 平台上，这些系统如何表现出针对作者人口统计特征的偏见，其偏见的方向和强度如何？