生成式搜索、信任幻觉与工作观重构
人们为什么信任 AI 搜索？
💡
本期前沿速递分享了两篇论文。
第一篇讨论我们日常生活中愈发依赖的生成式人工智能搜索。当大型语言模型成为搜索引擎的核心，我们对其结果的信任度将直接塑造我们的决策。然而，与传统搜索相比，人们对 AI 搜索的信任度有何不同？更进一步，生成式搜索界面中的特定设计元素，又是如何直接影响用户信任的？这些设计上的小花招是否可能在用户心中制造出「严谨性表象」，即便其背后缺乏事实支撑？
第二篇则用了一种新方式讨论一个旧问题：AI 对就业和劳动领域的深刻变革。作者观察到，许多现有研究试图理解和预测 AI 带来的后果，但往往受困于一种「简化论的工作观」。作者认为这种框架过于片面，未能充分捕捉到 AI 在真实工作场所中引发的复杂互动和深层变革。那么我们如何才能超越目前主流的、将任务和技能视为孤立元素的工作观，从而更全面、更深入地评估人工智能对人类就业和劳动的真实影响？有哪些替代性的研究方法和分析视角，能够更好地捕捉工作任务与技能之间的高度相互依赖性，以及工作情境在塑造 AI 技术实际应用效果中的关键作用？
祝今日读写愉悦，洞见深省。
第一篇讨论我们日常生活中愈发依赖的生成式人工智能搜索。当大型语言模型成为搜索引擎的核心，我们对其结果的信任度将直接塑造我们的决策。然而，与传统搜索相比，人们对 AI 搜索的信任度有何不同？更进一步，生成式搜索界面中的特定设计元素，又是如何直接影响用户信任的？这些设计上的小花招是否可能在用户心中制造出「严谨性表象」，即便其背后缺乏事实支撑？
第二篇则用了一种新方式讨论一个旧问题：AI 对就业和劳动领域的深刻变革。作者观察到，许多现有研究试图理解和预测 AI 带来的后果，但往往受困于一种「简化论的工作观」。作者认为这种框架过于片面，未能充分捕捉到 AI 在真实工作场所中引发的复杂互动和深层变革。那么我们如何才能超越目前主流的、将任务和技能视为孤立元素的工作观，从而更全面、更深入地评估人工智能对人类就业和劳动的真实影响？有哪些替代性的研究方法和分析视角，能够更好地捕捉工作任务与技能之间的高度相互依赖性，以及工作情境在塑造 AI 技术实际应用效果中的关键作用？
祝今日读写愉悦，洞见深省。
前沿速递
人工智能搜索中的人类信任
研究问题
LLM 正日益成为生成式搜索引擎的核心技术，这些引擎反过来又大规模地驱动着人类的信息搜索和决策过程。人们对生成式人工智能的信任程度也因此能够影响我们的购买行为、投票意向乃至健康选择。然而，一个严重的问题是，生成式搜索经常会「幻觉」（hallucinates）出不正确的甚至危险的信息，这对人类健康、民主进程都构成了风险。尽管之前的研究已经开始探讨生成式搜索信息的可靠性、可信度和多样性，但目前还没有研究明确建立生成式搜索设计对人类信任的因果效应。随着 GenAI 技术的普及，评估人类对其信任度变得至关重要。信任影响着 AI 的采用率，影响着我们决策的质量，错误的信任可能导致对 AI 的过度依赖和严重错误。特别是在医疗、金融、交通和选举等关键领域，确保这些系统值得信赖至关重要。
基于此，本文的研究问题是当前全球范围内，用户在不同主题、不同查询风格和不同国家使用搜索引擎时，接触到生成式人工智能搜索结果的程度如何？与传统搜索相比，人们对生成式人工智能搜索的信任程度有何不同？生成式搜索界面中的特定设计元素如何影响用户对搜索结果的信任度？
