加州 AI 监管法案、AI 伴侣三角互证研究与自愿承诺

科技巨头的 AI 安全承诺可信吗?

加州 AI 监管法案、AI 伴侣三角互证研究与自愿承诺
Photo by Ahmet Yüksek ✪ / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇论文的研究对象依旧是 AI 伴侣,之前我们分享过好几篇这个主题的文献,但它们基本上都是采用短期定性访谈,缺乏对长期、自然情境下心理社会影响的衡量,难以建立因果关系。这篇论文算是把这个空白补上了,同时用纳普关系发展模型来解释人机关系的演变过程也比以往的研究多了一些理论对话。

另一篇论文也很有启发,切入点新奇。我们经常看到大公司发布各种 AI 安全声明,但这些听起来很美好的承诺,它们真的做到了吗?这篇研究帮我们看看这些公司到底交了怎样的答卷。

朋友们,那咱们国庆假期后再见啦,放假玩得开心呀。

祝今日读写愉悦,洞见深省。

前沿速递

AI 伴侣对心理健康的影响:一项结合社交媒体准实验、用户视角和关系理论的三角互证研究

核心概念

纳普关系发展模型(Knapp’s Relational Development Model):这是一个描述人际关系如何建立、发展和瓦解的经典社会心理学理论,它将关系发展过程分解为一系列有序的阶段。这个模型就像描绘一段友谊或恋情的生命周期。比如,你认识一个新朋友,一开始只是打个招呼、聊聊天气(初始阶段),然后开始互相了解兴趣爱好(试验阶段),接着会分享更私人的心事、关系变得亲密(强化阶段),最后可能成为彼此生命中非常重要的人,公开承认你们是最好的朋友(联结阶段)。研究者用这个模型来分析用户与 AI 伴侣的互动,发现这种人机关系也同样经历了从陌生试探到深度情感依赖的演变过程。

研究问题

生成式人工智能的进步催生了像 Replika 这类 AI 伴侣聊天机器人的普及,它们被宣传为能提供情感支持、缓解孤独。现有研究对 AICC 的评价不一,一些研究肯定了其在情感慰藉和减少孤独感方面的积极作用,但也有研究指出了情感过度依赖、用户脆弱性增加等潜在风险。然而,这些研究大多依赖于用户的自我报告和短期定性访谈,缺乏对长期、自然情境下心理社会影响的客观衡量,难以建立因果关系,因此我们尚不清楚长期使用 AICC 会如何改变用户的心理和行为。

基于上述背景,本研究旨在回答两个核心问题:第一,从长期来看,使用 AI 伴侣聊天机器人会对用户的心理社会福祉(涵盖情感、行为和认知层面)产生哪些可衡量的因果效应?第二,用户自身是如何感知和体验与 AI 伴侣建立关系的过程,以及这一过程如何影响他们的心理社会状态?