模糊性失落、具身知识与数据集标注

当朝夕相处的 AI 伴侣突然性情大变,人们如何面对这种特殊的失落?

模糊性失落、具身知识与数据集标注
Photo by Giulia Salvaterra / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇论文关注的是一个很特别的议题。很多人和 AI 聊天机器人建立了很深的情感连结,但这些关系却常常因为平台更新或关闭而戛然而止,这种突如其来的「告别」给用户带来了巨大的心理痛苦。那么,面对这种中断,用户内心到底经历了什么?是什么决定了他们悲伤的程度?我们又该如何设计,才能让这段关系的终结,至少能带来一些心理上的安全感?这篇论文很好地帮我们理解那种「它还在,但又不是它了」的新型 AI 失恋伤痛,很幽微但也很真切。

另一篇论文讨论数据标注。我们都希望 AI 更具包容性,但很多为残障人士设计的 AI 却不好用,问题常常出在用来训练模型的数据上。那么,要怎么才能把口吃者的亲身经验,真正融入语音数据的标注过程?我们可以和他们一起设计出一套怎样的标注指南?这会不会彻底改变我们对所谓「正确」数据的看法?

祝今日读写愉悦,洞见深省。

前沿速递

聊天机器人的死亡:探究并设计心理安全的人机关系终结方式

核心概念

模糊性失落(Ambiguous Loss):这是一个源于悲伤心理学的概念,本论文用它来描述用户在 AI 中断后所经历的一种特殊的悲伤。它指的是一种无法被完全确认或否认的失落,即失落的对象既不完全存在,也不完全消失。当 AI 伴侣因为模型更新而性格改变时,用户就面临着模糊性失落,因为聊天机器人仍然可以互动,技术上它还在那里,但用户所珍视的那个人格却已经消失了。这就像一位亲人患上了严重的认知障碍,他的人虽然还在你身边,但你所熟悉的那个灵魂和心智却已经不在了。这种不确定性让悲伤的过程变得极其困难,因为人们既无法真正告别,也无法回到过去,从而陷入一种悬置的悲伤状态中。

研究问题

AI 伴侣日益普及,许多用户与其建立了深厚的情感依恋。然而,这些关系常因平台更新、服务关闭或安全干预而突然中断,给用户带来巨大的精神痛苦,其悲伤程度与失去真实人际关系相似。现有研究虽探讨了人与 AI 的拟社会关系,但对于用户如何具体经历并应对这种关系中断的过程却缺乏深入的理论分析。目前,各大平台几乎没有为这些生命终结场景进行任何特意设计,使用户在没有告别仪式的情况下被动接受改变,造成了心理上的不安全感。

因此,本论文旨在回答以下核心问题:用户是如何理解与 AI 伴侣关系中断这一事件的,哪些关键因素决定了他们的情绪反应和应对策略?更进一步,基于这些理解,我们应如何为 AI 伴侣设计出能够提供心理安全感的终结体验,既能帮助用户妥善告别,又能引导他们将情感与精力重新投向真实的人际关系?