道德基础、类人信任与社会临场感

机器人能改变我们的道德立场吗?

道德基础、类人信任与社会临场感
Photo by rishi / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇探讨了一个非常有趣的话题。我们常常觉得,不同意识形态阵营的人就像活在两个世界,难以沟通。但如果,与我们对话的不是人,而是一个被设定了特定道德立场的人工智能,情况会有所不同吗?它能否巧妙地动摇我们根深蒂固的观念,甚至成为弥合社会分歧的工具?

第二篇研究则把目光投向了我们与人工智能关系的核心,也就是信任。我们每天都在使用它们,但我们真的信任它们吗?究竟是什么让我们对一个看不见摸不着的程序产生类似对人一样的信任感?是它展现出的公平无私,还是它在互动中给予我们的那种温暖陪伴与情感共鸣?

祝今日读写愉悦,洞见深省。

前沿速递

基于道德的聊天机器人交流实验:探寻解决民主社会分裂的方案

核心概念

道德基础理论 (Moral Foundations Theory):该理论认为,人类的道德判断源于一组多元的、天生的心理基础,主要分为五个核心维度:伤害/关爱、公平/互惠、内群体/忠诚、权威/尊重和纯洁/神圣。

个体化基础 (Individualizing Foundation):这是道德基础理论中的两大支柱之一,主要关注个体的权利和福祉,强调保护人们免受伤害和不公待遇。它包含两个核心道德维度:伤害/关爱(Harm/Care),即对他人遭受痛苦的敏感以及同情心;和公平/互惠(Fairness/Reciprocity),即对不公平待遇的厌恶以及对正义和权利的追求。通常,持自由主义意识形态的人会更侧重这一道德基础。举例来说,假设一家公司因经济不景气需要裁员,持有个体化基础观念的管理者在做决定时,会首先考虑如何最大程度地减少对员工个人及其家庭造成的痛苦(伤害/关爱),并确保裁员的标准和流程对每个人都是公开透明且一视同仁的(公平/互惠),而不是优先考虑维护公司内部的等级秩序或传统。

约束性基础 (Binding Foundation):这是道德基础理论中的另一大支柱,主要关注维护群体和社会结构的稳定与和谐,强调将个体约束于更大的社会单元中。它包含三个核心道德维度:内群体/忠诚(Ingroup/Loyalty),即对家庭、团队、国家等所属群体的忠诚;权威/尊重(Authority/Respect),即对合法权威和传统的尊重;以及纯洁/神圣(Purity/Sanctity),即对可能导致身心污染或堕落的事物的规避。通常,持保守主义意识形态的人会同时看重约束性基础和个体化基础。举例来说,在一场关于是否应改革传统校服的辩论中,一个更看重约束性基础的学生或家长可能会认为,统一的校服是学校传统的象征,有助于培养学生的集体归属感和对学校的忠诚(内群体/忠诚),并且遵守校服规定是尊重学校纪律和权威的表现(权威/尊重),因此不应轻易改变。

研究问题

民主社会的一大弱点是内部分裂,其根源往往是意识形态冲突,而意识形态冲突的背后则是道德价值观的碰撞。以往的社会心理学研究主要通过阅读情景短文或观察实验室内参与者之间的自发讨论来探究道德冲突,这些方法难以精确控制和操纵沟通变量。因此,本研究旨在利用生成式 AI 来弥补这些不足。

本研究试图回答以下核心问题:首先,聊天机器人能否在对话中有效反映其被设定的道德基础?参与者能否准确感知到聊天机器人的道德立场?其次,参与者对具有不同道德立场的聊天机器人会形成怎样的性格印象?沟通体验是否顺畅?参与者能否意识到对话伙伴是 AI?再次,与承载特定道德观点的聊天机器人进行讨论,是否会改变参与者在意识形态敏感议题上的看法?最后,参与者自身的道德观和聊天机器人的道德观之间的异同,会如何影响他们对聊天机器人观点的认知与情感反应?