大语言模型同形论、过渡性就业与 AI 韧性

人会不会越来越像语言模型?

大语言模型同形论、过渡性就业与 AI 韧性
Photo by Annie Spratt / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇论文太有趣了!作者提出「大语言模型同形论」这个概念。过去我们更担心人们把机器看得太像人,把理解、意图和心智投射到聊天机器人身上。但当大语言模型能持续生成流畅、贴合语境的语言时,另一种反向推理也开始变得流行:人类是不是也只是某种会预测下一个词的语言模型?如果这种说法进入日常语言,它会怎样影响我们看待学习、创造力、专业知识和责任归属?或许如今的难题不仅是 LLM 越来越像人,而是人本身变得越来越像 LLM?

第二篇论文把视角放到正在进入过渡性就业的老年劳动者。研究团队访谈了印度 21 位 47 至 71 岁、已经使用生成式 AI 至少两年的知识与创意工作者。他们面对的是职业后半段的一组重新判断:哪些经验还值钱,哪些任务可以交给工具,哪些判断必须留在自己手中。生成式 AI 扩散之后,过渡性就业还能够提供原本的稳定感吗?

祝今日读写愉悦,洞见深省。

前沿速递

大语言模型同形论:当人类开始把自己看成语言模型

核心概念

大语言模型同形论(LLMorphism):这是一种带有偏误的信念,认为人类认知方式与大语言模型的运作方式相似,是机械同形论在大语言模型时代的特定形式。其核心特征是把人类语言输出与模型语言输出的表面相似,误当作认知架构层面的相似,进而用预测下一个词、模式补全、训练数据等模型概念来描述人类思维、学习、创造力和内省。该信念不必被任何人明确表达,就可以通过日常语言和文化隐喻悄然扩散,对劳动替代、专业评估、责任归因、医疗判断和知识标准都可能产生影响。

机械同形论(Mechanomorphism):这指的是用机器特有的概念和过程来解释人类行为的思维方式,与把人类特征赋予非人对象的拟人化方向相反。该术语由心理学家在二十世纪中期提出,用以涵盖把人视为时钟、引擎、机器人、计算机或一般优化系统的各种倾向。它强调的是对人的整体重新描述,而非仅仅借用某个具体类比,因此往往会带来对能动性、情感和具身性的系统性忽视。

类比迁移(Analogical transfer):这是认知心理学中的一种推理机制,指人们把一个领域中的关系结构映射到另一个领域,从而把源领域的属性和推论投射到目标领域。根据结构映射理论,当两个系统在关键关系上看起来对齐时,观察者倾向于借用源领域的概念来理解目标领域。该机制在科学发现、教学和日常理解中都很常见,但也容易在结构相似性被高估时引发错误推论。

隐喻可得性(Metaphorical availability):这指的是某一领域的词汇和概念在文化中变得显著之后,被人们用来理解其它抽象领域的现象。根据概念隐喻理论,人类常常通过把抽象概念映射到具体或文化上显眼的源领域来加以理解,而占主导地位的技术往往会提供描述心智的现成隐喻,例如液压系统、机械装置、计算机和信息处理都曾被用来比喻心理过程。当某种隐喻进入日常语言,它就会塑造人们对相关现象的默认描述方式。

研究问题

围绕人工智能与人类关系的公共讨论长期集中在拟人化(anthropomorphism)问题上,也就是人们是否把过多的心智、意图和理解力赋予了机器。早期对计算机、聊天机器人 ELIZA 以及当下对话式大语言模型的研究都沿着这一方向展开。然而,这条研究路径只覆盖了问题的一半:当机器越来越能产出流畅、连贯、贴近语境的语言时,人们可能反过来用机器的方式重新理解人类自己。既有讨论缺少一个专门概念去捕捉这种反向推理,也没有把它与机械同形论、去人性化、物化、计算主义和预测加工理论清楚区分开。

因此,这篇论文的研究问题是:当对话式大语言模型大规模进入日常生活,人们是否会开始相信人类认知本身就像大语言模型一样运作?这种被称为大语言模型同形论的偏误信念如何形成、通过哪些机制扩散,又会如何重塑社会对工作、专业知识、能动性、身体经验和知识判断的理解?