AI 抱怨、算法想象与人工智障

「人工智障」标签背后仅仅只是抱怨吗?

AI 抱怨、算法想象与人工智障
Photo by Mick Haupt / Unsplash
📑
「人工智障」听起来像一句随便的网络梗,但它并不只是情绪出口。用户在抱怨 AI 时,常常也在说明自己期待 AI 怎么工作、什么才算常识、系统应该怎样理解文化和情景?这篇论文最有意思的地方,是它认真对待这些看似零散的碎片抱怨。作者从微博公开帖子里追问:普通用户不用「幻觉」「偏见」「算法治理」这些词,是否仍然在形成自己的 AI 理论?当抱怨被截图、转发和附和,它又怎样变成一种公共的算法想象?

可能如今随着模型的能力变化,很多论文里具体的抱怨不会再重现,但新的智障表现仍层出不穷,「人工智障」所带来的损害也在现实中不断发生着,想起来,前两天还看到有农民因为轻信 AI 的施肥建议导致大片庄稼毁坏的事情,感慨万千。总之,理解技术的绝佳入口之一往往可以从技术失灵开始,这也是今天分享这篇的原因。

祝今日读写愉悦,洞见深省。

身边的人工智障?理解用户日常生活中的 AI 抱怨

研究问题

AI 会出错不是新鲜事。语音助手听不懂指令,聊天机器人胡编答案,图像生成系统画出奇怪的身体,这些都可以被归入故障、偏见或幻觉。但普通用户在日常生活里遭遇 AI 时,往往不会使用这些技术或学术词汇。他们更可能把一次恼火、无语、尴尬或荒唐的互动截图发到社交媒体,再贴上「这真是人工智障」的标签。

既有研究已经讨论了用户是否信任 AI、是否愿意采用 AI,也讨论了算法偏见、AI 失败和大模型幻觉等技术问题。这些研究帮助我们看见 AI 的风险和技术缺陷,却较少解释普通用户怎样在具体生活场景中理解这些失败。作者因此把「算法想象」和「抱怨行为」结合起来理解这些帖子。算法想象指用户根据自身经验形成的理解和期待,包括算法是什么、应当怎样运行、实际又如何运行;抱怨行为研究则提醒我们,负面评价也有情绪功能和社会功能,既能释放不满,也能向他人寻求理解、共鸣或支持。

顺着这个思路,论文提出「AI 抱怨」这个概念,并追问中国社交媒体用户在使用「人工智障」这个说法时,究竟在讲述什么样的 AI 经验。他们如何从日常互动中形成对 AI 的负面评价,又如何把这些评价组织成可以被转发、附和和争论的公共抱怨?论文还进一步追问,这些抱怨除了释放情绪,是否也帮助用户建立对 AI 的共同理解,并重新思考人和 AI 在互动中的责任边界?