AI 生成性内容、非同意亲密影像与可持续关怀
谁在创作 AI 生成性内容,又如何划定同意与伤害的边界?
💡
本期前沿速递分享了两篇论文。几则新闻都指向 AI 产业正在加速进入资本市场:上市准备、巨额租赁、营收爆发和基础设施亏损。论文则把问题带回人的处境。
第一篇论文访谈了 28 位 AI 生成性内容创作者。这个题目很容易被简化成平台治理或色情内容管制,但作者先靠近创作者本身,问他们是谁,如何进入这个领域,用哪些工具和工作流制作图像、文本与影片,又如何理解同意、创作自由和技术探索之间的边界?
第二篇论文谈的是可持续的关怀。我们每天在社群媒体上看见气候灾难、战争、不平等与公共卫生危机,也常常觉得自己应该继续关注、表态、保持敏感。可是,关心一件庞大的公共议题,不能只靠更多资讯来支撑。这篇论文借用关怀伦理,把关心拆成注意、负责、行动、回应与共同协商几个环节,追问平台为什么常常让人停在看见问题这一步,却很难往真正能承担、能行动的方向走下去。
祝今日读写愉悦,洞见深省。
第一篇论文访谈了 28 位 AI 生成性内容创作者。这个题目很容易被简化成平台治理或色情内容管制,但作者先靠近创作者本身,问他们是谁,如何进入这个领域,用哪些工具和工作流制作图像、文本与影片,又如何理解同意、创作自由和技术探索之间的边界?
第二篇论文谈的是可持续的关怀。我们每天在社群媒体上看见气候灾难、战争、不平等与公共卫生危机,也常常觉得自己应该继续关注、表态、保持敏感。可是,关心一件庞大的公共议题,不能只靠更多资讯来支撑。这篇论文借用关怀伦理,把关心拆成注意、负责、行动、回应与共同协商几个环节,追问平台为什么常常让人停在看见问题这一步,却很难往真正能承担、能行动的方向走下去。
祝今日读写愉悦,洞见深省。
前沿速递
“无限的探索与实验领域”:人工智能生成性内容创作者的方法与动机
研究问题
生成式人工智能的快速发展使得用户能够定制性图像、文本和视频,形成了庞大的 AI 生成性内容(AIG-SC)生态系统。然而,这一技术也极大地加剧了非同意亲密图像(AIG-NCII)和儿童性虐待材料(AIG-CSAM)等非同意内容的传播,引发了严重的社会危害。以往的研究主要集中在对非同意亲密图像的危害、传播渠道和检测技术上,但对于合法的、同意基础上的 AI 生成性内容创作者群体却知之甚少,缺乏对其创作动机、技术手段以及他们与非同意内容创作者之间界限的系统性研究,这导致平台和法律在制定治理政策时面临如何在保护言论自由与防范性暴力之间取得平衡的困境。
本论文旨在填补这一空白,具体研究问题包括:究竟是谁在创作 AI 生成性内容,是什么促使他们开始创作?创作者们制作了哪些类型的 AI 生成性内容,又是如何制作的?他们生成这些内容背后的深层动机是什么?此外,在 AI 生成性内容社区中,那些制作非同意亲密图像的侵害者又是如何创作并对其行为进行合理化解释的?