付费委托、Deepfake 悬赏市场与监管灰色地带

Deepfake 悬赏会催生什么市场?

付费委托、Deepfake 悬赏市场与监管灰色地带
Photo by Ruben Mavarez / Unsplash
💡
本期前沿速递分享了两篇论文。

第一篇论文带我们了解 AI 创作平台 Civitai 上的付费委托市场。当创作可以明码标价,金钱会把社群引向何方?成人内容和深度伪造的需求有多普遍?平台所谓的监管又是否只是虚设?这篇用数据揭示了在缺乏有效规范时,商业模式如何塑造社群生态,让我们反思平台责任这个老问题在 AI 时代的新挑战。

第二篇论文则分析了大语言模型那些我们很少细读的服务条款。各家公司的规则为何大不相同,甚至自相矛盾?这些模糊的条款如何限制了对 AI 的独立研究?这背后又是否藏着科技公司转移责任的策略?

祝今日读写愉悦,洞见深省。

前沿速递

一个 AI 生成的成人内容与深度伪造的市场

核心概念

Civitai 悬赏(Civitai Bounties):这是 AI 内容平台 Civitai 上的一种货币化功能,它构建了一个付费委托市场。用户可以通过支付平台内的虚拟货币来发布一个悬赏,公开请求其它用户为其创作特定类型的 AI 生成内容或工具,如图像、视频或 LoRA 模型。例如,如果你想生成一张特定风格的、描绘某个虚构角色的高清图片,但自己缺乏相应的技术或时间,你可以在 Civitai 上发布一个悬赏,设定一个奖励金额。其它具备技能的用户看到后,就可以提交他们的作品来竞争这个奖励,最终由你选择最满意的作品并支付报酬,这套系统直接将内容需求与创作者的劳动和报酬联系起来。

LoRA(Low-Rank Adaptation):这是一种高效微调大型 AI 模型的技术,它通过训练一个微小的适配器网络来调整模型的行为,而无需改动庞大的原始模型。LoRA 文件体积小,易于分享和使用,允许用户在基础模型之上,精确地生成特定的人物、风格或概念。举例来说,一个通用的图像生成模型可能无法画出某个特定的动漫角色。用户可以收集该角色的几十张图片,训练一个专门的 LoRA 文件。之后,任何人在使用通用模型时,只要加载这个 LoRA,就能轻松地让 AI 生成该角色的高质量新图像。

研究问题

生成式人工智能的普及催生了如 Civitai 这样集社交与内容创作于一体的新型平台。在这些平台上,用户不仅是内容的创作者和消费者,也是生成工具本身的创造者。以往的研究主要集中在分析 Civitai 上已生成的图像和模型,探讨其主题和潜在危害,但对于平台独特的悬赏系统,即一个直接协调需求、劳动力和报酬的付费委托市场,其内部动态和激励机制仍然是一个研究空白。我们尚不清楚用户通过这个市场具体在请求什么类型的内容,以及这种货币化机制如何塑造内容生产的方向。

因此,本研究旨在填补这一空白,通过系统性分析 Civitai 的悬赏市场来回答以下核心问题:用户在该市场上主要请求哪些类型的内容,其中安全内容(SFW)与成人内容(NSFW)的普遍程度如何?这些内容的比例是如何随时间变化的?深度伪造内容的请求有多普遍,其主要针对哪些人群?悬赏市场的参与度是否集中在少数用户身上,不同内容类型的集中度是否存在差异?最后,平台为管理深度伪造内容所采取的干预措施在实践中的应用效果和一致性如何?