模型小型化、算力治理与前沿审计
随着模型不断小型化，低算力 AI 系统构成的安全威胁有多严重？
目前很多国家的 AI 治理政策都盯着高端芯片，觉得管住算力就安全了。但如果模型越变越小，性能却越来越强，这种方法会不会失效？只用一台普通电脑，到底能造成多大的破坏？如果我们不能只靠限制算力，那未来的 AI 治理又该走向何方？第一篇论文就直面这个棘手的问题。
第二篇承接着第一篇，聚焦前沿人工智能审计的话题。现在各大 AI 公司都说自己很重视安全，但他们的开发过程像个黑盒子，外人很难知道真假。我们该如何穿透这层不透明，去验证这些安全声明？金融、航空这些高风险行业，有没有什么成熟的经验可以借鉴？要建立一套真正有效的 AI 第三方审计制度，具体又该从何处着手？第二篇论文提出了一个很有建设性的方案。
祝今日读写愉悦，洞见深省。
前沿速递
小型模型，巨大威胁：剖析低算力人工智能模型的安全挑战
核心概念
模型小型化（Model Miniaturization）：这个概念指的是一种行业趋势，即先进的 AI 能力正从以往需要巨大计算资源的大型模型，逐渐扩散并实现在参数更少、计算效率更高的轻量级模型中。这不仅包括对现有大模型进行量化压缩等优化技术，更关键的是指整个 AI 领域在不断开发出新的、原生尺寸更小但性能却能与旧有大型模型相媲美的模型。
以算力为中心的治理（Compute-centric Governance）：这是一种 AI 风险管理策略，它主要通过监控和限制对大规模计算资源的访问来防止 AI 被滥用。这种治理方式假设，最具危险性的 AI 模型需要极高的算力进行训练和部署，因此只要管住高端计算芯片的生产和流通，就能从源头上控制住 AI 风险。
基于能力的风险评估（Capability-based Risk Evaluation）：这是一种替代性的 AI 治理思路，它主张不应仅根据一个模型的大小或其所需的计算资源来判断其风险，而应直接评估其所具备的实际能力，特别是那些可能被用于恶意的能力。这种评估方法会设计一系列专门的基准测试，来探测模型是否具备如高度说服力、欺骗性、生成有害信息或辅助网络攻击等危险功能。一个模型无论大小，一旦在这些测试中表现出高风险能力，就会被标记并接受更严格的监管。
研究问题
人工智能技术在推动社会进步的同时，也带来了潜在的巨大风险。为了管控这些风险，现有的许多政策框架，如美国的半导体出口管制和欧盟的《人工智能法案》，都将监管焦点放在高算力模型上。然而，这种方法忽视了一个日益增长的趋势：模型压缩技术和算法优化使得 AI 能力正迅速从大型前沿系统扩散到小型的、低算力的模型中，这些模型可以在消费级设备上轻松部署。这就导致了当前治理框架存在一个明显的盲区，即它们可能无法有效应对由这些易于获取、难以追踪的低算力模型所带来的威胁。
基于以上背景，本论文旨在回答以下核心问题：随着 AI 模型不断小型化，低算力 AI 系统构成的安全威胁有多严重？当前以高算力为中心的 AI 治理框架是否足以应对这些新兴的、分布式的威胁？如果不足，我们应该如何调整或补充现有的风险管理策略来有效解决这一问题？
