Anthropic提出AI政策框架：争取法律权力遏制高风险AI发布

Anthropic在其“AI Exponential”计划下提出了一项新的AI政策框架，称前沿模型的能力提升正在快于现有监管。该AI政策要求政府拥有权力，以通过与全球年度收入挂钩的民事处罚来阻止或威慑危险的AI部署；若出现重复违规，处罚力度将进一步提高。 该提案分为两条路径：面向前沿模型安全的Advanced AI Framework，以及关注劳工与共享经济收益的Economic Policy Framework。其适用范围仅针对最强大的系统——门槛设为训练超过10^25次浮点运算的模型；同时覆盖年AI相关收入超过5亿美元的公司（或AI研发投入超过10亿美元的公司）。 安全要求包括：发布前测试、提交并公开安全相关材料（摘要、安全框架、系统卡），以及由独立评估机构审阅风险报告的制度。开发者还需加强对模型权重与训练系统的安全，并公布其整体风险态势。 风险覆盖聚焦灾难性情景：生物风险（例如被用于开发有害病毒）、网络风险（前沿模型可大规模发现软件漏洞，影响医院与电力等关键系统）、失控风险，以及自动化AI研究带来的风险。 第二部分强调公共韧性：生物威胁方面包括基因合成筛查与生物监测预警；网络威胁方面包括强化互联网软件并为关键基础设施运营方提供支持；同时也呼吁更好的检测、遏制或关闭不安全系统的工具。Anthropic表示，政策制定者可先从较轻的规则开始，并随着能力演进逐步调整。