北京时间8月16日，饱受争议的美国加州《前沿AI模型安全创新法案》（后称加州AI安全法案SB 1047）在大幅度削弱相关条款之后，最终顺利通过加州众议院拨款委员会的审核。
加州参议员维纳团队向TechCrunch表示，该法案增加了 AI 公司 Anthropic 和其他反对者提出的几项修正案，最终在加州拨款委员会获得通过，朝着成为法律迈出了重要一步，其中进行了几项关键修改。
“我们接受了提议的一系列非常合理的修正案，我相信我们已经解决了 Anthropic 和业内许多其他人表达的核心担忧，”维纳参议员在声明中表示。“这些修正案建立在我之前对 SB 1047 做出的重大修改的基础上，以适应开源社区的独特需求，而开源社区是创新的重要源泉。”
SB 1047 仍旨在通过追究开发者的责任来防止大型 AI 系统造成大量人员死亡或造成损失超过 5 亿美元的网络安全事件。然而，该法案现在赋予加州政府更少的追究 AI 实验室责任的权力。而在国家层面监管法律难产的困局中，这成为了美国在AI监管上迈出的重要一步。
但是，李飞飞、杨立昆等AI行业部分人士认为，这最终将会损害加州乃至美国在AI领域的领先地位。数百名创业者签署了孵化器YC撰写的反对信，加州的100多位学界人士也发文反对，风投机构a16z专门建立网站细数法案六宗罪。目前，美国各地都在讨论许多 AI 法案，但加州的《前沿人工智能模型安全创新法案》已成为最具争议的法案之一。
对国内企业来说，法案要求云服务提供商收集客户信息、IP地址、支付方式等信息，这便利了监管部门的溯源工作。若后续管制进一步收紧，这可能会成为部分使用海外算力进行训练的中国AI企业面临的监管风险。
那么如今，加州AI法案获得通过，对于中美 AI 行业影响几何？钛媒体AGI梳理六个问题和回答，解释这一法案和背后一些信息。
一、加州 AI 法案有哪些新的约束？主要起什么作用？
加州 AI 法案SB 1047试图防止大型 AI 模型被用于对人类造成“严重伤害”。
该法案列举了“严重危害”的例子。例如，不良行为者使用 AI 模型制造武器，造成大量人员伤亡，或指示 AI 模型策划网络攻击，造成超过 5 亿美元的损失（相比之下，CrowdStrike 中断估计造成的损失超过50 亿美元）。该法案要求开发者（即开发模型的公司）实施足够的安全协议，以防止此类后果。
SB 1047的规则只适用于世界上最大的 AI 模型：成本至少为 1 亿美元，训练期间使用 10^26 FLOPS 的模型——这是巨大的计算量，但 OpenAI 首席执行官 Sam Altman 表示，GPT-4 的训练成本大约是这么多。这些门槛可以根据需要提高。
目前，很少有公司开发出足够大的公共 AI 产品来满足这些要求，但 OpenAI、谷歌和微软等科技巨头可能很快就会这样做。AI 模型（本质上是识别和预测数据模式的大型统计引擎）通常随着规模的扩大而变得更加准确，许多人预计这一趋势将持续下去。马克·扎克伯格最近表示，下一代 Meta 的 Llama 将需要 10 倍以上的计算能力，这将使其受到 SB 1047 的管辖。
最值得注意的是，该法案不再允许加州总检察长在灾难事件发生前起诉 AI 智能公司疏忽安全措施。这是 Anthropic 提出的建议。
相反，加州总检察长可以寻求禁令救济，要求公司停止其认为危险的某项操作，并且如果 AI 模型确实导致了灾难性事件，加州总检察长仍然可以起诉 AI 开发商。
二、谁来执行法案？如何执行？
目前新的加州 AI 法案已经宣布，不再设立前沿模型部门 (FMD)机构。但是，该法案仍然设立了前沿模型委员会——FMD 的核心——并将其置于现有的政府运营机构内。事实上，该委员会现在规模更大，有9人而不是5人。前沿模型委员会仍将为涵盖的模型设定计算阈值，发布安全指南并为审计人员发布法规。
修正后的法案最大的调整是，不再允许加州总检察长在灾难性事件发生前起诉AI企业忽视安全问题的行为。原有法案规定，只要审计员发现AI企业在日常运营中存在违法行为，企业就有可能被起诉。这标志着法案的监管重点转变为实际危害，也将减轻企业的合规压力。
最后，该法案还规定，如果模型公司内部员工试图向加州总检察长披露有关不安全的 AI 模型的信息，则将为员工提供举报人保护。
多数美国科技企业和AI创企都在加州运营，将受该法案约束。具体来看，这一法案主要关注“前沿AI模型”，只有训练模型算力成本超1亿美元的开发商才会面临监管要求，现有模型均不在监管范围内。未来Llama 4和GPT-5或许会是其主要监管对象。
三、违法行为如何惩罚？罚款1000万美元起，可判决关闭或删除模型
尽管该法案遭到了美国国会议员、知名 AI 研究人员、大型科技公司和风险投资家的强烈反对，但它还是相对轻松地在加州立法机构获得了通过。这些修正案可能会安抚 SB 1047 的反对者，并为州长纽森提供一份争议较少的法案，他可以在不失去 AI 行业支持的情况下签署成为法律。
如今，越来越多的科技人士反对加州 AI 法案。
Anthropic方面表示，它正在审查 SB 1047 的变更，然后再做出决定。此前该公司的修订建议并非全部都被维纳参议员采纳。
知名风投机构a16z则在官网列出他们眼中加州AI安全法案的“6宗罪”：
该法案将对加州的AI投资和发展带来寒蝉效应。
该法案依照并不明确的结果对开发者/开发商进行处罚。相关测试尚不存在。
该法案模糊的定义加上严格的法律责任，给AI开发商和企业主带来了巨大的不确定性和经济风险。
该法案可能迫使AI研究转入地下，无意中降低AI系统的安全性。
该法案对开源和初创企业开发者们造成了系统性的不利，而他们是加州创新和小微企业的核心。
该法案抑制了美国的AI研究与创新，给中国等国家在AI方面超过美国提供了机会。
a16z创始合伙人安德里森·霍洛维茨（Andreessen Horowitz)认为，加州 AI 法案虽出于好意，但因误导可能会削弱美国科技产业，正当技术未来正处于关键十字路口之时。美国需要领导者认识到，现在是采取明智且统一的 AI 监管行动的关键时刻。
斯坦福大学教授李飞飞则在《财富》杂志网站上发文详细解释反对理由，认为这一法案的主要问题有4点：过度惩罚开发者，因此有可能扼杀创新；“终止开关”将束缚开源开发工作，摧毁开源社区；削弱学术界和公共部门的AI研究，还有可能阻碍学术界获得更多资金；并未解决AI进步带来的潜在危害，如偏见或深度伪造问题。
此外，YC孵化器支持的数百家创企联名认为，这一法案可能会对行业和开发者生态带来四个负面影响：
窥视卡
雷达卡
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜