美加州否决SB-1047法案OpenAI、Google逃过一劫

美国加利福尼亚州州长Gavin Newsom于周一（30日）凌晨正式否决了SB-1047法案，此举在全球范围内的人工智能（AI）领域引起了广泛关注。在过去的30天里，Newsom州长签署了17项与大型模型和生成式AI安全使用相关的法案，而唯独对SB-1047法案持否定态度，这反映出他对该法案潜在影响的深刻认识。

SB-1047法案全称为《前沿人工智能模型安全创新法案》，于2024年2月7日提出，并在6月2日由加州政府投票通过。该法案旨在加强大型AI模型的安全性、透明性和使用规范性。然而，法案中包含的多项不合理条款，特别是对开发和训练成本超过1亿美元的大型模型实施的严格监管，引起了广泛争议。这意味着，如Meta的Llama-3系列和Google的Gemma系列等开源模型，一旦被用于非法用途，其来源开发商将面临严厉的处罚。

此外，法案还要求大型公司在向其他国家用户开放其模型时，必须提交用户的详细信息，包括身份、信用卡信息及交易记录等。这些要求不仅大幅增加了企业的合规成本，还可能对新创企业的生存构成严重威胁。

在否决公告中，Newsom州长指出，全球50家顶级AI企业中，有32家位于加州，这些企业对AI技术的发展和创新起着至关重要的作用。他认为，尽管SB-1047法案的初衷是出于善意，但在实际操作中存在严重问题。该法案过于关注大型AI模型，可能导致公众对技术控制产生虚假的安全感，而实际上，小型专业化模型同样可能带来更大的风险。

此外，Newsom州长还指出，该法案缺乏灵活性，没有为不同类型的AI应用提供足够的适应性，这可能导致在实施过程中产生混淆和不确定性。他强调，法案没有考虑到AI模型是否部署在高风险环境中，而在低风险环境中，可能并不需要同样严格的监管措施。同时，法案也没有明确哪些类型的决策是关键决策，以及什么是敏感数据，这可能会导致在保护个人隐私和数据安全方面存在不足。

Newsom州长认为，保护公众免受AI技术威胁的最佳方法是采取更加细致、有针对性的监管措施，而非一刀切的解决方案。

此前，多位人工智能研究者（如李飞飞、吴恩达）曾认为SB-1047法案将对人工智能技术的发展产生“寒蝉效应”，并限制其发展。因此，该法案的否决对于全球开发者和科技企业来说是一个积极的信号，意味着他们可以继续利用Meta、Google等公司的开源大型模型进行创新。

然而，尽管Newsom州长否决了SB-1047法案，让多数从事人工智能开发的科技从业者松了一口气，但也有不少人认为，人工智能技术的发展仍然需要更加明确的管理办法。例如，被誉为深度学习教父的Yoshua Bengio和Geoffrey Hinton就支持通过SB-1047法案。

随着AI技术的快速发展，如何在保障安全与促进创新之间找到平衡，将成为未来政策制定者面临的重要挑战。

本报告基于美国加州官网的最新消息，旨在深入分析SB-1047法案及其影响。