加州“人工智能安全”法案一旦生效将产生全球影响

来源：EVH1000机器人

加州立法者通过了一项法案，旨在防止人工智能软件造成灾难性损害。该法案被称为《前沿人工智能模型安全与可靠创新法案》，要求某些在加州开展业务的人工智能公司通过安全评估和其他措施来遏制超过 5 亿美元的大规模生命损失或损害。

世界上大多数最大的人工智能公司都位于金州，几乎所有不在金州的公司仍将在那里开展业务。因此，该法案将产生深远的影响，甚至可能是全球性的影响如果州长加文·纽瑟姆在未来几周内将其签署成为法律。该法案目前正在等待他在州议会和州参议院通过后签署。

该法案引起了激烈争论。经过立法者和人工智能行业的反复讨论，经过九轮修正案后，该法案获得通过。它还引发了人工智能行业内部的分歧，一些人支持该法案，尽管有些犹豫，而另一些人则表示这将扼杀创新并阻止小公司和投资者开发人工智能产品。开源倡导者还担心该法案会对那些发布人工智能模型供其他人自由构建的人提出繁重的要求。

计算机科学家、所谓的“人工智能教父”约书亚·本吉奥 (Yoshua Bengio ) 表示，极好的和极坏的后果的可能性都需要平衡。本吉奥在该法案发起人、加州参议员斯科特·维纳周一举行的新闻发布会上表示，可预见的风险需要采取行动。

支持该法案的本吉奥表示：“我们的目标应该是一条既能实现创新，又能在科学家确定的可能情况下保证我们安全的道路。”

未知力量的调节技术

具有革命潜力的技术的未来岌岌可危。随着程序员创建复制人类智能各个方面的软件，自动化和显着加速需要高级认知的任务的潜力不断增长。

李飞飞在福布斯的一篇文章中写道，人工智能固有的可能性意味着政府应该采取“登月心态”来支持该技术的发展。李——一位经常被称为“人工智能教母”的计算机科学家——还写道，该法案的早期版本因要求人工智能软件的原始开发者对第三方滥用行为承担责任而陷入困境（该法案还要求第三方承担责任） .)。在李的讲话之后，维纳进行了多轮修改，旨在减轻原始程序员的负担。

人工智能对商业、军事和政府部门的影响很难预测，但支持者和相关监管机构都认为，该技术的广泛使用将带来变革。

对人工智能的担忧包括世界末日场景，例如生物武器的制造，以及身份盗窃等更常见的恐怖事件的放大（想想黑客窃取和出售你的个人信息的速度越来越快）。此外，在批准抵押贷款、提供工作面试或决定被指控犯罪的人是否应该获得保释的软件程序中，人为偏见的幽灵变得越来越严重。

周三的法案旨在限制人工智能模型的最灾难性后果，其计算能力水平高于当前模型的能力，训练成本超过 1 亿美元。它允许加州总检察长针对提供不符合该法案安全要求的软件的公司寻求法院禁令，并允许该办公室在人工智能导致大量死亡或基础设施网络攻击造成 5 亿美元以上损失的情况下提起诉讼。

为什么加州的法律影响整个人工智能行业

作为一个经常将自己置于新兴政策问题最前沿的州，加州在人工智能防护方面处于独特的地位。它的法律有着影响整个美国法规的历史，有时作为概念证明，但也定义了公司如果想在该州开展业务就必须如何运营。

例如，世界各地的蛋农如果想将其产品销往拥有超过 3900 万消费者的加州市场，就必须将其鸡放在散养系统中。在科技领域，公司必须允许加州居民对其个人数据进行一定程度的控制。许多公司表示，当隐私法规生效时，他们会将这些权利扩展到所有美国用户，因为根据用户居住地向用户提供两种不同级别的控制成本高昂且复杂。而且并不总是能够知道用户是否是从其他地方登录的加州居民。

包括众议员南希·佩洛西 (Nancy Pelosi)在内的一些立法者与人工智能公司一起呼吁采取联邦解决方案，他们担心逐个州的做法会造成复杂的监管混乱。但州参议员维纳表示，该州必须采取行动。他说，由于美国国会没有出台任何法规，因此加州有责任将人工智能公司的自愿承诺转化为法律要求。

维纳在周一的新闻发布会上表示，人工智能带来的风险需要采取行动。“我们应该努力规避这些风险，”他说，“而不是追赶。”

开源问题

一些开源社区的倡导者表示，该法案可能会阻止程序员公开发布人工智能软件，尽管修正案旨在解决他们的担忧。伯克曼克莱因互联网与社会中心的新任研究员本·布鲁克斯表示，他担心更新后的法案仍然要求原始程序员跟踪他们的模型在其他用户手中会做什么。

他说，这些要求“与这项技术的公开发布根本不兼容”。

韦纳认为，该法案的修正案将执法重点放在给定人工智能模型的用户上。

另一位所谓的人工智能教父杰弗里·辛顿 (Geoffrey Hinton) 在周三的一份声明中表示，该法案平衡了批评者的担忧和保护人类免遭滥用的需要。

“我仍然对人工智能通过科学和医学的进步来拯救生命的潜力充满热情，”他说，“但至关重要的是，我们必须制定切实有效的立法来应对风险。”