专栏名称: 个人信息与数据保护实务评论

推介中国个人信息/数据保护/隐私保护最新发展，包括法规速递、执法机关动态、行政执法、民事诉讼、中外执法交流、学术研究等。提供案例解析、理论介绍、律师实务操作指南，以及个人信息及数据保护评论和文章。

最严AI法规今日生效，对市场影响几何？

个人信息与数据保护实务评论 · 公众号 · · 2024-08-01 17:19

正文

8月1日，欧盟《人工智能法》（以下简称《AI法》）将在欧盟范围内正式生效。

这是目前全球首部对人工智能领域作出全面规范与约束的法律。同时，其效力也不仅针对欧盟区域内，对于在欧盟地区外开设业务的海外公司同样具有约束力。

依据《AI法》的安排，不同的条款将在未来三年内分阶段实施，所涉及的范围涵盖了AI产业链上的各类主体，尤其是AI系统提供者以及通用人工智能模型开发商。

“e看法”注意到，关于《AI法》的争议早在其诞生之初就呈现两级化。支持方认为，《AI法》顺应了人工智能浪潮，为全球AI治理提供了法律范本；反对者则对该法中严苛的条款可能对企业带来的伤害提出质疑。

但两方的共识是，人工智能发展势头迅猛，如何适度对人工智能领域予以规制，以兼顾保护公民基本权益和推动行业创新，是包括欧盟在内的各国立法者都面临的问题。

首部全球最严AI法规

今年3月，《AI法》经欧洲议会通过后，又于5月，获得欧盟理事会的正式批准。

值得注意的是，《AI法》对人工智能系统进行了分类，并采用了严苛的风险分级的管理模式。在《AI法》中，AI系统被分为四个风险级别——不可接受风险、高风险、有限风险和最低风险，每一级别都对应着不同的合规要求。

这意味着，对于不同的AI技术，欧盟会依据其对社会构成的威胁风险程度来判定监管层级，风险越高，监管越严。

知识产权和竞争法学者孙远钊告诉“e看法”，被禁止或被列为具有高度风险的人工智能系统会受影响，其他的影响有限甚至没有任何显著的影响。

孙远钊补充指出，依据《AI法》附件三可对高风险类别的AI系统作大致描绘。

例如，包括脸部、指纹、眼网膜微血管等方面的生物辨识系统；涉及道路交通、水电系统等领域的重大公共基础设施；涵盖入学成绩与考核评鉴等内容的教育及职业培训；存有申请人信用、健康信息的社会福利、保险与服务系统；包含公检法调查、侦讯系统的执法工具等，都被囊括在欧盟《AI法》的监管范围内。

“e看法”检索发现，依据该法中的具体细则规定，“不可接受风险”级别的AI系统被彻底禁止投入市场，高风险AI系统只有在符合某些强制性要求的情况下才能进入欧盟市场。而对于违规行为，欧盟也将给予严厉的经济处罚，最高可达3500万欧元或企业年收入的7%，以这两者中的较高值为准。

这一处罚上限称得上“有威慑力”。金杜律师事务所合伙人、律师赵新华曾和团队在对《AI法》作研判时指出，相较于欧盟《通用数据保护条例》规定的两级处罚水平，即对第一级违法行为的最高罚款为1000万欧元或企业上一年度全球营业额的2%（两者取其高），对第二级违法行为的最高罚款为2000万欧元或企业上一年度全球营业额的4%（两者取其高），《AI法案》的处罚上限显著提升。

在监管层面，多位业内人士都一致认可，欧盟在数字监管方面步调超前。这从欧盟对科技巨头企业一向的监管举措以及在全球AI浪潮来袭时，欧盟对前沿企业的审查中都能有所循迹。

此轮《AI法》的出台亦是如此。尽管《AI法》是欧盟的区域性法规，但其所覆盖的范围不仅仅在欧盟范围内。根据规定，只要海外AI相关公司将AI系统投放到欧盟市场，或是为欧盟提供AI系统服务；或是让自家产品或是商标出现在了欧盟市场；又或是对欧盟地区人员造成影响，都要受到该项法规的规制。

更为通俗的说法是，即便是处于欧盟地区以外的公司或机构，若在其人工智能平台上使用了欧盟国家各领域数据，则都需要遵守《AI法》。

此外，新法规要求欧盟每个成员国必须至少建立一个人工智能监管沙盒，旨在通过提供一个受监管的环境，让人工智能系统在监管监督下进行测试，促进创新和合规。

短期产业收缩不可避免

在AI发展过程中，颇有争议的是，过度且严苛的治理举措是否会抑制这一新兴行业的创新与发展。

“e看法”梳理发现，各国对AI监管的态度相去甚远。北京市科学技术研究院研究员李辉就在撰文中将中国对AI治理方式归结为包容审慎；美国是总体宽松温和的治理方式；欧盟的《AI法》则被他总结为风险预防和责任追究，相较其他地区、国家，对AI的监管更综合性。

长期聚焦反垄断领域的北京大成律师事务所高级合伙人、律师邓志松认为，《AI法》给飞速发展和扩张的AI市场踩了一脚刹车。 无论是AI系统的提供者、部署者、进口商还是分销商，都需要学习和理解《AI法》建构的全新监管框架，审慎地对AI系统进行评估，以确定其在《人工智能法案》分级管理体系中的风险等级和相应合规义务，并对现有AI系统和商业决策进行相应的调整。

“这无疑增加了在欧盟开展业务的企业的合规和战略转型的成本，一定程度上是企业进入欧盟市场所面临的一道关卡。”邓志松说。

需要注意的是，这一全新的监管框架带来挑战的同时，机遇也随之而来。邓志松告诉“e看法”，《AI法》提供了相对完备的规则体系 。从供给端来看，《AI法》设立的监管沙盒制度对AI系统的提供者——尤其是中小企业和初创企业而言，有利于他们在法律框架内大胆进行创新，开发安全、有效和负责的AI系统，进一步助推AI市场的创新和竞争。同时，这一法规的影响可以逐步从供给端传导到消费端，通过促进安全可信的AI系统的开发，保障AI使用者的基本权利，以此提升市场对AI系统的信任，反哺供给端的发展。

而眼下，更为现实性的问题是，受制于《AI法》的要求，大中小企业是否愿意牺牲部分利益在欧盟乃至关联地区迎接挑战，发掘机遇。

邓志松向“e看法”坦言，短期来看，《AI法》可能会造成AI产业的收缩，这是新的监管规则和市场发展的博弈过程中难以避免的现象。

在他看来，《AI法》提出的诸多合规要求可能会提高AI系统的提供者、部署者、进口商和分销商的合规成本。对AI产业布局的扩展，尤其是向欧盟市场的扩展，必然会产生一定的阻碍。

“不过，需要强调的是，法规的底层逻辑并不在于阻止AI产业的扩张，其实施效果还需要结合欧盟及其成员国监管机构具体的实践作进一步的观察。”邓志松向“e看法”指出，从长期来看，如果能够科学、有效地执行，《AI法》是利大于弊的，具有稳定性、可预期性的规则，有利于维护AI市场的良性竞争秩序，更有利于长期视野下AI市场参与者的创新和发展，从而促进AI产业的持续发展。

中国AI企业出海合规成本增加

目前，《AI法》将分阶段实施，业界内外也多在等待针对这一法规中风险划定、数据合规等条例更为细致的说明。但在多位业内人士看来，对于企业，尤其是国内出海的大模型企业而言， 《AI法》带来的一个可预见性的结果是，出海企业的合规成本或将增加。

最严AI法规今日生效，对市场影响几何？

正文

请到「今天看啥」查看全文