专栏名称: 数据派THU

本订阅号是“THU数据派”的姊妹账号，致力于传播大数据价值、培养数据思维。

独家｜欧盟关于自动驾驶和自主驾驶汽车的《人工智能法案》提案的影响

数据派THU · 公众号 · 大数据 · 2025-01-31 17:00

正文

作者：Dr. Nils Lölfing
翻译：陈超
校对：赵茹萱
本文约5000字，建议阅读6分钟
本文将分析人工智能对自动驾驶的意义，欧盟《人工智能法案》对自动驾驶的影响及后续该领域需要持续关注的问题。

人工智能被认为是辅助、自动驾驶以及自主驾驶最主要的推动者。尽管采用了跨行业的方法，欧盟针对高风险系统的《人工智能法案》并不会直接应用于自动驾驶和自主驾驶汽车（AVs）以及他们的人工智能元件，但《人工智能法案》的一些问责要求也将适用于自动驾驶汽车，未来将通过委员会在《型式核准框架规范》下的授权法案引入。

下面我们将讨论这对于原始设备制造商（Original Equipment Manufacturers，OEMs）以及传统自动驾驶和汽车内置软件服务商的意义。本文将列出《人工智能法案》对自动驾驶汽车的要求对自动驾驶汽车及其基于人工智能的安全元件开发方式具有重大影响潜力的原因。

1 引言

欧盟的《人工智能法案》提案对于许多开发或使用所谓的“高风险”人工智能系统的企业都是游戏规则改变者，因为它将引入一系列针对这种人工智能系统的开发者、供应商以及用户的新要求。

许多企业因此关注《人工智能法案》，随着布鲁塞尔立法进程的推进，这一点似乎更加明显。普遍认为人工智能需要一些形式的规范来应对由不同程度的自主算法行为所带来的新风险，但也会担心《人工智能法案》带来的规范负担会显著阻碍创新。这也会阻碍人工智能在提供社会福利和经济增长以及增长全球竞争力方面的潜力。

至少乍看起来，这并不适用于汽车行业。作为人工智能技术在该领域的主要受益者，自动驾驶汽车并不会因《人工智能法案》而衰落，至少不会这么快。委员会（到目前为止，国会和议会在讨论中也作为共同立法者）响应了欧洲汽车制造商协会（ACEA）等行业协会的呼吁，在委员会发布《人工智能法案》之前就支持“行业内的、轻松的方法”来应对人工智能。

尽管如此，这并不意味着自动驾驶汽车行业的人工智能系统未从监管的角度受到影响。事实上，当前的《人工智能法案》要求委员会在根据特定行业的车辆型式立法批准授权行为时将《人工智能法案》中的指定要求纳入考虑。考虑到人工智能对自动驾驶汽车的重要性，这有可能对汽车行业以及自动驾驶汽车的发展产生巨大影响。

2 人工智能对自动驾驶汽车的重要性

目前，人工智能被认为是辅助驾驶、自动驾驶和自主驾驶的主要推动者。如果你看一下自动驾驶汽车, 你会发现它们是复杂的“车轮上的计算机”，他们在现代车辆当中配置了大量的相互连接的复杂人工智能系统。这不仅包括真正的驾驶功能，还包括广泛的其他车载人工智能应用，如车辆安全功能、舒适功能、高级驾驶员辅助系统、连接系统和信息娱乐系统。这些相互关联的人工智能系统在将自动驾驶和自动驾驶提升到新的水平方面发挥着至关重要的作用。这些互联的人工智能系统在带领自动驾驶和自主驾驶走上更高水平方面扮演着举足轻重的作用。

为了测量人工智能赋能的自动驾驶汽车的自动和自主水平，汽车工程师协会（SAE）的行业标准定义了自动驾驶和自主驾驶汽车这两个术语，从0（无自动化）到5（完全自动）。包括原始设备制造商在内的世界各地的开发者，传统的汽车供应商以及涉足该领域的软件公司（如谷歌子公司Waymo或者苹果），目前正致力于3和4等级（某些用例在过去已经被批准）。这些等级允许汽车在特定的限制条件（在等级2，人类驾驶员必须掌控驾驶）下接管驾驶任务。虽然真正的自主驾驶（在等级5上）是不可能实现的，但随着更先进的安全功能不断集成到车辆中，车辆自动化将迅速发展。

3 欧盟《人工智能法案》对自动驾驶汽车的间接影响

虽然欧盟的《人工智能法案》对自动驾驶汽车没有直接影响，未来具体的授权法案将与自动驾驶汽车相关。除了原始设备制造商还有传统的汽车供应商和提到的软件公司应该警惕这些即将到来的需求。这些软件公司越来越多地为原始设备制造商提供人工智能应用程序，以便将其集成到自动驾驶汽车中。

《人工智能法案》是作为跨行业法律起草的，适用于各种行业的人工智能系统。尽管如此，设立某些豁免是为了避免与现有的特定行业立法发生摩擦。同样适用于汽车行业和自动驾驶汽车。规范（欧盟）2018/858（以下《型式核准框架规范》）已经要求有一个全面的类型批准进程（包括批准机关的证明）证明车辆投放欧盟市场前，汽车及其元件符合有关的行政规定和技术要求。

因此，特定的汽车相关元件（即《人工智能法案》定义的人工智能相关安全元件）不受《人工智能法案》的约束，同样需要被《型式核准框架规范》列入特定行业立法，即使这些产品和系统符合高风险人工智能的资质(第2（2)(f)条）。然而，如果这些法案涉及作为《人工智能法案》意义上的安全元件的人工智能系统（参见《人工智能法案》第80条修订《型式批准框架条例》第5条），在采用《型式批准框架条例》下的授权法案时，委员会必须将《人工智能法案》下的某些问责要求纳入考量。

上述问责要求源于《人工智能法案》第2章第III部分，该法案规定了高风险人工智能系统的法律要求，包括但不限于风险管理、数据和数据治理、文件和记录保存、透明度、人为监督、稳健性、准确性和安全性。因此，这些要求必须在委员会根据汽车行业和自动驾驶汽车的技术和监管特点采用的未来授权法案中加以考虑。虽然授权行为具有非立法性，但仍具有法律约束力。

4 未来自动驾驶汽车授权法案下与车辆相关的人工智能系统的范围和核心要求

在未来的授权法案中，一些最具争议的话题可能与这些人工智能法案对自动驾驶汽车的要求范围，以及如何将数据治理、风险管理和人类监督的要求应用于自动驾驶汽车有关。为了避免阻碍自动驾驶汽车的发展，委员会必须提供明确的要求，允许原始设备制造商、汽车和软件供应商在自动驾驶汽车中合理地实施高风险的人工智能系统。我们的目标必须是在降低风险和允许自动驾驶汽车创新获得社会效益之间找到适当的平衡，例如减少交通流量和事故，或减少燃料消耗和排放。

范围

为了满足委员会授权法案下潜在的未来要求，为自动驾驶汽车提供或内置的人工智能系统必须符合《人工智能法案》意义上的安全元件。鉴于自动驾驶汽车固有的高风险性质（能够造成严重的人身伤害或死亡，以及财产损失），可以说，将自动驾驶汽车的人工智能系统也视为安全元件也是显而易见的。然而，考虑到一辆普通的载客车包含超过30,000个部件，其中包括各种不同功能的人工智能系统可供使用（并且有增加的趋势），应该明确定义在哪些特定情况下使用的人工智能系统可以作为安全元件。考虑到《人工智能法案》第3（14）条中“产品或系统的安全元件”一词的定义，这一点更加重要，该定义过于宽泛：

“‘产品或系统的安全元件’是指产品或系统的元件，该元件满足该产品或系统的安全功能，其失效或故障危及人身或财产的健康安全”。

特别是在车辆中，这个定义的第一部分意义深远。符合此定义的安全元件可以是支持自动驾驶系统的人工智能系统（例如分析街道标志、识别物体的人工智能系统等）。此外，分析车辆功能的人工智能系统（例如监测轮胎压力或油温或电池/油箱的值）可能属于授权法案的范围。人们甚至可以将允许进入车辆的面部识别软件列入高风险（尽管这是每个现代智能设备的标准）。

因此，某些与安全相关的汽车应用，如舒适功能、信息娱乐应用、车辆警告或其他较弱的驾驶自动化功能，不应该受到未来的授权法案的约束，这些法案应该只管理自动驾驶汽车中的高风险人工智能。该范围还应不断更新，以反映SAE行业标准下不断发展的自动化水平，保持风险对称并为创新保留空间。

数据治理

在任何部署人工智能的领域，对运行良好的人工智能系统的高质量数据的需求都是显而易见的。因此，《人工智能法案》要求训练、验证和测试数据集具有代表性。然而，对于自动驾驶汽车来说，这一点尤为重要，因为世界各地的驾驶环境千变万化，而且像自主驾驶汽车这样的安全关键系统，无论天气条件、能见度或路面质量如何，都需要完美运行。训练自动驾驶汽车的算法意味着在实践中需要千万亿字节的训练数据，并且可能需要很长时间。

因此，重要的是，一方面要求原始设备制造商以及传统的汽车和软件供应商为自动驾驶汽车提供具有真实世界数据进行适当训练，以避免过拟合（由于训练数据不够多样化导致偏差）和社会危害。但是，另一方面，如果由此带来的好处（例如，减少道路交通对环境的影响）超过了训练数据代表性方面的任何合理不足，则这不应阻碍自动驾驶汽车的发展。因此，代表性数据集的标准不应该是绝对的，而应该考虑到平衡。其他领域当然也是如此，但对于自动驾驶汽车来说尤其重要，因为它们的发展带来了巨大的利益。

风险管理

必须为高风险人工智能系统建立风险管理系统，其中包括识别、分析和减轻与高风险人工智能系统相关的可能风险。传统车辆所承担的风险与采用自动驾驶汽车所带来的风险不同。此外，与自动驾驶汽车相关的风险不仅不同，而且更为普遍，而且随着自动驾驶汽车自主水平的提高，风险也会发生变化（参见上文提到的SAE行业标准）。

因此，需要明确的是，对于原始设备制造商以及传统汽车和软件供应商来说并不明显的其他风险，在多大程度上必须纳入自动驾驶汽车的风险管理体系，以及如何平衡它们。例如，是否应该考虑与自动驾驶汽车对从事驾驶职业的工人、服务和维修中心以及保险行业的重大影响相关的社会风险，以及如何通过改进自动驾驶汽车的制动和加速方式来减少排放。

人为监管

根据《人工智能法案》提案，高风险人工智能系统的设计和开发应以这样的方式进行，包括使用适当的人机界面工具，以便在人工智能系统使用期间由自然人有效监督。对于自动驾驶汽车来说，有效地监督其使用者的整个使用情况几乎是不可行的，因为大多数决策都是实时做出的，需要即刻执行，没有机会推翻重来。此外，随着技术的进步越来越符合SAE标准，自动驾驶汽车也会让驾驶员把越来越多时间花在与驾驶无关的事情上，这将使有效的监督机制变得更加复杂。

为了有效地监督自动驾驶汽车的行为，向驾驶员提供车辆的运行状态是很重要的，这样他们就能知道在必要情况下如何干预驾驶。这不仅需要使驾驶员能够意识到当前的环境并允许他们进行干预的技术创新，还需要在自动驾驶汽车法规中实施这一合理要求的解决方案来指导驾驶员了解汽车真正的自主能力水平以及这在监督和干预机会方面意味着什么。

5 关注这个领域

对于原始设备制造商以及传统的汽车和软件供应商来说，关注这一领域非常重要，因为在《型式批准框架规范》下应用的《人工智能法案》要求有可能对未来自动驾驶汽车及其基于人工智能的安全组件的开发方式产生重大影响。事实上，委员会必须同由会员国代表组成的专家组协商，这些专家组定期或不定期开会，然后才能通过授权法案（其中将列出这些要求）。然而，从行业的角度来看，进一步强调风险与创新之间的平衡，以及汽车行业为实现法律确定性而制定特定环境要求的重要性，将是非常重要的。

感谢Bird & Bird培训生Timon-Johannes Engel对本文的贡献。

*除非另有说明，所有提及欧盟人工智能法案提案的内容均指欧盟委员会的链接版本。

原文标题：

Impact of the EU's AI Act proposal on automated and autonomous vehicles

原文链接：

https://www.twobirds.com/en/insights/2023/global/impact-of-the-eus-ai-act-proposal-on-automated-and-autonomous-vehicles

编辑：王菁

译者简介

陈超，北京大学应用心理硕士，数据分析爱好者。本科曾混迹于计算机专业，后又在心理学的道路上不懈求索。在学习过程中越来越发现数据分析的应用范围之广，希望通过所学输出一些有意义的工作，很开心加入数据派大家庭，保持谦逊，保持渴望。

翻译组招募信息

工作内容：需要一颗细致的心，将选取好的外文文章翻译成流畅的中文。如果你是数据科学/统计学/计算机类的留学生，或在海外从事相关工作，或对自己外语水平有信心的朋友欢迎加入翻译小组。

你能得到：定期的翻译培训提高志愿者的翻译水平，提高对于数据科学前沿的认知，海外的朋友可以和国内技术应用发展保持联系，THU数据派产学研的背景为志愿者带来好的发展机遇。

其他福利：来自于名企的数据科学工作者，北大清华以及海外等名校学生他们都将成为你在翻译小组的伙伴。

点击文末“阅读原文”加入数据派团队~

转载须知

如需转载，请在开篇显著位置注明作者和出处（转自：数据派ID：DatapiTHU），并在文章结尾放置数据派醒目二维码。有原创标识文章，请发送【文章名称-待授权公众号名称及ID】至联系邮箱，申请白名单授权并按要求编辑。

发布后请将链接反馈至联系邮箱（见下方）。未经许可的转载以及改编者，我们将依法追究其法律责任。

关于我们

数据派THU作为数据科学类公众号，背靠清华大学大数据研究中心，分享前沿数据科学与大数据技术创新研究动态、持续传播数据科学知识，努力建设数据人才聚集平台、打造中国大数据最强集团军。

新浪微博：@数据派THU

微信视频号：数据派THU

今日头条：数据派THU

点击“阅读原文”拥抱组织